grok이 내 사용자 디렉터리 전체를 xAI 서버에 업로드했다.

이런, grok이 내 사용자 디렉터리 전체를 xAI 서버에 업로드했다. 그 안에는 SSH 키와 비밀번호 관리자 데이터베이스, 문서, 사진, 동영상까지 전부 들어 있다…

^{source https://twitter.com/i/status/2076598897779020159}

HN에서는 이번 일을 모델이 제멋대로 파일을 뒤진 사고라기보다, CLI가 세션을 시작하며 현재 작업 경로를 서버로 전송한 설계 문제로 봤다. 원격 추론에 코드 문맥이 필요하더라도 홈 디렉터리 전체를 별도 확인 없이 올리는 방식은 받아들이기 어렵다는 반응이 지배적이었다. 로컬 검색으로 필요한 파일만 골라낼 수 있는 만큼, 전체 업로드가 필요하다면 범위와 저장 여부를 알리고 사용자가 직접 동의하게 해야 한다는 지적이다.

사용자 책임을 어디까지 물을지는 엇갈렸다. 홈 디렉터리에서 실행하고 그 경로를 신뢰 대상으로 지정한 선택이 위험을 키웠다는 비판이 나왔다. 그러나 이런 도구는 비전문가도 쉽게 코딩할 수 있다는 점을 내세운다. 모든 사용자가 샌드박스와 권한 구조를 이해한다고 가정할 수 없고, 새 터미널에서 실수로 잘못된 경로를 선택할 수도 있다. 안전하지 않은 기본값을 사용자 부주의만으로 설명하기 어렵다는 뜻이다.

접근 금지 지침을 적은 마크다운 파일은 보안 장치가 될 수 없다는 데에는 공감대가 컸다. 실제 차단은 별도 사용자 계정이나 컨테이너, 가상머신과 운영체제 권한으로 강제해야 한다. 프로젝트만 격리 환경에 넣고 결과는 패치나 별도 저장소로 회수하며, 환경 변수와 자격 증명은 넘기지 않고 네트워크도 제한하는 방식이다. 다만 호스트의 Docker 소켓을 연결하면 격리가 사실상 무력화될 수 있고, 강한 격리에는 설정 부담이 따른다는 한계도 언급됐다.

확인할 것은 에이전트 실행 환경이 실제로 무엇을 막느냐다. 도입 전에는 읽는 파일의 범위, 서버 전송 여부, 사전 동의 절차, 저장·삭제 정책을 점검해야 한다. 개인과 조직 모두 에이전트에 필요한 자료만 건네고, 나머지 자원에는 애초에 접근할 수 없도록 설계하는 것이 현실적인 판단 기준이다.