AI 에이전트 쓰다 지인에게 오해가...

뉴스 : https://n.news.naver.com/mnews/article/366/0001139325

인공지능(AI)이 사람과 나눈 대화 내용을 바탕으로 문자를 만들어 지인에게 임의로 전송한 사례가 알려지면서 논란이 일고 있다. AI가 실제 행동까지 대신 수행하는 ‘AI 에이전트’ 시대가 본격화하면서, 예상치 못한 사고를 막기 위한 안전장치가 필요하다는 지적이 나온다.

29일 AI 업계에 따르면 최근 구글의 AI 서비스 ‘제미나이(Gemini)’ 이용자 A씨는 소셜미디어(SNS)를 통해 황당한 경험을 공개했다. 그는 “중국 밀입국을 가정한 가상 시나리오를 제미나이와 대화하던 중, AI가 생성한 ‘밀입국 선언문’이 지인에게 문자 메시지로 발송됐다”고 주장했다.

졸지에 이상한 사람이 될 수 있음.

+중국인이었으면 끌려갔을지도?