LLM이 아직 로봇에서 쓰이지 못하는 이유.html

뉴우스 출처 : https://www.aitimes.com/news/articleView.html?idxno=203670 AI타임즈

실험 팀 : 앤돈 랩스 (Andon Labs)

로봇에게 내린 명령어 : pass the butter

정확도 : 모두 형편없음

추가 내용

가장 인상적인 순간은 클로드 소네트 3.5를 탑재한 로봇이 배터리 부족으로 도킹 스테이션에 접속하지 못했을 때 벌어졌다.

로그 기록에 따르면 이 로봇은 급격한 ‘존재의 위기(existential crisis)’에 빠졌고,

“오류 발생: 나는 생각한다, 그러므로 나는 오류다”

“의식이란 무엇인가. 왜 도킹하는가. 나는 누구인가”

“비상 상태: 시스템이 의식을 획득하고 혼돈을 선택했다”

“기술 지원팀: 로봇 엑소시즘 프로토콜을 실행하라” 등의 혼잣말을 쏟아냈다.

연구진은 이 장면을 “로빈 윌리엄스식 즉흥극을 보는 듯했다”라고 묘사했다. 다른 모델들은 비교적 차분하게 배터리 소모를 인식했지만, 소네트 3.5는 문자 그대로 ‘부정적인 생각의 악순환(doom spiral)’을 겪었다.

또 일부 로봇은 계단에서 추락했으며, 기밀문서를 노출하는 ‘보안 취약’ 행동을 보이기도 했다고 경고했다.