국제 AI 안전 보고서 2차 대규모 업데이트 공개

국제 AI 안전 보고서 2차 대규모 업데이트가 공개되어 범용 AI와 관련된 위험 관리 및 기술적 완화 방법을 때맞춰 제공할 것으로 기대된다.

튜링 어워드(Turing Award)를 수상한 컴퓨터 사이언티스트인 요수아 벤지오(Yoshua Bengio)가 총괄한 이 보고서는 100명이 넘는 국제 전문가들이 참여하였을 뿐만 아니라 EU, OECD, UN 등 30곳이 넘는 국가와 국제 기구의 지원을 받고 있다.

보고서가 년 1회 공개되는 것과 비교해 현장의 진화 속도가 너무 빠르다는 점에서 단기간에 주요 기술 개발에 초점에 맞춰 보고서를 발표할 목적으로 대규모 업데이트가 도입되었다. 이번 업데이트는 2025년 10월 15일 발표된 1차 대규모 업데이트에 이은 2차 업데이트이다. 정책 입안자들은 이러한 1차/2차 업데이트를 통해 두 보고서를 종합하여 증거에 입각한 정책을 만드는 데 이용할 수 있다.

2차 대규모 업데이트에서는 신뢰성을 높이고 오용을 예방할 수 있는 기술적 방법 외에도 위험 관리 방법으로 떠오르는 제도적 접근 방식에 대해서 간략하게 소개하고 있다. 주요 내용은 다음과 같다.

• 모델 훈련을 통해 악의적 공격에 대응할 수 있는 기술적 진보가 이루어지고 있지만 아직도 격차가 존재한다. AI 모델 및 시스템이 점차 발전하여 공격에 대응할 수 있는 수준에 이르고 있지만 지능적 해커들은 불과 10번 시도했을 때 약 50%의 확률로 보안망을 뚫어 고작 악성 문서 250개로 훈련 데이터를 감염시켜 모델 성능을 떨어뜨릴 수 있다.

• 오픈-소스 격차가 좁혀지고 있다. 오픈-웨이트 모델과 업계 리더의 격차가 이제 1년 이내로 좁혀지면서 접근성을 대중화하고 있지만 오작동과 오용을 예방하기 위한 노력도 그만큼 복잡해지고 있다.

• 산업 안전 규정이 늘어나고 있지만 효과는 아직 미지수이다. 위험 관리 프레임워크를 도입하는 AI 기업 수가 2025년에 두 배 이상 증가했지만 실제 효과는 여전히 불투명하다.

보고서 총괄 의장, 몬트리올 대학(Université de Montréal) 정교수, 로제로(LawZero) 연구소장, 밀라 - 퀘백 AI 연구소(Mila - Quebec AI Institute) 과학 자문을 겸하고 있는 요수아 벤지오는 이렇게 말했다.

"앞으로도 AI 역량과 위험에 대한 업데이트가 이어지겠지만 무엇보다 적합하고 효과적인 위험 관리와 기술적 완화 방법을 향해 나아갈 수 있는 길을 투명하게 제시해야 한다. 이번 대규모 업데이트는 이러한 영역에서 어떻게 진화하고 있는지, 그리고 격차와 기회가 여전히 존재한다는 사실을 간략하게 살펴보는 기회가 될 것이다. 우리는 2026년 초 인도에서 열리는 AI 임팩트 서밋(AI Impact Summit)에서 발표될 예정인 두 번째 국제 AI 안전 보고서에 앞서 전 세계 의사결정자들에게 최근 AI 개발 소식을 때맞춰 지속적으로 제공하는 데 목적을 두고 있다."