미토스 중단 사태가 증명한 것, 그리고 소버린AI를 둘러싼 오해

출처: 이승현님 페이스북

6월 12일, 앤스로픽이 자사의 프론티어 모델 Fable 5와 Mythos 5의 서비스를 즉시 중단했습니다. 엔스로픽의 결정이 아니라, 미국 정부가 국가안보 권한을 근거로 수출 통제와 접근 차단 행정명령을 내렸고, 앤스로픽은 그 명령을 따랐습니다. 어제 작업을 하다가, 오늘 이어서 하려고 했는데, 당황스럽습니다.

미 정부는 두 모델을 무력화할 수 있는 특정 탈옥 기법을 인지했다고 주장했고, 앤스로픽은 강하게 반박했습니다. 다른 프론티어 모델도 똑같이 가진 경미한 결함일 뿐이며, 완벽한 탈옥 방지는 애초에 불가능하고, 자사는 다중 방어 체계로 안보 위해를 차단해 왔다는 것입니다. 이 정도 좁은 취약점을 이유로 상용 모델을 회수한다면 업계의 신규 배포가 전면 중단될 것이라 경고하며, 절차적 문제를 제기하고 24시간 안에 기술적 해명을 내놓겠다고 했습니다.

그런데 말입니다. 중요한건, 기술적 문제가 아닙니다.

탈옥 기법이 실재했는지, 결함이 정말 경미했는지는 부차적인 문제입니다. 본질적으로 심각한 문제는 딱 하나입니다.

**** 미국 정부의 행정명령 한 장에 심지어 동맹국에게 조차도 상용 프론티어 모델이 하룻밤 사이에 꺼졌다는 사실입니다. 중국과 같은 사회주의 국가도 아니고, 미국에서 말입니다. ********

제가 <AI 국부론> 에서 계속 강조해온 AI의 국가전략자산화가 실체적으로 다가오고 있는 것입니다. 결국, 이 사태로 오늘도 보면 많은 분들이 <소버린 AI> 의 중요성을 다시금 강조하게 되고 있습니다.

그런데, 꼭 소버린 AI를 말하기 시작하면 어김없이 열을 올리는 사람들이 있습니다. 어제인가 코리아스타트업포럼에서도 자체 모델, 자강력을 얘기하는 박영선 전 장관에게 모 스타트업 대표가 "개인과 기업이 국가를 자유롭게 선택할 수 있는 시대에 과연 소버린이라는 개념이 존재할 수 있느냐” 와 같은 얘기를 하더군요. 그들의 레퍼토리는 대체로 정해져 있습니다.

소버린 AI라는 게 결국 한컴 한글 같은 것 아니냐, 국산화를 고집하다 갈라파고스가 되고 만다는 냉소입니다. AI는 분기마다 판이 뒤집히는데 그 속도를 따라가려면 빅테크의 기술에 올라타는 수밖에 없다는 주장이 다른 하나입니다.

절반은 맞는 말이지만, 결정적인 대목에서 틀렸습니다. 우선 분명히 해두겠습니다. 지금 소버린 AI를 말하는 사람 가운데 누구도 폐쇄를 주장한 적이 없습니다. 견제와 균형, 연결성, 적절한 오케스트레이션을 얘기하는 겁니다. 자유롭게 선택을 하면? 여러번 반복하지만, 경상수지 흑자도 토큰의 폭증으로 한순간에 적자로 전환할 수 있는 시대입니다. 그러면 환율도 오르고, 사용료는 폭증하며, 대안은 없어 조정작용도 일어나지 않고, 적자는 더 심화됩니다.

개인과 기업이 국적과 거점을 자유롭게 선택하는 디지털 글로벌 시대에도 소버린의 가치는 변함없이 유효하다고 봅니다. 국가는 인류 역사상 가장 오래된 사회계약의 산물로서 구성원과 국가가 서로의 권리와 의무로 결합된 유기체죠죠, 그래서, 헌법에 명시된 국방과 납세의 의무가 있는 겁니다.

기업이 거점을 옮기더라도 결국 또 다른 국가의 소버린 체계 안으로 진입하는 것일 뿐이기에, 국가가 공동체의 생존을 위해 무역 전략, 국내 산업 보호, 자강(自强) 전략을 펼치는 것은 시대를 막론한 국가의 당연한 권리이자 책무입니다. 미국의 요즘 전략은? 보호무역주의 + 팍스아메리카나 입니다.

최근의 글로벌 시장은 기술 패권 경쟁과 공급망 무기화로 인해 안보와 경제가 하나로 묶인 지정학적 현실을 마주하고 있습니다. 기업이 아무리 뛰어난 경쟁력을 갖추었더라도 국가라는 거시적 외교, 안보적 울타리 없이는 안정적인 경영 활동과 자산 보호가 불가능하다고 봅니다.

자본주의 사회에서 기업이 사적 이익을 추구하는 것은 당연한 권리이지만, 자신이 딛고 선 국가적 기반과 공동체의 전략적 고민마저 무시한 채 이익만을 쫓는 맹목적인 태도는 본질을 망각한 리스크라고 봅니다.

AI는 이제 단순히 기술이 아니라, 거시경제적 문제고, 국가전략자산의 문제기 때문입니다.

제가 얘기하는 <연결된 자율성>이라는 개념의 대전제부터가 세상과 단절된 갈라파고스 AI를 거부한다는 데서 출발합니다. 빅테크 모델에 올라타라는 말도 옳습니다. 문제는 그다음입니다. 올라타되 운전대까지 넘기라고 말한 사람은 아무도 없습니다.

핵심은 협상력입니다. 자기 기술을 가지고 남의 기술을 쓰는 것과, 가진 것 하나 없이 남의 기술을 빌려 쓰는 것은 전략의 차원도, 협상력의 차원도 전혀 다릅니다. 자체 메모리와 모델과 인프라를 쥔 나라가 빅테크의 API를 쓰는 것은 선택입니다. 가진 것 없이 쓰는 나라에게 그것은 종속입니다. 똑같은 모델을 쓰면서도 한쪽은 단가를 협상하고, 다른 한쪽은 통보를 받습니다.

6월 12일이 바로 그 차이를 증명했습니다. 빌려 쓰기만 하던 쪽은 스위치가 눌리는 순간 끝입니다. 대안도 회복력도 협상 카드도 남지 않습니다. 위험한 것은 폐쇄성이 아니라, 빌린 것밖에 없는 상태입니다. 소버린 AI는 문을 닫자는 전략이 아니라, 협상 테이블에 앉을 자격부터 갖추자는 전략입니다.

그래서 락인을 단순한 비용 문제로만 보면 본질을 놓칩니다. 미국은 GPU 공급망을 통제하고 동맹국에만 기술을 선별해 제공하는 방식으로 오래전부터 AI를 안보 자산으로 다뤄 왔습니다. 동맹국에는 마치 최고의 대우로 공급할 것처럼 얘기했었죠. 26만장 GPU? 그때도 마냥 좋아만 보였죠.

이번 미 연방정부의 행정명령은 심각함을 내포하고 있습니다. 특정 벤더의 폐쇄 모델 위에 행정과 국방, 사법과 의료를 올리는 순간, 그 모델을 켜고 끄는 스위치는 우리 손이 아니라 워싱턴에 놓입니다. 락인은 회계장부에 적히는 부채가 아니라 안보의 문제인 것입니다.

그렇다면 답은 무엇일까요. 폐쇄가 아니라 투트랙, 쓰리트랙입니다. 우리 AI, 데이터, 기술, 인지 주권도 확보하고, 좋은 빅테크 모델도 써야죠. 적재적소에 말입니다. 그러면서, 이번 미토스 중단과 같은 사태가 왔을때, 곧바로 페일오버가 되어야겠죠.

이런 사례도 있습니다. 화상회의 기업 줌의 Z-Scorer가 이 방식을 이미 증명했습니다. 내부의 자체 모델을 쓰면서 보안 게이트웨이를 통제하고 외부의 프론티어 API는 필요할 때만 조달하는 연합 AI 전략으로, 줌은 인류 최후의 시험이라 불리는 고난도 벤치마크에서 빅테크의 자체 모델들을 제치고 종합 1위를 차지했습니다. 결국 관건은 소유가 아니라, 누구를 언제 어떻게 쓰고 검증할지를 결정하는 지휘권이자 통제권입니다.

이 모든 갈래는 결국 하나의 전략으로 수렴합니다. 미토스 사태가 드러낸 외산 폐쇄 모델 의존의 취약성은 어느 하나의 묘책이 아니라 세가지 전략이 함께 받치는 트라이포드 전략으로 가야합니다.

첫 번째는 상호 락인입니다. 메모리와 제조 데이터, 그리고 NPU를 무기로, 일방적으로 빌려 쓰기만 하는 관계가 아니라 우리의 기억 시스템과 실측 데이터 없이는 상대의 시스템도 돌아가지 않는 구조를 짜는 것입니다. 엔비디아의 GPU를 쓰더라도 그 밑단의 기억만큼은 한국의 아키텍처를 따르게 만드는 것, 회수당하지 않는 유일한 길은 상대 역시 우리를 회수하지 못하도록 묶어두는 것입니다. 그리고 HBM에서 HBF까지 AI가속기에 중요해진다면, 우리는 이를 활용하여 차세대 GPU 에서는 단순한 공급자가 아닌 설계자로 참여할 수 있어야 합니다.

두 번째는자체 역량입니다. 한국은 메모리와 파운드리, 엑사원이나 솔라프로, 하이퍼클로바 같은 자체 소버린 모델, 그리고 클라우드까지 모두 보유한, 세계적으로도 드문 풀스택 국가입니다. 이 자산을 등급으로 나누어, 안보 수위가 높은 구역에는 가중치와 토크나이저까지 통째로 통제하는 최고 등급의 소버린 모델을 의무화하고, 시스템을 멈출 수 있는 소프트웨어 킬 스위치를 우리 손에 둡니다. 빌린 두뇌가 회수되더라도 돌아갈 자기 두뇌가 있어야 하기 때문입니다.

세 번째는 연결된 자율성입니다. 외부의 최고 모델은 끝까지 끌어다 쓰되, 최종 지휘권은 컨트롤러 에이전트가 쥡니다. 단일 벤더에 국가 행정 전체를 맡기는 대신, 범정부 차원의 멀티 모델 체계와 적재적소의 거버넌스로 보안 등급에 맞춰 모델을 갈아 끼웁니다. 오케스트레이션을 쥔 쪽에게는 특정 모델 하나의 중단이 재난이 아니라 그저 교체 작업일 뿐입니다.

이 세가지는 따로 떼어 생각할 수 없습니다. 상호 락인이 없는 자체 모델은 고립된 갈라파고스가 되고, 자체 역량이 없는 연결은 종속으로 미끄러지며, 연결이 없는 락인은 고비용의 폐쇄로 굳어 버립니다. 세가지가 동시에 서야, 주권과 최신성, 글로벌 생태계 참여가 같이 돌아갑니다.

그러니까. 소버린AI 얘기할때, 무슨 쌍팔년도 냉소적으로 한컴 워드 얘기는 이제 안했으면 합니다. 그런 논의 다 지나왔습니다. 어떻게 적재적소에 필요한 모델을 활용하고, 연결하고, 어떻게 역량을 키우고, 어떻게 최신 혁신도 산업과 공공에 활용할지 치열하게 고민들을 하고 있습니다.

위험한 것은 폐쇄성이 아니라 빌린 것밖에 없는 상태이며, 외부의 두뇌는 빌리기도 하되 운전대만큼은 손에 쥐는 것이야말로 갈라파고스의 정반대입니다. 새삼스러운 주장은 아닙니다. 『AI 국부론』에서 줄곧 해온 이야기입니다.

*p.s.:

그래서, 다들 <AI 국부론> 을 꼭 보셔야 합니다^^

교보문고 : https://product.kyobobook.co.kr/detail/S000219391555