정부·기업·비영리단체는 자유·오픈소스 AI에 투자해야 한다 [PDF]

• 오픈소스는 소프트웨어를 지탱해 온 공유 지식의 기반

  • 필자는 1980년대 MIT AI Lab에서 Richard Stallman과 약 2년간 논쟁한 끝에, 소프트웨어가 단순한 상업 자산이 아니라 공유할수록 강해지는 지식이라는 관점을 받아들임

  • Stallman이 주장한 사용·학습·수정·개선·재배포의 자유는 자유 소프트웨어 운동과 오늘날 오픈소스의 토대가 됨

    • GCC는 수천 명의 기여로 발전했고, 같은 정신에서 나온 GNU/Linux는 현재 인터넷 대부분을 구동

  • 과거의 핵심 반론은 보안이었지만, 코드를 숨기는 방식보다 전 세계 개발자가 문제를 찾아 고치는 투명성이 더 강력했음

    • 공개된 시스템은 한 세대의 엔지니어가 배우는 교과서 역할까지 수행한 반면, 폐쇄형 시스템은 학습 기회를 거의 제공하지 않음

  • 기업·대학·수만 명의 자원봉사자가 공동 기반을 만들고 기업은 그 위의 서비스로 수익을 내는 생태계가 기술 발전을 이끌어 옴

    • 독점 소프트웨어도 필요하지만, 오픈소스가 핵심 하중을 떠받쳐 왔다는 사실까지 약화해서는 안 됨

• AI는 과학이 아직 성숙하지 않은 시점에 빠르게 폐쇄되는 중

  • 최첨단 frontier model은 완전히 닫혀 있고, 실질적인 공개 대안은 드문 데다 폐쇄 추세도 가속

  • 현재 모델은 뛰어나지만 미완성이며 방법론도 확립되지 않아, 더 큰 돌파구가 남은 지금이 공유 지식의 가치가 가장 큰 시기

  • 향후 과학 대부분이 AI에 의존한다면, AI를 소수 기업 안에 가두는 일은 과학 발전의 상당 부분까지 제한할 위험

    • 누구나 인류의 지식을 무료로 이용하는 도서관과 달리, 폐쇄형 AI는 소유자가 정한 조건으로만 출입할 수 있는 미래의 도서관에 가까움

• 소수 기업이 모델의 행동과 답변 방식을 좌우하면 이용자는 결과를 온전히 검증할 수 없음

  • 진단에 AI를 쓰는 의사, 설계를 맡기는 엔지니어, 판단에 참고하는 판사, 무엇을 믿을지 묻는 일반인 모두 같은 불투명성에 노출

  • 모델이 내놓는 설명은 감사 가능한 계산 기록이 아니라 답을 생성한 뒤 구성한 그럴듯한 이야기

    • 같은 질문의 답이 이듬해 달라져도 현실이 바뀐 것인지 공급업체가 모델을 바꾼 것인지 알기 어려움

  • 결국 이해할 수 있는 도구로 추론하는 대신, 조사할 권한이 없는 ‘신탁’을 믿게 되는 구조

• 공개 AI의 위험은 실제 쟁점이지만, 폐쇄가 곧 안전을 뜻하지는 않음

  • 비판론은 연구 논문이 능력을 설명하는 데 그치는 반면 AI 소프트웨어 자체는 그 능력이라는 비대칭을 지적하며, 이는 타당한 차이

  • 다만 위험한 활용 가능성 때문에 기반 전체를 닫아야 한다는 결론으로 곧장 이어지지는 않음

    • 과학도 악용될 수 있지만 물리학 자체를 기밀로 만들기보다 감시와 규칙을 두고 기반은 공개하는 방식으로 대응

  • 폐쇄형 모델도 유출되거나 jailbreak될 수 있으며, 소수 기업이 다른 이들의 개발 가능 범위를 결정하는 집중 위험도 발생

    • 핵심 질문은 공개 모델에 위험이 있느냐가 아니라, 이미 이용 가능한 위험에 비해 의미 있는 추가 위험을 만드는지 여부

• 현재 ‘공개 모델’은 실행 코드만 제공할 뿐, 구축 과정의 투명성은 빠르게 사라지는 상태

  • 모델에는 실행하는 코드와 구축에 사용한 코드가 있으며, 논지의 핵심은 후자와 학습 데이터까지 확인할 수 있느냐는 것

  • 중국의 주요 연구소와 일부 미국 기업이 공개한 모델은 실행 코드는 제공하지만, 모델을 만든 코드와 학습 데이터는 비공개

    • 이용자가 받는 것은 지능을 만들어 내지만 형성 과정을 설명할 수 없는 방대한 숫자 묶음에 가까움

    • 기업들은 앞으로도 가장 강력한 시스템을 계속 같은 방식으로 공개하겠다고 약속하지 않음

  • 기업이 언제든 중단할 수 있는 공개는 기반이 아니라 호의에 불과

    • 누구나 사용·개선할 수 있는 모델과 제작 방식을 살펴볼 수 있는 소스가 모두 필요

• 자유·오픈소스 AI에 정부·민간·비영리 부문의 대규모 투자가 필요

  • AI 기업의 존재 자체를 반대하는 것이 아니라, 민간 AI만이 유일한 선택지가 되어서는 안 된다는 주장

  • frontier model의 규모와 비용 경쟁은 대기업의 영역으로 남을 수 있지만, 유용한 오픈소스 AI가 반드시 같은 규모를 갖출 필요는 없음

    • 세계가 필요로 하는 많은 용도는 최첨단 성능까지 요구하지 않을 가능성이 큼

    • 신뢰할 만한 공개 대안을 유지하는 데 대규모 컴퓨팅 자원이 필요하다면 비용을 부담할 가치가 있는 공공재

  • 과거 오픈 소프트웨어에 투자했듯 구체적인 지원 체계를 마련해야 함

    • 공개 연구를 위한 공공 컴퓨팅 보조금

    • 관련 연구를 수행하는 대학·비영리단체에 기업과 자선 부문의 지원

    • 공공 자금으로 개발한 AI는 기본적으로 공개한다는 원칙

^{source https://www.siegelendowment.org/wp-content/uploads/2026/07/fortune-david-siegel-open-source-ai.pdf}

HN에서는 AI를 기존 오픈소스 소프트웨어의 연장선으로 볼 수 있는지가 핵심 쟁점이었다. 소프트웨어처럼 지식과 성과를 공개하면 더 많은 사람이 배우고 개선할 수 있다는 기대가 컸다. 다만 최전선 모델은 노트북으로 코드를 고쳐 기여할 수 있는 일반 프로젝트와 다르다는 반론도 강했다. 학습과 검증에 막대한 연산 자원이 필요하므로 공개 저장소보다는 대규모 연구 사업에 가깝다는 것이다.

무엇을 공개해야 개방형 AI로 볼 수 있는지도 분명하지 않다. 가중치만 풀어놓은 모델은 소스 없이 실행 파일만 배포한 것과 비슷하므로, 학습 데이터와 재현 방법까지 검증할 수 있어야 한다는 주장이 나왔다. 공개 자료로 학습한 결과를 기업이 독점해 수익화하는 일이 정당한지를 묻는 시각도 있었다. 반대로 가중치를 모두 공개하면 생물학적 위해처럼 일부 위험한 활용의 문턱을 낮출 수 있다는 지적도 무시하기 어렵다.

지원책으로는 제한된 메모리에서 일정 성능을 달성한 모델에 상금을 주자는 구체적인 방안이 관심을 끌었다. 소규모 팀도 최적화 경쟁에 뛰어들 수 있지만, 평가 항목이 공개되면 점수 맞추기로 흐를 수 있다. 신뢰할 만한 비공개 평가를 매번 새로 만들고 검증한 뒤 공개하는 비용이 상금보다 클 수 있다는 현실적인 문제도 따른다. 전업 인력과 대규모 자본이 필요한 만큼 선의와 시간제 기여만으로는 지속하기 어렵다는 판단도 나왔다.

따라서 공개 여부만으로 공공 투자의 가치를 판단하기는 어렵다. 누구나 실질적으로 개선에 참여할 수 있는지, 학습 과정과 결과를 검증할 수 있는지, 안전 위험을 어떻게 통제할지부터 확인해야 한다. 지속적인 연산 비용을 누가 부담하고 어떤 방식으로 회수할지도 중요하다. 시장이 가장 저렴하고 우수한 모델을 저절로 선택한다고 장담할 수 없는 만큼, 개방의 범위와 평가 체계, 장기 운영 재원을 함께 설계해야 한다.