토큰과 인간? 새로운 기업의 선택

• 기업 AI 비용이 예상보다 훨씬 크게 불어나면서, CFO들이 앞으로 채용할 인력을 늘릴지 토큰 비용을 감당할지 같은 예산 선택지 앞에 섬

• 엔터프라이즈 AI 워크로드의 약 95%가 단순 작업까지 가장 비싼 프런티어 모델에서 돌아가는 중

  • 이 구간을 저가 티어로 라우팅하면 큰 폭의 비용 절감 가능

• AI 투자 논리는 수요가 계속 폭증하고 가격에는 둔감하다는 가정 위에 서 있었지만, Fortune 500 기업은 가격에 더 민감하게 반응하는 중

• 인공지능 비용이 누구 예상보다도 크게 올라가면서, 미국 대기업 CFO들이 잔인할 만큼 선명한 새 선택을 마주함: 토큰이냐 사람이냐

• 이번 주 CNBC에 이를 전한 건 엔터프라이즈 AI 구축 한가운데 있는 두 CEO

  • Fortune 500 내부에서 무슨 일이 벌어지는지, 비용 급등이 AI 투자 논리에 어떤 위협이 되는지 또렷하게 드러남

  • 시장은 아직 이 위험을 제대로 반영하지 않았고, 기록적 고점 속에서 마이크론 같은 새로운 조 단위 기업가치 기업까지 만들어내는 중

• 지금 모든 기업이 가장 먼저 꺼내는 주제는 불어난 AI 예산

• 기업들은 연간 예산을 잡아놨는데도 한두 달 만에 AI 예산이 바닥남

• 이유는 구매자가 기대한 방식으로 AI 비용이 내려가지 않았기 때문

  • 오히려 비용은 올랐고, 프런티어 연구소의 새 모델이 나올 때마다 토큰당 가격이 이전 모델의 약 두 배 수준으로 뛰어 엔터프라이즈 AI를 지속하기 어려운 비용 구조가 됨

• Jain은 지금이 기술 비용을 사람 비용과 직접 맞대고 비교하는 첫 시기라고 말함

  • 과거에는 기술 비용이 운영비 전체에서 차지하는 비중이 훨씬 작아서, 기술을 택할지 사람을 택할지 같은 논의 자체가 거의 없었음

• 이렇게 커지는 AI 예산은 점점 앞으로 늘렸을 인력 채용을 대신하는 돈이 되고 있음

• Factory AI CEO Matan Grinberg는, 모든 프런티어 AI 모델에 엔지니어링 작업을 라우팅하는 입장에서 이 변화를 경영진 내부의 분명한 자원 배분 문제로 봄

  • 기업들은 직원 수를 최적화할지, 직원 1인당 AI 지출을 최적화할지 묻기 시작함

• Grinberg에 따르면 기업은 약 1년 사이 세 단계를 거침

  • 첫 단계: 이사회가 CEO에게 AI에 뭔가 대응하라고 압박

  • 둘째 단계: 비용을 따지지 않고 무슨 수를 써서라도 AI를 쓰는 이른바 tokenmaxxing

  • 셋째 단계: 경영진이 프리미엄 모델이 정말 필요한 범위를 다시 따져보기 시작

• 모든 작업에 Opus급 지능이 필요한 건 아니라는 판단이 퍼지는 중

더 벌지 못하는데 더 내는 구조

• 문제의 뿌리는 기술이 실제로 작동하긴 하지만 아직 자기 비용을 못 벌어온다는 데 있음

  • AI는 강력하지만 매우 비효율적이고, 지금 시점에서 AI가 만드는 가치가 기업이 감당하는 비용을 따라가지 못함

• 큰 원인 하나는 모델 선택 비효율

  • Jain에 따르면 엔터프라이즈 AI 사용량의 약 95%가 여전히 가장 비싼 프런티어 모델에 몰려 있고, 그중 상당수는 더 싼 대안으로도 충분히 처리 가능

• 해법은 단순함: 쉬운 작업을 저렴한 티어로 보내기

  • Jain은 이 구간을 가장 손쉬운 절감 지점으로 꼽음

  • 앞단에서 모델 라우팅만 제대로 해도 10배 수준 절감 가능

• 이것이 Factory AI의 핵심 제안과도 맞닿아 있음

  • 각 작업을 가장 알맞은 모델로 자동 전송

  • 핵심은 실제로 최상위 모델이 필요한 작업이 얼마나 드문지 알아차리는 일

• Grinberg는 최신 프런티어 모델 간 차이를 오랜 경력의 교수 둘에 비유함

  • Opus 4.7과 Opus 4.8의 차이는 13년 차 교수와 15년 차 교수 차이에 가깝고, 일반 사용자는 그 차이를 거의 구분하기 어려움

• AI 투자 전체는 역사적 수준의 수요가 이어지고, 구매자가 비용에는 크게 개의치 않을 것이라는 베팅 위에 올라가 있음

  • 하지만 Fortune 500 내부에서 보이는 모습은 그 가정보다 훨씬 가격 민감한 수요

^{source https://www.cnbc.com/2026/05/29/-tokens-or-humans-the-new-corporate-trade-off.html}