AI 토큰 폭탄: 통제 잃은 비용에 발칵 난 기업들
최근 기업들은 코딩 및 업무 자동화를 위한 AI 도입을 늘리면서 토큰 사용량이 폭증해 막대한 예산 초과 위기를 겪고 있습니다. 이에 따라 업계는 비용 추적 및 통제 솔루션을 모색하고 있으며, 토큰 비용 절감을 위한 새로운 기준 마련에 나섰습니다. 생산성 향상이라는 성과가 천문학적인 비용 지출을 정당화할 수 있는지에 대한 실질적인 ROI 측정이 시급해졌습니다.
AI 업계 전반에 걸쳐 기업들이 AI의 비용에 대해 거부감을 느끼기 시작하고 있다. 우버(Uber)는 지난 4월 이미 2026년 AI 코딩 예산 전체를 탕진했다. 마이크로소프트(Microsoft)는 개발자들에게 지급했던 클로드 코드(Claude Code) 라이선스를 불과 몇 달 만에 회수했다. 프라이스라인(Priceline)의 한 직원은 테크크런치(TechCrunch)에 일상적인 커서(Cursor) 계약 갱신 비용이 4~5배나 인상되었다고 전했다. 토큰(Token)당 단가는 하락했음에도 불구하고, AI 도입을 늘리려는 움직임과 점점 더 자율적인 에이전트(Agent)의 등장으로 토큰 소비량은 계속해서 치솟고 있다.
2025년 초 무제한 구독에 탐닉했던 기업들은 이제 자신의 돈이 어디로 가고 있는지 파악하고, 지출을 줄이며, 엉망이 된 예산의 폐허 속에서 어떻게든 투자 수익률(ROI)을 건져낼 수 있을지 고군분투하고 있다. 동시에 이러한 기업들의 수요를 충족시키기 위한 새로운 시장이 형성되고 있다. 스타트업, 기존 IT 벤더, 그리고 새로운 표준화 기구가 기업들이 지출을 추적할 수 있는 도구와 체계를 제공하기 위해 경쟁하고 있다.
오픈AI(OpenAI)의 기업용 사업 총괄인 알렉산더 엠브리코스(Alexander Embricos)는 이번 주 뉴욕에서 열린 행사에서 테크크런치에 다음과 같이 말했다. "6개월 전만 해도 고객과의 대화는 전적으로 '이게 무엇을 할 수 있는가? 성능이 충분히 좋은가?'에 집중되어 있었습니다. 하지만 지금은 그런 주제로 이야기하지 않습니다. 이제는 '우리가 너무 많은 돈을 쓰고 있다. 지출에 대한 가시성은 어떠한가? 감사 및 추적은 가능한가? 토큰 사용을 통제할 방법이 있는가? 모델의 효율성은 어느 수준인가?'에 대한 이야기만 나옵니다."
이러한 배경 속에서 리눅스 재단(Linux Foundation)은 이번 주 AI 토큰 비용 관리에 클라우드 재무 운영(FinOps)과 같은 비용 통제 원칙을 도입하기 위한 새로운 표준화 기구인 '토크노믹스 재단(Tokenomics Foundation)' 설립 계획을 발표했다.
리눅스 재단 산하 프로젝트인 파이넙스 재단(FinOps Foundation)의 사무국장인 J.R. 스토먼트(J.R. Storment)는 테크크런치에 "4월과 5월에 '맙소사, 벌써 4월인데 이미 2026년 토큰 예산의 3배나 초과했다'는 기업들의 이야기를 듣기 시작했다"며 "우리는 실존적 위기의 목소리를 듣기 시작했고, 토큰 사용량 극대화(tokenmaxxing)와 '빠르게 전진하라'는 분위기에서 '안전장치가 필요하다, 이걸 어떻게 통제하지?'로 전체적인 대화의 방향이 완전히 바뀌었다"고 전했다.
기술계 전반에 울려 퍼진 이러한 절규는 비용을 아랑곳하지 않고 최고의 모델을 사용하고 빠르게 혁신하라고 팀을 압박했던 CEO들의 강력한 요구 뒤따른 것이다. 지난 11월에 출시된 앤스로픽(Anthropic)의 클로드 오퍼스 4.5(Claude Opus 4.5), 오픈AI의 지피티-5.1(GPT-5.1), 구글(Google)의 제미나이 3 프로(Gemini 3 Pro) 등 새로운 모델들은 에이전트 기반 도구의 성능을 획기적으로 향상시켰으며, 이는 소비량을 기하급수적으로 증가시켰다. 실제로 한 기업은 직원들의 사용량 제한을 설정하는 것을 잊었다가 5억 달러(약 6,800억 원) 규모의 클로드 청구서를 받은 것으로 알려졌다.
프라이스라인의 IT 재무 시니어 디렉터인 크리스 리드(Chris Reed)는 "이건 마약 성분이 들어간 크랙 코카인(crack-cocaine) 전염병과 같다"며 회사가 특정 그룹에 토큰 사용 제한을 두기 시작했다고 밝혔다. 그는 "그들이 당신을 중독시키기 위해 무료로 쓰게 해놓고, 이제는 당신이 그것의 노예가 되어버린 셈"이라고 덧붙였다.
엔지니어링 운영 플랫폼인 파로스 AI(Faros AI)의 CEO 비탈리 고든(Vitaly Gordon)은 최근 한 최고기술책임자(CTO)와 대화한 적이 있다며 그가 이렇게 말했다고 전했다. "우리 팀 엔지니어 중 한 명이 지난달 토큰에만 4만 달러(약 5,400만 원)를 썼습니다. 저는 솔직히 그를 말려야 할지, 아니면 다른 모든 직원들에게도 그렇게 하라고 말해야 할지 모르겠습니다."
파로스 AI가 3월에 실시한 설문 조사에 따르면, 2만 명의 개발자를 대상으로 조사한 결과 생산량은 증가하고 있었지만 버그 발생과 코드 재작성 횟수 역시 함께 증가하는 것으로 나타났다. 엔지니어링 관리 플랫폼인 젤리피시(Jellyfish) 역시 AI 도구를 가장 많이 사용하는 엔지니어들이 덜 사용하는 엔지니어보다 약 2배 더 생산적이었지만, 그 성과를 내기 위해 10배나 많은 토큰을 소비한 것으로 조사되었다.
젤리피시의 연구 총괄 니콜라스 아르콜라노(Nicholas Arcolano)는 이메일을 통해 테크크런치에 AI 지출이 폭발적으로 증가하는 것은 주로 자율적 에이전트(Agentic) 기능 때문이며, 개발자 1인당 토큰 소비량은 9개월 만에 약 18.6배 증가했다고 밝혔다. 이러한 모든 통계를 종합해 보면, 막대한 지출이 실제로 이득이 되는지에 대한 생산성의 입증은 단순히 비용 지출 규모가 암시하는 것보다 훨씬 더 모호해진다.
아르콜라노는 "극단적인 지출이 보상받는지 여부는 최종적으로 출시된 코드의 비즈니스 가치(예: 매출)로 판가름 나는데, 대부분의 기업은 여전히 이를 측정할 수 없다"고 지적했다. 적어도 이러한 측정의 어려움은 오늘날 AI가 사용되는 규모의 압도적인 방대함에서 기인한 부분도 있다. 스토먼트는 "클라우드 비용을 추적하는 것은 한 달에 수억 행에 달하는 데이터를 처리하는 문제"라고 덧붙였다.