메뉴
BL
TechCrunch AI 53일 전

AI 토큰 폭탄: 통제 잃은 비용에 발칵 난 기업들

IMP
9/10
핵심 요약

최근 기업들은 코딩 및 업무 자동화를 위한 AI 도입을 늘리면서 토큰 사용량이 폭증해 막대한 예산 초과 위기를 겪고 있습니다. 이에 따라 업계는 비용 추적 및 통제 솔루션을 모색하고 있으며, 토큰 비용 절감을 위한 새로운 기준 마련에 나섰습니다. 생산성 향상이라는 성과가 천문학적인 비용 지출을 정당화할 수 있는지에 대한 실질적인 ROI 측정이 시급해졌습니다.

번역된 본문

AI 업계 전반에 걸쳐 기업들이 AI의 비용에 대해 거부감을 느끼기 시작하고 있다. 우버(Uber)는 지난 4월 이미 2026년 AI 코딩 예산 전체를 탕진했다. 마이크로소프트(Microsoft)는 개발자들에게 지급했던 클로드 코드(Claude Code) 라이선스를 불과 몇 달 만에 회수했다. 프라이스라인(Priceline)의 한 직원은 테크크런치(TechCrunch)에 일상적인 커서(Cursor) 계약 갱신 비용이 4~5배나 인상되었다고 전했다. 토큰(Token)당 단가는 하락했음에도 불구하고, AI 도입을 늘리려는 움직임과 점점 더 자율적인 에이전트(Agent)의 등장으로 토큰 소비량은 계속해서 치솟고 있다.

2025년 초 무제한 구독에 탐닉했던 기업들은 이제 자신의 돈이 어디로 가고 있는지 파악하고, 지출을 줄이며, 엉망이 된 예산의 폐허 속에서 어떻게든 투자 수익률(ROI)을 건져낼 수 있을지 고군분투하고 있다. 동시에 이러한 기업들의 수요를 충족시키기 위한 새로운 시장이 형성되고 있다. 스타트업, 기존 IT 벤더, 그리고 새로운 표준화 기구가 기업들이 지출을 추적할 수 있는 도구와 체계를 제공하기 위해 경쟁하고 있다.

오픈AI(OpenAI)의 기업용 사업 총괄인 알렉산더 엠브리코스(Alexander Embricos)는 이번 주 뉴욕에서 열린 행사에서 테크크런치에 다음과 같이 말했다. "6개월 전만 해도 고객과의 대화는 전적으로 '이게 무엇을 할 수 있는가? 성능이 충분히 좋은가?'에 집중되어 있었습니다. 하지만 지금은 그런 주제로 이야기하지 않습니다. 이제는 '우리가 너무 많은 돈을 쓰고 있다. 지출에 대한 가시성은 어떠한가? 감사 및 추적은 가능한가? 토큰 사용을 통제할 방법이 있는가? 모델의 효율성은 어느 수준인가?'에 대한 이야기만 나옵니다."

이러한 배경 속에서 리눅스 재단(Linux Foundation)은 이번 주 AI 토큰 비용 관리에 클라우드 재무 운영(FinOps)과 같은 비용 통제 원칙을 도입하기 위한 새로운 표준화 기구인 '토크노믹스 재단(Tokenomics Foundation)' 설립 계획을 발표했다.

리눅스 재단 산하 프로젝트인 파이넙스 재단(FinOps Foundation)의 사무국장인 J.R. 스토먼트(J.R. Storment)는 테크크런치에 "4월과 5월에 '맙소사, 벌써 4월인데 이미 2026년 토큰 예산의 3배나 초과했다'는 기업들의 이야기를 듣기 시작했다"며 "우리는 실존적 위기의 목소리를 듣기 시작했고, 토큰 사용량 극대화(tokenmaxxing)와 '빠르게 전진하라'는 분위기에서 '안전장치가 필요하다, 이걸 어떻게 통제하지?'로 전체적인 대화의 방향이 완전히 바뀌었다"고 전했다.

기술계 전반에 울려 퍼진 이러한 절규는 비용을 아랑곳하지 않고 최고의 모델을 사용하고 빠르게 혁신하라고 팀을 압박했던 CEO들의 강력한 요구 뒤따른 것이다. 지난 11월에 출시된 앤스로픽(Anthropic)의 클로드 오퍼스 4.5(Claude Opus 4.5), 오픈AI의 지피티-5.1(GPT-5.1), 구글(Google)의 제미나이 3 프로(Gemini 3 Pro) 등 새로운 모델들은 에이전트 기반 도구의 성능을 획기적으로 향상시켰으며, 이는 소비량을 기하급수적으로 증가시켰다. 실제로 한 기업은 직원들의 사용량 제한을 설정하는 것을 잊었다가 5억 달러(약 6,800억 원) 규모의 클로드 청구서를 받은 것으로 알려졌다.

프라이스라인의 IT 재무 시니어 디렉터인 크리스 리드(Chris Reed)는 "이건 마약 성분이 들어간 크랙 코카인(crack-cocaine) 전염병과 같다"며 회사가 특정 그룹에 토큰 사용 제한을 두기 시작했다고 밝혔다. 그는 "그들이 당신을 중독시키기 위해 무료로 쓰게 해놓고, 이제는 당신이 그것의 노예가 되어버린 셈"이라고 덧붙였다.

엔지니어링 운영 플랫폼인 파로스 AI(Faros AI)의 CEO 비탈리 고든(Vitaly Gordon)은 최근 한 최고기술책임자(CTO)와 대화한 적이 있다며 그가 이렇게 말했다고 전했다. "우리 팀 엔지니어 중 한 명이 지난달 토큰에만 4만 달러(약 5,400만 원)를 썼습니다. 저는 솔직히 그를 말려야 할지, 아니면 다른 모든 직원들에게도 그렇게 하라고 말해야 할지 모르겠습니다."

파로스 AI가 3월에 실시한 설문 조사에 따르면, 2만 명의 개발자를 대상으로 조사한 결과 생산량은 증가하고 있었지만 버그 발생과 코드 재작성 횟수 역시 함께 증가하는 것으로 나타났다. 엔지니어링 관리 플랫폼인 젤리피시(Jellyfish) 역시 AI 도구를 가장 많이 사용하는 엔지니어들이 덜 사용하는 엔지니어보다 약 2배 더 생산적이었지만, 그 성과를 내기 위해 10배나 많은 토큰을 소비한 것으로 조사되었다.

젤리피시의 연구 총괄 니콜라스 아르콜라노(Nicholas Arcolano)는 이메일을 통해 테크크런치에 AI 지출이 폭발적으로 증가하는 것은 주로 자율적 에이전트(Agentic) 기능 때문이며, 개발자 1인당 토큰 소비량은 9개월 만에 약 18.6배 증가했다고 밝혔다. 이러한 모든 통계를 종합해 보면, 막대한 지출이 실제로 이득이 되는지에 대한 생산성의 입증은 단순히 비용 지출 규모가 암시하는 것보다 훨씬 더 모호해진다.

아르콜라노는 "극단적인 지출이 보상받는지 여부는 최종적으로 출시된 코드의 비즈니스 가치(예: 매출)로 판가름 나는데, 대부분의 기업은 여전히 이를 측정할 수 없다"고 지적했다. 적어도 이러한 측정의 어려움은 오늘날 AI가 사용되는 규모의 압도적인 방대함에서 기인한 부분도 있다. 스토먼트는 "클라우드 비용을 추적하는 것은 한 달에 수억 행에 달하는 데이터를 처리하는 문제"라고 덧붙였다.

원문 보기
원문 보기 (영어)
Across the industry, companies are starting to balk at the price of AI. Uber blew through its entire 2026 AI coding budget by April. Microsoft revoked its developers’ Claude Code licenses months after enabling them. A Priceline employee told TechCrunch that a routine Cursor contract renewal came back 4-5x more expensive. Even though per-token prices have fallen, the push for more AI adoption and increasingly autonomous agents have driven token consumption higher and higher. Companies that gorged themselves in early 2025 on all-you-can-eat subscriptions are now scrambling to understand where their money is going, pull back spending, and figure out whether they can salvage some ROI from the wreckage of their budgets. Meanwhile, a market is forming to meet them there. Startups, established vendors, and a new standards body are all racing to give companies the tools and language to track what they spend. "Six months ago, I would have a conversation with a customer and it would be all about ‘What can it do? Is it good enough?'" Alexander Embricos, OpenAI's head of enterprise, told TechCrunch at an event in New York City this week. "Our conversations are never about that now. Now the conversations are about, ‘hey, we're spending so much. What visibility do you have? What auditability do you have? What token controls do you have? What is the efficiency of your models?'" It's against this backdrop that the Linux Foundation this week unveiled plans for the Tokenomics Foundation, a new standards body that aims to instill the same cost discipline around AI tokens that FinOps did for cloud spend. “In April and May, I started hearing from companies: ‘Oh my god, we are 3x over our entire 2026 token budget and it’s only April,’” J.R. Storment, executive director of the FinOps Foundation, a project under the Linux Foundation, told TechCrunch. “We started hearing existential crises, and the whole conversation shifted from tokenmaxxing and ‘go fast’ to ‘we need guardrails, how do we control this?’” The cries heard round the tech world followed fervent demands from CEOs pushing their teams to use the best models and move fast, costs be damned. New models released in November like Anthropic’s Claude Opus 4.5, OpenAI’s GPT-5.1, and Google’s Gemini 3 Pro brought significant improvements to agentic tools, which have multiplied consumption. It’s how one company reportedly found itself with a $500 million Claude bill after forgetting to set usage limits for employees. "It’s like the crack-cocaine epidemic,” said Chris Reed, senior director of IT finance at Priceline, noting the company had begun placing token limits on certain groups. “They let you try it to get you hooked on it, and now you’re kind of beholden to it.” Vitaly Gordon, CEO of engineering operations platform Faros AI, said he recently spoke to a CTO who told him: "One of my engineers spent $40,000 on tokens last month, and I genuinely don't know whether I should stop him or should I go and tell everyone else to be like him.“ A March survey by Faros found that among 20,000 developers, output was rising, but so were bugs and rewrites. Jellyfish, an engineering management platform, similarly found engineers who used the most tokens were about twice as productive than those who used AI less, but they spent 10x the number of tokens to get there. Nicholas Arcolano, head of research at Jellyfish, told TechCrunch via email that expenditure on AI is exploding in large part due to agentic features, with per-developer consumption rising about 18.6x in nine months. All in all, these stats make the productivity case murkier than the spending suggests. “Whether extreme spend pays off comes down to the ultimate business value of shipped code (e.g. revenue), which most companies still can’t measure,” Arcolano said. At least some of that measurement issue is the sheer scale at which AI is being used today. “Tracking cloud costs is a hundreds-of-millions-of-rows-a-month data problem,” Storment said. “Tracking token costs is a trillions-of-rows-a-month data problem. You can’t just stick that into whatever spreadsheet or even basic tool. You’ve got to fundamentally rethink your tooling, your specs and your accounting systems to do that.” At Priceline, Reed is already seeing discrepancies. He noted issues between a vendor’s reported usage and Priceline’s internal data. “I started my career in telecom expense management, and I’m seeing all the same parallels, from telecom to cloud to AI,” he said. “Anytime you introduce something new, it’s ripe for billing errors and audit and optimization opportunities.” A market is beginning to form around this problem. There are the pure-play companies, like Pay-i, which tracks, measures and optimizes the costs and performance of GenAI investments. Paid , meanwhile, lets developers track costs, measure usage and bill users based on actual value rather than subscription fees. Then there are companies like Jellyfish, Waydev and Faros AI, which all provide AI agent monitoring to prove the ROI of developer tools. Storment says most of the 180 vendors within the FinOps Foundation are leaning towards this space. Companies with existing distribution are also adding new features to capitalize on this new market. Ramp has recently moved into AI spend management ; Datadog and New Relic have tacked on services like cloud cost management, token-level observability, and GPU monitoring. At the FinOps X conference next week, AWS is expected to introduce new financial management features geared toward enterprise AI spending. Tiffany Luck, a partner at NEA, thinks token efficiency and observability will likely be added in at the “harness or app layer.” She pointed to Factory, a startup that makes AI agents for enterprises, which this week launched a model router that automatically picks the right model for every task. Gordon expects frontier labs and other model providers to adopt OpenRouter-style optimization to drive queries to the cheapest models — a trend already showing up on enterprise Claude bills. “The financial report for how much you spend on Anthropic, even if you call the Opus model, some of the spend will be on Sonnet or Haiku, because they are smart enough to do it," Gordan said. "I think this will become more and more of a thing.” But all these tools are being built without a common language or shared definitions for how much a token costs, what it produces, and how to compare spend across vendors. That’s where the Tokenomics Foundation hopes to prove useful. The Foundation is building a canonical definition and framework for “tokenomics;” open standards, specifications and metrics for AI token usage and billing; as well as new metrics for AI economics, like cost-per-intelligence or tokens-per-watt. It also plans to define metrics across token factory effectiveness and consumption efficiency. The group is planning a formal launch in July, and is about to announce more members at the FinOps X conference next week. "Token economics is fundamentally more abstract and opaque than anything we've managed at this scale before,” Nishant Gupta, chief availability officer at Salesforce, said in a statement. “It requires a different operational muscle than the one the industry built for cloud.” That said, Goldman Sachs projects global token usage to multiply by 24 times by 2030. The companies already over budget need solutions now, and the foundation’s first deliverable is still months away. “Maybe we created a steam engine, but we still haven't figured out the assembly line,” said Gordon. According to Arcolano, the smart move is broad, moderate adoption. “The best ROI comes from moving the broad middle from low to moderate usage, not pushing heavy users higher,” he said. Russell Brandom and Tim Fernholz contributed to this reporting. Topics AI , ai tokens , linux foundation , tokenmaxxing When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our e