메뉴
BL
404 Media 36일 전

AI 컴퓨팅 대란 도래: 전체 경제에 미치는 충격

IMP
8/10
핵심 요약

AI 기업들이 무한정 자금을 태워 서비스를 저렴하게 제공하던 시대가 저물며 'AI 컴퓨팅 대란(Compute Crunch)'이 본격화되고 있습니다. 이로 인해 깃허브와 오픈AI 등은 서비스 제한과 가격 인상을 단행했으며, 메모리와 SSD 등 관련 부품 가격 폭등, 전력 수급 문제 등으로 전방위적인 경제적 타격이 발생하고 있습니다. 과거 우버의 파괴적 할인 정책이 견디지 못하고 가격을 대폭 올렸듯, AI 산업 역시 적자 운영의 한계에 부딪혀 기업과 투자자들에게 막대한 자본 부담으로 작용할 전망입니다.

번역된 본문

이번 주 초, 저는 인간 직원을 고용하는 대신 AI 컴퓨팅(Claude 및 OpenAI 제품 등의 토큰)에 돈을 쏟아붓는 스타트업들에 대한 기사를 썼습니다. 이러한 비즈니스 전략은 여러 가지 이유로 실패할 수 있지만, 가장 명백한 실패 조짐 중 하나가 보이기 시작했습니다. 바로 AI 기업들이 실제 운영 비용보다 적은 금액을 사용자에게 청구하며 AI 제품을 무한정 보조금으로 지원할 수는 없다는 점입니다. 이것이 바로 'AI 컴퓨팅 대란(Compute Crunch)'이며, 그 징후는 우리 주변 곳곳에서 나타나고 있습니다.

깃허브(GitHub)는 코파일럿(Copilot)의 신규 가입을 일시 중지하고, 사용 한도를 축소하며, 비용이 더 많이 드는 여러 AI 모델에 대한 접근을 제거한다고 발표했습니다. 앤스로픽(Anthropic)은 클로드 코드(Claude Code)에 대한 접근을 강화하여 월 20달러 플랜에서는 클로드 코드 접근을 완전히 차단하는 것을 테스트했습니다(월 100달러 플랜에서만 접근 유지). 더 버지(The Verge)에서 지적했듯, 앤스로픽은 과도한 사용으로 인해 지속 불가능하다는 이유로 오픈클로(OpenClaw) 사용자들의 클로드 접근을 제한했습니다. 오픈AI의 사라 프라이어(Sarah Friar) 재무 책임자(CFO)는 회사에 컴퓨팅 자원이 충분하지 않다는 점을 끊임없이 언급해 왔으며, 이는 소라(Sora) 폐지 결정과 같은 형태로 나타나고 있습니다. 일부 애널리스트들에 따르면, AI 도구가 내장된 소프트웨어의 가격은 20~37% 인상되었습니다. 여기에는 마이크로소프트 365, 노션(Notion) 비즈니스 플랜, 세일즈포스(Salesforce), 구글 워크스페이스(Google Workspace)의 가격 인상이 포함됩니다. AI 제품 및 서비스에 대한 전반적인 배급제가 시행되고 있습니다.

메타(Meta)는 인력의 10%를 해고하고 있는데, 이는 부분적으로 회사가 절약한 비용의 일부를 AI 인프라에 지출하고자 하기 때문입니다. "이번 해고는 우리가 진행 중인 다른 투자를 상쇄하기 위한 것입니다."라고 회사는 남은 직원들에게 말했습니다. 메타의 최근 주요 투자는 데이터센터와 이를 운영하는 기술이었습니다. 그러나 AI 기업들이 제품에 대한 접근을 제한하고, 제품을 완전히 폐쇄하며, 가격 인상을 시작하고 있다는 것만이 문제는 아닙니다. 현재 AI의 지속 불가능한 상황이 미치는 광범위한 영향은 경제 전반의 다양한 부문에서 확인할 수 있습니다.

소비자용 RAM, 그래픽 카드, 하드 드라이브 및 솔리드 스테이트 스토리지(SSD)의 가격이 급등했으며 많은 매장에서 품절되었습니다. 제가 작년 말에 구매했던 동일한 2TB 외장 SSD는 당시 159달러였지만, 한 달 전에는 449달러였고 오늘은 575달러에 팔리고 있습니다. 이와 유사하게, 칩 제조사와 생산 라인이 더 많은 AI 생산 능력을 구축하는 데 집중하면서 소비자용 전자제품의 전반적인 가격이 상승하고 있습니다. 세계 최대의 소비자 전자제품 제조사인 애플(Apple)은 다가오는 아이폰(iPhone)을 위한 칩 생산 능력을 확보하는 데 어려움을 겪고 있다고 밝혔습니다. AI 데이터센터가 집중적으로 위치한 일부 주에서는 가정용 전기 요금이 급등했으며, 이로 인해 일부 도시와 주에서는 새로운 데이터센터를 전면 거부하고 제한하려는 광범위하고 공동의 노력을 기울이고 있습니다. 전문가들은 수자원 공급에도 유사한 부족 현상과 가격 상승이 올 수 있다고 우려하고 있습니다.

이것이 의미하는 바는 저렴하고 가격이 낮게 책정된 AI의 시대가 끝나가고 있다는 것입니다. 적어도 컴퓨팅 대란은 벤처 캐피탈과 오픈AI, 앤스로픽에 자금을 대는 투자 회사들이 제품 보조금을 계속 지원하기 위해 훨씬 더 많은 현금을 태울 의지가 있어야 한다는 것을 의미합니다. 이번 주 팟캐스트에서 저는 이 상황을 우버(Uber, 고객을 묶어둔 뒤 가격을 대폭 올리려 했던 수많은 빠른 성장 스타트업들)에 비유했습니다. 이 비교가 유용한 이유는 우버와 마찬가지로 AI 기업들이 현재까지 해온 방식이 철저히 지속 불가능하며 투자자들에게 보조금을 받아 유지되고 있기 때문입니다. 수년간 우버의 투자자들은 시장 점유율을 늘리고 경쟁을 짓밟으며 택시 산업을 파괴하기 위해 소비자 가격을 인위적으로 낮게 유지하기 위해 개별 우버 승차 비용을 보조했습니다. 우버와 투자자들은 현금을 태우는 한 각 승차 건마다 손실을 볼 수밖에 없었습니다. 결국 이는 우버이 소비자를 위해 가격을 갑자기 올리고 운전기사에게 지불하는 비용을 줄일 방법을 찾으면서 승객과 운전기사 모두에게 서비스 품질 저하로 이어졌습니다. 에드 지트론(Ed Zitron)이 지적한 차이점은...

원문 보기
원문 보기 (영어)
Earlier this week, I wrote an article about startups that are spending money on AI compute (tokens on tools like Claude and OpenAI’s products) rather than hiring human employees. There are all sorts of ways this business strategy could fail, and we are beginning to see signs that one of the most obvious ones could be coming to pass: AI companies can’t endlessly subsidize their AI products by charging users less than it costs to actually run them. This is the AI compute crunch, and the signs are all around us: GitHub announced it is pausing new signups for Copilot, tightening usage limits, and removing access to several more expensive AI models. Anthropic has tightened access to Claude Code , and tested removing access to Claude Code entirely in its $20 per month plan (keeping access in its $100 per month plan) As noted in The Verge , Anthropic restricted Claude access to users of OpenClaw because the heavy usage was unsustainable OpenAI’s CFO Sarah Friar has been talking endlessly about how the company does not have enough compute, which has manifested in decisions like deciding to shut down Sora Software that has AI tools embedded in them have increased between 20 and 37 percent according to some analysts; this has included increases in prices for Microsoft 365, Notion’s Business plan, Salesforce, and Google Workspace prices There is a general rationing of AI products and services Meta is laying off 10 percent of its workforce in part because it sounds like the company wants to spend some of the savings on AI infrastructure: The layoffs are “to allow us to offset the other investments we’re making,” the company told its remaining employees . Its main recent investments have been data centers and the tech to run data centers. But it’s not just that AI companies are restricting access to their products, shutting down products altogether, and beginning to increase prices. The broader impact of the current unsustainability of AI can be seen across various sectors of the economy. RAM, graphics cards, and hard drive / solid state storage for consumers have skyrocketed in price and are sold out in many stores. The same 2TB external SSD I bought late last year cost me $159 at the time, cost $449 a month ago, and costs $575 today . Similarly, the general cost of consumer electronics is increasing as chip manufacturers and production lines shift their focus to building more AI capacity. The largest consumer electronics manufacturer in the world, Apple, says it is having trouble securing chipmaking capacity for upcoming iPhones . Home electric bill costs have skyrocketed in some states with high concentrations of AI data centers, leading in part to a widespread, concerted effort by some towns and states to reject and restrict new data centers entirely. There is a fear among experts that similar shortages and price increases could come for water supplies as well. What this means is that the age of cheap, underpriced AI appears to be ending, or at least the compute crunch means the venture capitalists and investment firms funding OpenAI and Anthropic are going to have to be willing to burn even more cash in order to continue subsidizing their products. On the podcast this week , I compared this situation to Uber (and any number of fast-scaling startups that sought to lock in customers then jack up prices). This comparison is only useful in that, like Uber, what AI companies are doing to this point is wildly unsustainable and is being subsidized by investors. For years, Uber’s investors subsidized the cost of individual Uber rides to keep prices for consumers artificially low in order to gain market share, crush competition, and destroy the taxi industry. Uber and its investors could only lose money on each ride for so long as it continued to burn cash. This eventually led to enshittification for both riders and drivers as Uber suddenly jacked up prices for consumers and sought to find ways to pay drivers less. The difference, as Ed Zitron has pointed out , is that Uber’s costs were extremely low because Uber is essentially an app that owns none of the infrastructure, and so jacking up the cost of its service went quite a bit further toward getting it to break even. Some version of this is coming for AI companies, but the path toward sustainability is far more complicated because of the enormous infrastructure and societal costs of scaling AI even further. “Make Claude more expensive and limit its services” is a lever Anthropic can pull, but AI companies are also burning money trying to build new data centers, juggling the political backlash to those data centers, fending off various copyright and public safety lawsuits, and spending huge amounts of money trying to train the next frontier versions of their large language models. None of this is remotely sustainable as it currently stands. This means that the startups that are using AI agents to scale their operations are doing so at a time when AI costs are unsustainably low and may wake up one day to find that their compute costs suddenly double, 10x, or that they simply aren’t able to access compute anymore. The general, long-term hope for the AI industry seems to be one in which multiple things need to happen to avoid a broader AI bubble burst. There needs to be a widespread renewable energy revolution (which society and our environment desperately needs), vastly increased chip and component manufacturing, and models need to become more efficient. On top of that, AI needs to be widely adopted and prove to be enduringly useful and reliable across a bunch of different sectors and use cases, something the jury is still very much out on (and some studies have already shown AI use is creating more work for humans, not less ). All of this must happen while AI continues to put pressures on these systems that are making the problem worse (AI is making energy more expensive in the short term; lots of data centers are powered by fossil fuels; AI is pushing up the costs of components, chips, and gadgets, etc). Finally, all of this must happen while society juggles whatever potential mass unemployment / economic fallout comes from AI and the ensuing problems this causes for these employee-less companies who expect to sell their products to a populous that is struggling to find work. As many commenters pointed out in response to my last story : If companies begin replacing their employees with AI agents, who are they going to sell their products to? About the author Jason is a cofounder of 404 Media. He was previously the editor-in-chief of Motherboard. He loves the Freedom of Information Act and surfing. More from Jason Koebler