AI 컴퓨팅 대란 도래: 전체 경제에 미치는 충격
AI 기업들이 무한정 자금을 태워 서비스를 저렴하게 제공하던 시대가 저물며 'AI 컴퓨팅 대란(Compute Crunch)'이 본격화되고 있습니다. 이로 인해 깃허브와 오픈AI 등은 서비스 제한과 가격 인상을 단행했으며, 메모리와 SSD 등 관련 부품 가격 폭등, 전력 수급 문제 등으로 전방위적인 경제적 타격이 발생하고 있습니다. 과거 우버의 파괴적 할인 정책이 견디지 못하고 가격을 대폭 올렸듯, AI 산업 역시 적자 운영의 한계에 부딪혀 기업과 투자자들에게 막대한 자본 부담으로 작용할 전망입니다.
이번 주 초, 저는 인간 직원을 고용하는 대신 AI 컴퓨팅(Claude 및 OpenAI 제품 등의 토큰)에 돈을 쏟아붓는 스타트업들에 대한 기사를 썼습니다. 이러한 비즈니스 전략은 여러 가지 이유로 실패할 수 있지만, 가장 명백한 실패 조짐 중 하나가 보이기 시작했습니다. 바로 AI 기업들이 실제 운영 비용보다 적은 금액을 사용자에게 청구하며 AI 제품을 무한정 보조금으로 지원할 수는 없다는 점입니다. 이것이 바로 'AI 컴퓨팅 대란(Compute Crunch)'이며, 그 징후는 우리 주변 곳곳에서 나타나고 있습니다.
깃허브(GitHub)는 코파일럿(Copilot)의 신규 가입을 일시 중지하고, 사용 한도를 축소하며, 비용이 더 많이 드는 여러 AI 모델에 대한 접근을 제거한다고 발표했습니다. 앤스로픽(Anthropic)은 클로드 코드(Claude Code)에 대한 접근을 강화하여 월 20달러 플랜에서는 클로드 코드 접근을 완전히 차단하는 것을 테스트했습니다(월 100달러 플랜에서만 접근 유지). 더 버지(The Verge)에서 지적했듯, 앤스로픽은 과도한 사용으로 인해 지속 불가능하다는 이유로 오픈클로(OpenClaw) 사용자들의 클로드 접근을 제한했습니다. 오픈AI의 사라 프라이어(Sarah Friar) 재무 책임자(CFO)는 회사에 컴퓨팅 자원이 충분하지 않다는 점을 끊임없이 언급해 왔으며, 이는 소라(Sora) 폐지 결정과 같은 형태로 나타나고 있습니다. 일부 애널리스트들에 따르면, AI 도구가 내장된 소프트웨어의 가격은 20~37% 인상되었습니다. 여기에는 마이크로소프트 365, 노션(Notion) 비즈니스 플랜, 세일즈포스(Salesforce), 구글 워크스페이스(Google Workspace)의 가격 인상이 포함됩니다. AI 제품 및 서비스에 대한 전반적인 배급제가 시행되고 있습니다.
메타(Meta)는 인력의 10%를 해고하고 있는데, 이는 부분적으로 회사가 절약한 비용의 일부를 AI 인프라에 지출하고자 하기 때문입니다. "이번 해고는 우리가 진행 중인 다른 투자를 상쇄하기 위한 것입니다."라고 회사는 남은 직원들에게 말했습니다. 메타의 최근 주요 투자는 데이터센터와 이를 운영하는 기술이었습니다. 그러나 AI 기업들이 제품에 대한 접근을 제한하고, 제품을 완전히 폐쇄하며, 가격 인상을 시작하고 있다는 것만이 문제는 아닙니다. 현재 AI의 지속 불가능한 상황이 미치는 광범위한 영향은 경제 전반의 다양한 부문에서 확인할 수 있습니다.
소비자용 RAM, 그래픽 카드, 하드 드라이브 및 솔리드 스테이트 스토리지(SSD)의 가격이 급등했으며 많은 매장에서 품절되었습니다. 제가 작년 말에 구매했던 동일한 2TB 외장 SSD는 당시 159달러였지만, 한 달 전에는 449달러였고 오늘은 575달러에 팔리고 있습니다. 이와 유사하게, 칩 제조사와 생산 라인이 더 많은 AI 생산 능력을 구축하는 데 집중하면서 소비자용 전자제품의 전반적인 가격이 상승하고 있습니다. 세계 최대의 소비자 전자제품 제조사인 애플(Apple)은 다가오는 아이폰(iPhone)을 위한 칩 생산 능력을 확보하는 데 어려움을 겪고 있다고 밝혔습니다. AI 데이터센터가 집중적으로 위치한 일부 주에서는 가정용 전기 요금이 급등했으며, 이로 인해 일부 도시와 주에서는 새로운 데이터센터를 전면 거부하고 제한하려는 광범위하고 공동의 노력을 기울이고 있습니다. 전문가들은 수자원 공급에도 유사한 부족 현상과 가격 상승이 올 수 있다고 우려하고 있습니다.
이것이 의미하는 바는 저렴하고 가격이 낮게 책정된 AI의 시대가 끝나가고 있다는 것입니다. 적어도 컴퓨팅 대란은 벤처 캐피탈과 오픈AI, 앤스로픽에 자금을 대는 투자 회사들이 제품 보조금을 계속 지원하기 위해 훨씬 더 많은 현금을 태울 의지가 있어야 한다는 것을 의미합니다. 이번 주 팟캐스트에서 저는 이 상황을 우버(Uber, 고객을 묶어둔 뒤 가격을 대폭 올리려 했던 수많은 빠른 성장 스타트업들)에 비유했습니다. 이 비교가 유용한 이유는 우버와 마찬가지로 AI 기업들이 현재까지 해온 방식이 철저히 지속 불가능하며 투자자들에게 보조금을 받아 유지되고 있기 때문입니다. 수년간 우버의 투자자들은 시장 점유율을 늘리고 경쟁을 짓밟으며 택시 산업을 파괴하기 위해 소비자 가격을 인위적으로 낮게 유지하기 위해 개별 우버 승차 비용을 보조했습니다. 우버와 투자자들은 현금을 태우는 한 각 승차 건마다 손실을 볼 수밖에 없었습니다. 결국 이는 우버이 소비자를 위해 가격을 갑자기 올리고 운전기사에게 지불하는 비용을 줄일 방법을 찾으면서 승객과 운전기사 모두에게 서비스 품질 저하로 이어졌습니다. 에드 지트론(Ed Zitron)이 지적한 차이점은...