미 국가안보국(NSA)이 AI 모델 테스트에 올해 수십억 달러를 지출할 예정이며, 주된 비용은 컴퓨팅 파워와 인건비다. 미국 의료계에서는 AI가 청구 싸움에 사용되면서 실제 의료 비용을 끌어올리고 있다. 이는 기업 고객이 토큰 기반 사용량 과금으로 컴퓨팅 비용을 고스란히 부담하는 구조와 맞물려 AI의 '지능'에 드는 비용이 갈수록 커지고 있음을 보여준다.
연구기관 Epoch AI는 특정 벤치마크 점수에 도달하는 비용이 분기당 평균 47%, 연간 약 13배씩 떨어지고 있다고 분석했습니다. 그러나 MIT 연구진은 하드웨어 저렴화와 경쟁 요인을 제거하면 순수 알고리즘 효율 개선은 연간 약 3배에 그친다고 지적합니다. 이는 가격 하락이 전부 실질적 기술 진보를 반영하는 것은 아니며, 모델 선택 시 벤치마크 점수만으로 판단할 수 없음을 시사합니다.
글로벌 소프트웨어 기업 SAP가 막대한 AI 도입 비용을 감당하기 위해 AI 관련 직무 및 출장을 제외한 일반 채용과 출장을 전면 중단했다. 내부 이메일에 따르면, 업무 전반에 AI를 도입하면서 발생하는 토큰 사용량과 관련 비용이 급증함에 따라 재무적 규율을 강화하기 위한 조치로 풀이된다. 최근 아마존, 시티은행 등 주요 빅테크 기업들 역시 제어를 잃은 AI 사용량과 비용을 통제하기 위해 사내 AI 사용을 대폭 제한하는 움직임을 보이고 있다.
AI 모델을 감싸는 소프트웨어 에이전트 프레임워크에 따라 작업 속도와 비용이 크게 달라집니다. 한 테스트 결과, '클로드 코드'는 작업 속도가 가장 빠르지만 비용은 최대 3배 가까이 발생하는 반면, '오픈코드'는 가장 저렴한 것으로 나타났습니다.
메타(Meta)의 애덤 모세리(Adam Mosseri) 인스타그램 총괄은 우수한 엔지니어의 AI 토큰 비용이 향후 1~2년 내에 인건비와 맞먹는 수준에 이를 것으로 전망했습니다. 이에 따라 우버(Uber)와 마이크로소프트(Microsoft) 등 다른 빅테크 기업들처럼 메타도 엔지니어별로 AI 토큰 사용 예산에 상한선을 두어 비용을 관리해야 할 시기가 올 것이라고 밝혔습니다.
허깅페이스 CEO 클렘 델랑그는 포춘 500대 기업 중 절반이 오픈소스를 사용하며, 기업들이 규모를 키울 때 폐쇄형 API의 높은 비용 때문에 오픈소스로 전환한다고 밝혔다. 그는 소수 빅테크가 AI를 독점할 위험성을 경고하며 오픈소스의 중요성을 강조했다.
테슬라는 내부 비용 절감을 위해 직원들의 주간 AI 토큰 사용료를 200달러로 상한선을 정했습니다. 이에 따라 상한선을 초과하여 AI 모델을 사용하려면 별도의 사내 승인을 받아야 합니다. 엘론 머스크의 지시로 사내 AI 활용이 강화되는 가운데, 직원들은 머스크가 추천한 그록(Grok)보다 앤스로픽의 클로드(Claude)를 더 선호하는 것으로 전해졌습니다.
기업 내 AI 도입이 급증하면서 비용이 통제 불능 상태에 이르러, 주요 기업들이 직원들의 AI 사용을 제한하고 있습니다. 특히 고성능 모델의 접근을 차단하거나 저성능 모델을 사용하도록 유도하는 등, AI 사용량 기반 과금 모델이 기업 실무에 미치는 영향이 본격화되고 있습니다.
AI 모델 사용량에 따른 토큰(Token) 과금제가 본격화되면서, 기업들이 폭발적인 AI 비용을 줄이기 위해 혈안되어 있습니다. 일부 기업은 AI 모델이 토큰을 덜 소비하도록 원시인처럼 말하도록 유도하는 등 다양한 비용 절감 기법을 도입하고 있습니다. 또한 구독자용 콘텐츠에서는 존재하지 않는 AI 생성 꽃씨를 온라인 마켓에서 판매하는 신종 사기 문제도 다룹니다.
DeepSeek 등 오픈웨이트(Open Weight) AI 모델이 폐쇄적인 프론티어 모델 대비 최대 50배 저렴한 가격으로 시장을 잠식하자, OpenAI와 Anthropic은 희소성 전략과 정치적 제재를 통한 방어막을 치고 있습니다. 하지만 데이터 파이프라인까지 모두 공개하는 완전한 오픈소스 AI(예: OLMo)가 미국의 NSF, Nvidia 등과 협력해 개발되면서, 오픈소스가 결국 AI의 미상을 결정짓는 흐름을 탄력 받고 있습니다.
글로벌 컨설팅 업체 등 주요 기업들이 직원들이 단순한 업무에 AI를 남용하여 예산을 초과하는 것을 막기 위해 토큰 사용을 제한하고 있습니다. 초기에는 직원들에게 AI 사용을 독려하던 기업들도 이제는 막대한 토큰 비용에 비해 실질적인 비즈니스 가치를 얻지 못하고 있다는 것을 깨닫고 있습니다. 이는 AI 산업 전반이 거창한 기술적 기대감을 넘어 실제 비즈니스 모델로서 수익성을 증명해야 하는 현실적인 전환점에 직면했음을 보여줍니다.
최근 글로벌 기업들이 무분별한 AI 도입으로 인해 감당하기 힘든 '토큰 비용' 폭탄을 맞고 있습니다. 특히 전문 개발자보다 PDF 변환 같은 단순 작업을 하는 비개발 직군이 토큰을 크게 소모하는 것으로 나타났습니다. 이에 우버 등 주요 기업들이 AI 도구 사용량을 제한하거나 토큰 예산을 통제하는 등 비용 절감에 나서고 있습니다.
KPMG 조사에 따르면 전체 기업의 단 26%만이 AI 지출 현황을 완벽하게 파악하고 있는 것으로 나타났습니다. 토큰 기반 과금 방식의 도입으로 인해 재무 부서는 비용 통제에 큰 어려움을 겪고 있으며, 일부 기업은 연간 예산을 몇 달 만에 초과하는 위기를 맞고 있습니다. 이는 팬데믹 시절의 과도한 클라우드 투자 붐과 비견되며, 기업들의 체계적인 AI 비용 관리가 시급해졌습니다.
아마존 직원들이 내부 AI 개발자 플랫폼(Kiro)의 사용량 순위를 높이기 위해 무의미한 작업을 AI에 맡기는 바람에 회사의 클라우드 비용이 급증하는 일이 벌어졌습니다. 이에 따라 아마존은 해당 랭킹 시스템을 폐지하고, 단순한 사용량 대신 실제로 유용한 '정규화된 배포(normalized deployments)'를 추적하는 방향으로 지표를 개편했습니다. 이는 AI 도입을 강제하는 기업 문화가 자칫 심각한 예산 낭비로 이어질 수 있음을 보여주는 대표적인 사례입니다.
중국 AI 기업 딥시크(Deepseek)가 플래그십 모델 '딥시크 V4 Pro'의 75% 할인을 영구적으로 전환한다고 발표했습니다. 이로 인해 출력 토큰 가격이 경쟁사인 GPT-5.5 및 Opus 4.7에 비해 34~51배 이상 저렴해졌습니다. 성능 면에서는 최신 프론티어 모델들보다 뒤처지지만, 가격 경쟁력을 앞세워 기업들의 AI 도입 전략을 '최고 성능'에서 '충분한 성능의 최저가'로 변화시키는 핵심 계기로 작용할 전망입니다.
OpenAI의 최신 모델인 GPT-5.5는 전작 대비 공식 토큰(token) 단가가 2배 인상되었습니다. 실사용 환경을 분석한 결과, 짧은 입력의 경우 응답 길이가 줄어들지 않아 실질적인 비용이 최대 92%까지 증가한 것으로 나타났습니다. IPO를 앞둔 OpenAI와 경쟁사들의 AI 모델 사용료 지속적인 인상은 실무자들에게 큰 부담으로 작용할 전망입니다.
최근 빅테크 기업들이 대규모 투자에도 불구하고 AI 도입 비용이 인건비를 훨씬 상회하고 있어 경제성 논란이 일고 있습니다. MIT 연구에 따르면 현재 기술 수준에서 AI 자동화가 인력보다 비용 효율적인 직무는 23%에 불과한 것으로 나타났습니다. 기업들은 비용 절감보다는 보완재로서 AI를 재평가하며, 단기적인 비용 불균형 속에서도 미래 경쟁력 확보를 위해 막대한 자본을 쏟아붓고 있습니다.
레딧(Reddit) 커뮤니티에서는 예상보다 빠르게 출시될 것으로 보이는 GPT-6의 전망을 놓고 반응이 뜨겁습니다. 특히 유저들은 다음 버전이 출시되기까지 오랜 시간이 걸린 게임 GTA 6를 인용하여 유머러스한 비교를 하고 있습니다. 하지만 GPT-6가 등장하면 '비용 6배, 환각(Hallucination) 현상 6배'라며 성능 향상에 따른 부작용에 대한 우려의 목소리도 담고 있습니다.