프리미어리그 토트넘 홋스퍼가 경기장 인프라를 VMware에서 HPE의 Morpheus VM Essentials(VME)로 전환하며 라이선스 비용을 85% 이상 절감했습니다. 브로드컴의 VMware 인수 이후 상거래 구조 변화가 주요 배경이며, HPE GreenLake 기반 하이브리드 클라우드 관리와 AI 운영 통합도 목적입니다.
AI 모델 후처리(Post-training) 플랫폼인 Castform은 4B(40억 매개변수) 규모의 오픈소스 모델을 강화학습(RL) 후처리하여, 막대한 비용이 드는 최신 폐쇄형 API 모델(GPT-5.6 등)과 동등한 검색 정확도를 달성했습니다. 기업이 이미 보유한 데이터베이스 내의 데이터를 활용해 복잡한 인프라나 수동 데이터 라벨링 없이도 저렴하고 효율적으로 AI 에이전트를 구축할 수 있게 해줍니다.
마이크로소프트 AI는 만능 프론티어 모델보다 토큰 효율이 높은 저비용의 소형 전문 모델을 전략적으로 채택하고 있습니다. 복잡한 작업은 OpenAI 모델에 라우팅하고 단순 작업은 저비용 전문 모델이 처리하는 오케스트레이션(Orchestration) 시스템을 통해 막대한 GPU 비용을 절감할 수 있습니다. 이는 AI 산업의 핵심 경쟁력이 단일 모델의 성능에서 작업 라우팅과 문맥 공급을 담당하는 시스템으로 이동하고 있음을 시사합니다.
캐롤라이나 클라우드는 고객이 결제한 선불 크레딧의 남은 금액에 대해 매일 복리로 계산되는 기준 금리(SOFR)를 은행과 같이 지급합니다. 이는 유휴 클라우드 자금이 마냥 방치되지 않고, 일반 은행 예금보다 유리한 이율로 매일 자동 증식하여 비용 절감 효과를 낼 수 있기 때문에 기술 실무자 및 재무 담당자에게 중요한 정책입니다. 발생한 이자 내역은 투명하게 감사 및 추적할 수 있도록 철저하게 기록되며 적립됩니다.
AI 코드 에디터 커서(Cursor)가 팀 및 기업 요금제를 위해 각 요청을 분석해 최적의 모델로 라우팅하는 '커서 라우터(Cursor Router)'를 정식 출시했습니다. 이 시스템은 온라인 A/B 테스트에서 최고 수준(Frontier)의 코딩 품질을 유지하면서도 비용을 최대 60% 절감하는 것으로 입증되었습니다. 기업 입장에서 코드 생성 품질을 타협하지 않으면서 AI 운영 비용을 크게 줄일 수 있다는 점에서 매우 중요합니다.
앤스로픽은 고성능이지만 비용이 비싼 최신 모델인 클로드 페이블 5의 효율적 운영법을 제안했습니다. 구체적으로 페이블 5는 기획 및 조언을 담당하는 '매니저' 역할만 수행하고, 실제 실행은 더 저렴한 소넷 5(Sonnet 5)가 처리하는 에이전트 패턴을 도입하여 비용을 절반가량 줄일 수 있다고 설명했습니다. 이는 중국의 오픈소스 모델과 경쟁사의 저렴한 가격 정책으로 인한 가격 경쟁력 확보 필요성이 커졌기 때문으로 풀이됩니다.
마이크로소프트가 엑셀과 아웃룩 등 코파일럿(Copilot) 제품 전반에서 오픈AI(OpenAI)와 앤스로픽(Anthropic) 모델을 자체 개발 모델(MAI)로 점진적으로 교체하여 비용을 절감하려 하고 있습니다. 실무자들에게는 같은 구독료를 지불하더라도 AI 성능은 저하될 수 있으며, 향후 오픈AI 등 외부 모델은 추가 요금을 내야만 쓸 수 있는 프리미엄 옵션으로 전환될 가능성이 높습니다.
오픈AI와 앤스로픽 등 미국 기업의 API 사용료가 치솟는 가운데, 딥시크(DeepSeek) 등 가성비 뛰어난 중국산 AI 모델의 채택률이 급증하고 있습니다. AI API 플랫폼인 오픈루터(OpenRouter)에서 중국 모델의 트래픽은 지난해 평균 11%에서 최근 30~46%까지 치솟았으며, 기술 격차도 6~9개월로 좁혀진 것으로 분석됩니다. 스타트업 린디(Lindy)는 기존 모델을 중국 모델로 교체해 수백만 달러의 비용을 절감하는 등 AI 시장의 가격 경쟁력이 중요해지고 있습니다.
내년부터 도입될 토큰 기반 요금제로 인한 비용 급증에 대비해, 아마존 엔지니어들이 앤스로픽(Antropic)의 대형 모델을 증류(Distillation)하여 자체적인 소형 모델을 구축하고 있습니다. 이는 애플이 구글 제미나이와 맺은 것과 유사한 권리를 바탕으로 진행되며, 아마존은 오픈AI나 자체 모델인 노바(Nova) 등 대안 모델 검토에도 나선 상태입니다.
AI 스타트업 '프러버블리(Probably)'는 엄격한 검증 시스템을 통해 LLM의 환각을 방지하고 99.99%의 정확도를 달성하는 기술을 개발 중입니다. 이 회사는 '데이터 과학 메카 수트'라고 부르는 정교한 엔지니어링 시스템을 도입해, 최첨단 AI 모델보다 성능이 낮은 모델을 사용하면서도 로컬 하드웨어에서 빠르고 저렴하게 작동하는 데이터 분석 도구를 구축했습니다. 이를 통해 증가하는 토큰 비용을 획기적으로 줄이며, 향후 회계, 의료 등 오류가 용납되지 않는 정밀 산업군으로 확장할 계획입니다.
캐나다 앨버타주 정부가 5,400만 달러(약 730억 원)의 예산과 4년이 걸릴 것으로 예상된 낡은 시스템 교체 프로젝트를 거부하고, 소수의 공무원들이 AI 개발 도구를 활용해 직접 시스템을 구축하는 성공 사례입니다. 이들은 '프리즘(PRISM) 이니셔티브'라는 소규모 팀을 꾸려 기존 예산의 95%를 절감하는 동시에 노후화된 핵심 인프라를 신속하게 대체할 수 있었습니다. 이 사례는 막대한 예산과 장기간이 소요되는 전통적인 공공 IT 프로젝트의 굴레를 깨고, 내부 개발과 AI 도구를 통해 혁신적인 효율성을 달성할 수 있음을 보여준다는 점에서 매우 중요합니다.