AI 코드 에디터 커서(Cursor)가 팀 및 기업 요금제를 위해 각 요청을 분석해 최적의 모델로 라우팅하는 '커서 라우터(Cursor Router)'를 정식 출시했습니다. 이 시스템은 온라인 A/B 테스트에서 최고 수준(Frontier)의 코딩 품질을 유지하면서도 비용을 최대 60% 절감하는 것으로 입증되었습니다. 기업 입장에서 코드 생성 품질을 타협하지 않으면서 AI 운영 비용을 크게 줄일 수 있다는 점에서 매우 중요합니다.
앤스로픽은 고성능이지만 비용이 비싼 최신 모델인 클로드 페이블 5의 효율적 운영법을 제안했습니다. 구체적으로 페이블 5는 기획 및 조언을 담당하는 '매니저' 역할만 수행하고, 실제 실행은 더 저렴한 소넷 5(Sonnet 5)가 처리하는 에이전트 패턴을 도입하여 비용을 절반가량 줄일 수 있다고 설명했습니다. 이는 중국의 오픈소스 모델과 경쟁사의 저렴한 가격 정책으로 인한 가격 경쟁력 확보 필요성이 커졌기 때문으로 풀이됩니다.
마이크로소프트가 엑셀과 아웃룩 등 코파일럿(Copilot) 제품 전반에서 오픈AI(OpenAI)와 앤스로픽(Anthropic) 모델을 자체 개발 모델(MAI)로 점진적으로 교체하여 비용을 절감하려 하고 있습니다. 실무자들에게는 같은 구독료를 지불하더라도 AI 성능은 저하될 수 있으며, 향후 오픈AI 등 외부 모델은 추가 요금을 내야만 쓸 수 있는 프리미엄 옵션으로 전환될 가능성이 높습니다.
오픈AI와 앤스로픽 등 미국 기업의 API 사용료가 치솟는 가운데, 딥시크(DeepSeek) 등 가성비 뛰어난 중국산 AI 모델의 채택률이 급증하고 있습니다. AI API 플랫폼인 오픈루터(OpenRouter)에서 중국 모델의 트래픽은 지난해 평균 11%에서 최근 30~46%까지 치솟았으며, 기술 격차도 6~9개월로 좁혀진 것으로 분석됩니다. 스타트업 린디(Lindy)는 기존 모델을 중국 모델로 교체해 수백만 달러의 비용을 절감하는 등 AI 시장의 가격 경쟁력이 중요해지고 있습니다.
내년부터 도입될 토큰 기반 요금제로 인한 비용 급증에 대비해, 아마존 엔지니어들이 앤스로픽(Antropic)의 대형 모델을 증류(Distillation)하여 자체적인 소형 모델을 구축하고 있습니다. 이는 애플이 구글 제미나이와 맺은 것과 유사한 권리를 바탕으로 진행되며, 아마존은 오픈AI나 자체 모델인 노바(Nova) 등 대안 모델 검토에도 나선 상태입니다.
AI 스타트업 '프러버블리(Probably)'는 엄격한 검증 시스템을 통해 LLM의 환각을 방지하고 99.99%의 정확도를 달성하는 기술을 개발 중입니다. 이 회사는 '데이터 과학 메카 수트'라고 부르는 정교한 엔지니어링 시스템을 도입해, 최첨단 AI 모델보다 성능이 낮은 모델을 사용하면서도 로컬 하드웨어에서 빠르고 저렴하게 작동하는 데이터 분석 도구를 구축했습니다. 이를 통해 증가하는 토큰 비용을 획기적으로 줄이며, 향후 회계, 의료 등 오류가 용납되지 않는 정밀 산업군으로 확장할 계획입니다.
캐나다 앨버타주 정부가 5,400만 달러(약 730억 원)의 예산과 4년이 걸릴 것으로 예상된 낡은 시스템 교체 프로젝트를 거부하고, 소수의 공무원들이 AI 개발 도구를 활용해 직접 시스템을 구축하는 성공 사례입니다. 이들은 '프리즘(PRISM) 이니셔티브'라는 소규모 팀을 꾸려 기존 예산의 95%를 절감하는 동시에 노후화된 핵심 인프라를 신속하게 대체할 수 있었습니다. 이 사례는 막대한 예산과 장기간이 소요되는 전통적인 공공 IT 프로젝트의 굴레를 깨고, 내부 개발과 AI 도구를 통해 혁신적인 효율성을 달성할 수 있음을 보여준다는 점에서 매우 중요합니다.