마이크로소프트 사티아 나델라 CEO는 모든 작업에 무조건 가장 비싼 최첨단 AI 모델을 사용하는 '토큰 맥싱(Token-maxing)'의 중독성을 인정하면서도, 진정한 경제적 성장을 위해서는 AI 모델 사용의 한계 비용을 고려해야 한다고 경고했습니다. 또한 미래의 소프트웨어 개발은 개발자가 직접 코드를 작성하는 대신, 수많은 AI 에이전트가 짠 코드를 깊이 이해하고 관리하는 '인지적 커버리지(Cognitive coverage)'로 변화할 것이라고 전망했습니다.
Ramp AI Index의 최신 조사에 따르면, AI 도입에 가장 적극적인 상위 1% 기업들은 직원 1명당 매월 7,500달러를 AI에 지출하고 있습니다. 이는 여전히 소프트웨어 엔지니어의 평균 급여에는 미치지 못하는 수준이지만, 기업들의 AI 토큰 및 모델 사용 비용은 매달 큰 폭으로 증가하고 있어 향후 인건비를 넘어설지 주목됩니다.
새롭게 출시된 GPT-5.5 모델은 입력 및 출력 토큰 단가가 전버전 대비 2배로 인상되었습니다. 모델이 장문 프롬프트에 대해 더 짧은 답변을 생성하여 비용 상승이 일부 상쇄되지만, 실제 사용자 부담은 분석 결과 49~92% 증가한 것으로 나타났습니다. 특히 10K 토큰 미만의 짧은 프롬프트를 사용하는 사용자는 비용 절감 혜택을 누리지 못하고 요금 인상을 온전히 부담하게 되어 청구액 관리에 주의가 필요합니다.
DeepSeek의 최신 모델인 V4 Pro가 이전 버전(V3.2)에 비해 동일 수준의 성능을 내기 위해 토큰을 과도하게 낭비하는 '지능 밀도 하락' 현상을 보이고 있습니다. 특히 경쟁사인 GPT-5.4 및 GPT-5.5와 비교했을 때 유사한 성능을 달성하기 위해 약 10배나 많은 토큰을 소모하여, 이는 곧 작업 완료에 10배 더 긴 시간이 소요됨을 의미합니다.
Anthropic의 최신 모델인 Opus 4.7은 전 모델(4.6)과 동일한 API 요금을 유지하고 있으나, 실제 요청당 토큰 소모량이 평균 30% 이상 증가해 전체 사용 비용이 크게 상승하는 것으로 나타났습니다. 코드 생성 작업에서 특히 토큰 낭비가 심하며, 80턴 기준 약 20~30%의 추가 비용이 발생할 것으로 추정됩니다. 그러나 지시 사항 준수 성능(IFEval 기준)은 이전 버전 대비 약 5%p 향상되어 기능적 개선은 이루어진 것으로 확인됩니다.