#FinOps

AI 토큰 폭탄: 통제 잃은 비용에 발칵 난 기업들

최근 기업들은 코딩 및 업무 자동화를 위한 AI 도입을 늘리면서 토큰 사용량이 폭증해 막대한 예산 초과 위기를 겪고 있습니다. 이에 따라 업계는 비용 추적 및 통제 솔루션을 모색하고 있으며, 토큰 비용 절감을 위한 새로운 기준 마련에 나섰습니다. 생산성 향상이라는 성과가 천문학적인 비용 지출을 정당화할 수 있는지에 대한 실질적인 ROI 측정이 시급해졌습니다.

인프라코스트, 클라우드 비용 절감 에이전트 공개

인프라코스트(Infracost)가 코딩 에이전트 및 IDE에 클라우드 비용 예측 및 최적화 기능을 제공하는 'Dev Cloud'를 출시했습니다. 개발자가 인프라 코드(IaC)를 작성하는 즉시 1,000개 이상의 클라우드 서비스에 대한 정확한 비용을 분석하고, 자연어로 비용 절감 방안을 제시합니다. 이를 통해 PR 리뷰나 배포 이전에 클라우드 리소스 낭비를 방지하고 FinOps 정책을 자동으로 적용할 수 있게 되었습니다.