아마존, 새로운 토큰 요금제 앞두고 앤스로픽 모델 경량화 착수
내년부터 도입될 토큰 기반 요금제로 인한 비용 급증에 대비해, 아마존 엔지니어들이 앤스로픽(Antropic)의 대형 모델을 증류(Distillation)하여 자체적인 소형 모델을 구축하고 있습니다. 이는 애플이 구글 제미나이와 맺은 것과 유사한 권리를 바탕으로 진행되며, 아마존은 오픈AI나 자체 모델인 노바(Nova) 등 대안 모델 검토에도 나선 상태입니다.
비용 상승에 대한 우려로 인해, 일부 아마존 엔지니어들은 내부 사용을 위해 더 작고 저렴한 버전을 구축하기 위해 이미 앤스로픽(Antropic) 모델을 증류(Distillation)하고 있는 것으로 전해졌습니다. 이는 더 작은 모델이 더 큰 모델의 출력 결과로부터 학습하게 하는 방식입니다. 관련 소식통에 따르면, 아마존은 애플이 구글 제미나이와 맺은 협약과 유사하게 이러한 목적을 위해 앤스로픽 모델을 사용할 권리를 일부 보유하고 있습니다. 아마존은 자사 베드락(Bedrock) 클라우드 플랫폼에서 증류 서비스를 제공하고 있지만, 앤스로픽의 클로드(Claude) 모델은 사용할 수 없으며 아마존 자체 노바(Nova) 모델과 메타의 라마(Llama) 모델만 지원됩니다. 이러한 움직임은 파트너십 재협상과 관련이 있습니다. 내년부터 아마존은 연산 시간이 아닌 처리된 토큰(token)을 기준으로 앤스로픽 모델에 대한 비용을 지불하게 되며, 이로 인해 비용이 크게 급증할 수 있습니다. 아마존 대변인은 확장된 파트너십에 따른 변화가 비용을 높이지 않을 것이라며 이를 반박했습니다. 앤스로픽 측은 자사 모델이 제공하는 성능에 비해 가격이 더 낮다고 반론합니다. 보도에 따르면 아마존은 오픈AI(OpenAI) 및 자체적인 노바 모델과 같은 대안을 모색하고 있는 것으로 알려졌습니다. 올해 아마존은 앤스로픽에 최대 250억 달러, 오픈AI에 최대 500억 달러를 투자했습니다. [광고 및 구독 관련 안내] 과장 없는 AI 뉴스를 제공하는 THE DECODER의 구독 서비스를 확인하세요. 광고 없는 독서, 주간 AI 뉴스레터, 연 6회 제공되는 독점 프론티어 리포트, 전체 아카이브 및 댓글 섹션 접근 권한을 제공합니다. 지금 구독하세요. 출처: The Information