#AI효율성

오픈AI 코덱스 개발자 "AI 에이전트 군집은 토큰 낭비"

오픈AI 코덱스 개발자 에릭 프로벤셔는 2개 이상의 병렬 서브 에이전트를 사용하면 품질 향상 없이 토큰만 소모하는 '조정 비용(coordination tax)'이 발생한다고 경고했다. 한 사례에서는 단일 파이썬 파일 리팩토링에 1,393개의 에이전트를 사용해 2만 달러의 토큰 비용이 발생했으며, 단일 에이전트로 훨씬 저렴하게 처리할 수 있었다는 것이다.

AI 스타트업, LLM 효율성 병목 현상 돌파 주장

AI 스타트업 Subquadratic이 대형 언어 모델(LLM)의 연산량과 비용을 획기적으로 줄이는 새로운 아키텍처 'SubQ'를 공개했습니다. 기존 Transformer(트랜스포머) 구조의 비효율성을 극복하여 매우 빠른 처리 속도와 낮은 전력 소모를 자랑하며, 제3자 평가를 통해 그 성능이 입증되었습니다. 이는 AI 모델 구축 방식을 근본적으로 바꿀 수 있는 중요한 기술적 도약으로 평가됩니다.