대중에게 생소한 중국 텐센트의 오픈소스 모델 'Hy3 preview'가 최근 OpenRouter 모델 사용량 랭킹에서 최고의 인기를 누리던 Claude와 DeepSeek를 큰 폭으로 제치며 부상했습니다. 성능 벤치마크나 사용자 평가는 상위 모델들에 미치지 못하는 수준이지만, 입력 토큰당 약 $0.066라는 극도로 저렴한 가격 책정 덕분에 비용에 민감한 유료 사용자들을 대량으로 끌어들이며 유기적인 사용량 1위를 기록하고 있습니다. 이 현상은 최근 AI 코딩 에이전트 등의 비용이 급증함에 따라, 최고 수준의 성능보다 '가성비'를 선택하는 시장의 실용적인 트렌드를 보여준다는 점에서 중요합니다.
이 글은 사용자의 프롬프트를 단순함과 복잡함으로 나누어 가장 적합한 LLM으로 연결하는 지능형 라우팅 시스템인 'NadirClaw'의 구축 방법을 다룹니다. 실제 LLM API를 호출하기 전 로컬 분류기를 테스트하여 불필요한 비용을 줄이고, 필요에 따라 젬마이(Gemini) 모델을 전환(Switching)할 수 있는 실무적인 접근법을 제시합니다.
앤스로픽(Anthropic)이 클로드(Claude) 플랫폼에 고성능 모델을 컨설턴트로, 경량 모델을 실무자로 활용하는 '어드바이저 전략(Advisor Strategy)'을 베타 버전으로 도입했습니다. 이 전략은 단일 API 요청 내에서 Opus가 어려운 결정에 대한 계획을 수립하면 Sonnet이나 Haiku가 이를 실행하게 하여, 비용은 낮추면서도 준수하는 수준의 지능을 에이전트에 부여합니다. 실제 평가에서 Opus의 자문을 받은 Sonnet은 단독 구동보다 높은 성능을 기록하면서도 작업 당 비용은 약 12% 절감하는 것으로 나타났습니다.
클로드 코드(Claude Code)의 월 100달러 구독제가 사용량 제한을 빠르게 hitting하는 문제와 사용하지 않은 기간이 낭비된다는 단점을 지적하며, 이 대안으로 에디터 Zed와 API 중계 플랫폼 OpenRouter를 조합한 종량제 방식을 제안합니다. 작성자는 이를 통해 사용하지 않을 때 크레딧이 이월되며, 작업 난이도에 따라 다양한 AI 모델을 유연하게 선택하여 비용 효율성을 높일 수 있다고 설명합니다.
구글은 Gemini API에 'Flex'와 'Priority'라는 두 가지 새로운 서비스 등급을 도입했습니다. 개발자는 단일 동기화 인터페이스를 통해 비동기 배치 처리의 복잡함 없이, 대기 시간에 영향을 줘도 되는 백그라운드 작업은 50% 저렴한 Flex로 라우팅하고 즉각적인 응답이 필수적인 대화형 작업은 안정성이 가장 높은 Priority로 라우팅할 수 있습니다. 이를 통해 개발자는 앱의 요구사항에 맞춰 비용과 성능을 정밀하게 최적화할 수 있습니다.