일본의 스타트업 사카나 AI가 오케스트레이션 모델인 '후구(Fugu)'를 기반으로 한 보안 특화 모델 '후구-사이버(Fugu-Cyber)'를 발표했습니다. 이 모델은 보안 벤치마크인 사이버짐(CyberGym)과 CTI-REALM에서 각각 86.9%, 72.1%의 높은 성능을 기록하며 최신 AI 모델들을 제쳤습니다. 해당 모델은 오용을 방지하기 위해 수동 승인 및 방어적 사용 정책 등의 엄격한 접근 제한을 거쳐 제공됩니다.
도쿄에 본사를 둔 AI 스타트업 사카나 AI(Sakana AI)가 자사의 AI 오케스트레이터(orchestrator)인 'Fugu(푸구)'에 엔비디아의 오픈소스 모델인 네모트론(Nemotron)을 통합합니다. 이는 여러 AI 모델을 조율해 작업을 수행하는 방식이 단일 최첨단 프론티어 모델에 필적하는 성능을 낼 수 있음을 증명하기 위함입니다. 단일 모델의 한계를 극복하고 특정 벤더 종속을 줄이는 중요한 사례로 평가받습니다.
기업들은 다단계 작업을 수행하는 에이전트 오케스트레이션 도입을 목표로 하지만, 실제로는 단순 챗봇 수준에 머물러 있는 등 도입 목표와 현실 간의 격차가 큰 상황입니다. 이 과정에서 특정 업체 종속을 피하기 위해 하이브리드 제어 환경 구축을 선호하며, 토큰 비용에 대한 실시간 통제가 부족해 비용 관리의 중요성이 대두되고 있습니다.
일본의 스타트업 사카나 AI가 최신 LLM들을 상황에 맞게 교체 및 할당하는 새로운 오케스트레이션 모델 '후구(Fugu)'를 출범했습니다. 이 모델은 복잡한 작업을 각 모델의 특성에 맞게 분산하여 처리함으로써 코딩, 추론, 에이전트 성능을 평가하는 주요 벤치마크에서 압도적인 성능을 기록했습니다.
AI 에이전트 팀 구성을 표준화된 JSON Schema로 정의할 수 있는 오픈소스 프로젝트가 공개되었습니다. 역할, 권한, 승인 게이트 등을 포함해 팀을 한 번 정의하면 Docker처럼 다양한 런타임에서 실행할 수 있도록 이식성을 확보하는 것이 핵심입니다.
클라우드플레어(Cloudflare)는 하나의 범용 AI 모델에 의존하는 기존 방식의 한계를 극복하고자 보안, 성능, 코드 품질 등을 담당하는 최대 7개의 전문 AI 에이전트를 실행하는 오케스트레이션 시스템을 구축했습니다. 이 시스템은 수만 건의 병합 요청(Merge Request)을 검토하며 실제 버그와 취약점을 고도로 정확하게 찾아내고 심각한 문제 발견 시 병합을 적극적으로 차단합니다. 이 글은 방대한 코드베이스와 다양한 내부 표준을 유연하게 지원하기 위해 고안한 플러그인 기반 아키텍처와 CI/CD 파이프라인 내 LLM 통합 과정의 구체적인 기술적 고민을 깊이 있게 다룹니다.