코히어, 3B 활성 파라미터 코딩 모델 오픈소스 공개
코히어(Cohere)가 개발자를 위한 첫 번째 에이전트 기반 코딩 모델인 'North Mini Code'를 오픈소스로 공개했습니다. 총 30B(300억) 파라미터 중 3B(30억)만 사용하는 MoE(Mixture-of-Experts) 구조를 채택하여, 가벼운 하드웨어로도 강력한 소프트웨어 개발 성능을 발휘합니다. 개발자들이 특정 클라우드 업체에 종속되지 않고 자체 인프라에서 유연하게 AI 코딩 에이전트를 운영할 수 있다는 점에서 의미가 큽니다.
오늘 저희는 North Mini Code 오픈소스를 출시합니다. 혼합 전문가(MoE, Mixture-of-Experts) 모델인 North Mini Code는 Cohere의 첫 번째 에이전트 기반 코딩 모델이자 차세대 강력한 모델 라인업의 첫 번째 멤버입니다. 총 30B(300억) 개의 매개변수 중 단 3B(30억) 개만 활성화하여 작동하지만, North Mini Code는 고사양 하드웨어를 요구하지 않으면서도 훌륭한 소프트웨어 개발 성능을 제공합니다. 효율성을 염두에 두고 설계되어 사용자가 원하는 어느 환경에서든 실행될 수 있습니다. Apache 2.0 라이선스로 무료 제공되는 North Mini Code는 자체 주권을 가진 AI(Sovereign AI)를 현실화하려는 Cohere의 사명을 발전시키며, 개발자들에게 에이전트 코딩 기능에 대한 직접적인 접근성을 부여합니다. 저희는 오픈 환경에서 모델을 구축하고 있습니다. AI의 미래는 그것을 직접 실행하고, 테스트하고, 개선하는 사람들에 의해 만들어져야 하기 때문입니다. Hugging Face에서 가중치(Weights)를 다운로드하거나, Model Vault의 전용 관리형 추론 환경에 배포할 수 있습니다. 또는 OpenCode에서 원하는 도구와 함께 무료로 사용해 보거나 Cohere API 키를 통해 테스트해 볼 수 있습니다. 여러분이 만든 결과물을 공유하고 X(트위터)나 Discord에서 @Cohere를 태그하거나, Reddit에서 저희와 소통해 주세요.
스냅샷 모델: North-Mini-Code-1.0 라이선스: Apache 2.0 모델 크기: 총 30B (활성 3B) 컨텍스트 길이: 총 컨텍스트 256K, 최대 생성 64K 최적화 분야: 코드 생성, 에이전트 기반 소프트웨어 엔지니어링, 터미널 작업 사용 가능 플랫폼: Hugging Face(가중치), Cohere API, Cohere Model Vault, OpenRouter 최소 하드웨어 사양: 1× H100 @ FP8
에이전트 코딩 역량 North Mini Code는 동일한 크기의 모델들과 비교해 벤치마크에서 경쟁력 있는 점수를 기록하며, 실제 소프트웨어 엔지니어링 작업에서 탁월한 성능을 입증했습니다. North Mini Code의 벤치마크 점수는 'Artificial Analysis Coding Index'에서 33.4점으로, 비슷한 크기의 모델들 사이에서 우수한 위치를 차지했습니다.
개발자 작업을 위한 속도 이점 North Mini Code는 속도와 효율성에 중점을 두고 설계되었으며, 모델을 계속 개선하고 확장함에 따라 총소유비용(TCO)을 최소화하는 데 주력하고 있습니다. 저희의 테스트 결과, North Mini Code는 동일한 동시성 수준과 하드웨어 구성에서 Devstral Small 2보다 최대 2.8배 높은 출력 처리량을 달성했습니다. 실제로 이는 거의 3배에 가까운 작업 속도를 의미하며, 컴퓨팅 오버헤드를 줄이면서도 더 빠른 반복 작업을 가능하게 합니다. 또한 토큰 생성의 일관성과 속도를 나타내는 지표인 토큰 간 지연 시간(Inter-token latency)에서는 30%의 우위를 보여주었습니다. 첫 번째 토큰 생성 시간(TTFT, Time-to-first-token) 성능은 두 모델 간에 비슷했으며, 테스트된 조건 전반에서 Devstral Small 2가 약간의 우위를 유지했습니다.
개발자를 위한 주권형 오픈 모델 North Mini Code는 개발자를 위한 저희의 첫 번째 오픈소스 모델입니다. 코딩 에이전트가 소프트웨어 엔지니어링을 혁신함에 따라, 개발자들은 자신의 에이전트 코딩 인프라에 대한 제어권과 유연성이 필요합니다. North Mini Code는 개발자에게 실질적으로 중요한 작업을 수행할 수 있는 소규모 에이전트 코딩 모델의 발전을 나타냅니다. 특히 하위 에이전트(Sub-agent)의 이해 및 조율, 시스템 아키텍처 매핑, 코드 리뷰 실행을 포함하는 에이전트 워크플로우에 맞춰 제작되었습니다. 원하는 방식대로 온프레미스나 로컬에 배포해 보세요. 저희가 더 개방적이고 주권적인 개발자 모델을 향해 생태계를 확장함에 따라 커뮤니티의 피드백은 저희의 로드맵을 직접적으로 형성할 것입니다. 특정 업체 종속성(Vendor constraints)에서 벗어나야 할 때 North Mini Code를 사용해 보시고, 저희가 다음으로 만들어갈 것을 함께 도와주세요.
다음 계획은 무엇인가요? North Mini Code는 보다 주권적인 오픈소스 생태계를 위해 설계된 Cohere의 새롭고 강력한 차세대 모델 중 첫 번째일 뿐, 마지막은 아닙니다. 저희는 역량을 계속 강화해 나갈 것이며, 다음 버전은 커뮤니티의 의견을 반영하여 결정될 것입니다.
시작하기 North Mini Code를 사용해 보면서 소프트웨어 개발을 위한 완전한 주권형 AI 생태계를 함께 만들어 주세요. North Mini Code는 Hugging Face와 완전 관리형 추론 플랫폼인 Model Vault에서 무료로 사용할 수 있습니다. OpenCode와의 호환성을 위해 특별히 훈련되었지만, 대부분의 코딩 에이전트와도 잘 작동합니다. 여러분이 만든 결과물을 공유하고 X나 Discord에서 @Cohere를 태그해 주세요.