MarkTechPost • 18일 전

OpenBMB, 온디바이스 구동 MiniCPM5-2B 공개

IMP

7/10

핵심 요약

OpenBMB가 25.2억 파라미터의 밀집(Dense) 언어모델 MiniCPM5-2B를 아파치 2.0 라이선스로 공개했습니다. 34개 벤치마크 평균 53.9점으로 Qwen3.5-4B(51.1)를 앞서며, 특히 도구 사용, 코딩 에이전트, 장문 컨텍스트 검색에서 강점을 보입니다. 13만 토큰 컨텍스트와 1.56GB부터 시작하는 GGUF 빌드로 온디바이스 실행에 최적화된 것이 핵심입니다.

번역된 본문

OpenBMB가 MiniCPM5-2B를 공개했다. 이 모델은 2,516,756,480개(약 25.2억) 파라미터를 가진 밀집(Dense) 인과 언어 모델(Causal Language Model)로, 네이티브 131,072 토큰의 컨텍스트 길이를 지원한다. 모델 카드에 포함된 34개 벤치마크에서 평균 53.9점을 기록하며 51.1점을 받은 Qwen3.5-4B를 앞섰고, 특히 도구 사용(tool use), 코딩 에이전트, 장문 컨텍스트 검색에서 가장 뚜렷한 우위를 보인다.

포스트트레이닝 단계에서는 4,000억 토큰의 심층 사고(Deep-Thinking) SFT를 RL 교사(teacher) 및 온폴리시 증류(on-policy distillation)와 결합하여 16개 전문 모델을 하나의 체크포인트로 통합했다. 모델 가중치는 아파치 2.0(Apache 2.0) 라이선스로 공개되며, 사전학습·SFT·RL 데이터셋과 중간 단계인 Base, Midtrain, SFT-only 체크포인트도 함께 제공된다.

GGUF 빌드는 1.56GB부터 시작하며, 표준 LlamaForCausalLM 아키텍처를 사용해 모델 코드 수정 없이 vLLM, SGLang, llama.cpp, Ollama, MLX에서 바로 로드할 수 있다.

원문 보기

원문 보기 (영어)

OpenBMB has released MiniCPM5-2B, a dense causal language model with 2,516,756,480 parameters and a native 131,072 token context. It averages 53.9 across the 34 benchmarks in its model card, ahead of Qwen3.5-4B at 51.1, with its clearest leads in tool use, coding agents and long-context retrieval. Post-training pairs 400B tokens of deep-thinking SFT with RL teachers and on-policy distillation that merges 16 expert models into one checkpoint. The weights ship under Apache 2.0 alongside the pre-training, SFT and RL datasets and the intermediate Base, Midtrain and SFT-only checkpoints. GGUF builds start at 1.56 GB, and the standard LlamaForCausalLM architecture loads in vLLM, SGLang, llama.cpp, Ollama and MLX without a model-code fork. The post OpenBMB Releases MiniCPM5-2B: A 2.52B Dense Model Averaging 53.9 Across 34 Benchmarks and Built to Run On Device appeared first on MarkTechPost.

오픈소스 소형언어모델 온디바이스 OpenBMB 아파치2.0