#MiniCPM

개발자, 오픈소스 모델 미세조정으로 657MB 초소형 로컬 추론 모델 출시

한 커뮤니티 개발자가 OpenBMB의 'MiniCPM5-1B' 모델을 클로드(Claude)의 추론 과정 데이터로 미세조정(fine-tuning)하여 완전히 로컬에서 구동되는 657MB 크기의 초소형 추론 모델을 구축했습니다. 이 모델은 128K의 긴 문맥 처리와 추론 과정 시각화를 지원하여, 제한된 환경에서도 고성능 AI 모델을 오프라인으로 활용할 수 있다는 점에서 의미가 있습니다.