r/LocalLLaMA • 10일 전

코히어, 오픈소스 초고속 MoE 모델 'Command A+' 공개

IMP

8/10

핵심 요약

코히어(Cohere)의 공동 창업자 닉 프로스트가 첫 번째 MoE(Mixture of Experts) 아키텍처 기반 모델인 'Command A+'를 공개했습니다. 이 모델은 소규모 팀과 개발자도 쉽게 에이전트를 구축할 수 있도록 실용성과 효율성을 극대화하여, 단 1~2개의 GPU 환경에서도 매우 빠르고 반응성 높게 구동되는 것이 가장 큰 특징입니다. 기업 중심의 서비스 모델을 유지하면서도 혁신을 이끄는 오픈소스 커뮤니티의 피드백을 반영하기 위해 Apache 2.0 라이선스로 전격 공개되었다는 점이 산업계 관계자들에게 주목받고 있습니다.

번역된 본문

안녕하세요 여러분, 코히어(Cohere)의 닉 프로스트(Nick Frosst)입니다. 몇 달 전 저희 공동 창업자인 에이단(Aidan)이 이곳에 댓글을 남기며 저희 Command 시리즈에 대해 이야기하고, 보다 강력한 오픈 웨이트(Open-weights) 모델을 내부적으로 개발하고 있다고 말씀드린 적이 있습니다. 저희는 방금 Command A+를 출시했으며, 여러분과 이 소식을 공유하고자 합니다.

핵심 요약(TLDR)은 저희가 정말 효율적인 모델을 구축했다는 것입니다. 저희의 첫 번째 MoE(Mixture of Experts) 모델이기에 매우 기대됩니다. 최고 수준의 성능을 끌어올리기 위한 작업은 당연히 더 필요하지만, 현재로서는 동일 카테고리에서 가장 빠르고 반응성이 뛰어난 모델 중 하나로 보입니다. 또한 놀라운 양자화(Quantization) 작업을 성공적으로 마쳐서, 단 1~2개의 GPU 환경에서도 매우 원활하게 작동합니다.

R7B 모델과 마찬가지로, 저희는 소규모 팀과 개발자들이 저희 플랫폼 고객사에 제공하는 수준의 에이전트(Agent)들을 현실적으로 구축하고 사용할 수 있도록 모델의 실용성을 최우선으로 고려했습니다. 이것이 바로 이 모델에 Apache 2.0 라이선스를 적용한 이유입니다. 정말 훌륭한 모델에 대해 완벽하고 제한 없는 접근성을 제공하는 것입니다.

저희는 기업 고객을 최우선으로 하는 기업(Enterprise-first)이지만, 솔직히 말씀드리면 저희는 오픈소스 커뮤니티를 통해 정말 많은 것을 얻으며 더 혁신적이고 창의적으로 발전하고 있습니다. 여러분이 주시는 피드백은 저희가 향후 모델과 제품을 고민하는 방식에 거의 확실하게 영향을 미칠 것입니다... 지난번에 지적을 받았던 것처럼 말이죠 하하.

그러니 거침없이 말씀해 주세요. 여러분의 생각이나 프로젝트 등 무엇이든 공유해 주시면 감사하겠습니다. 자세한 내용은 https://cohere.com/blog/command-a-plus 여기에서 확인하실 수 있습니다. 감사합니다 :)

원문 보기

원문 보기 (영어)

Hey everyone, Nick Frosst here from Cohere. A few months ago Aidan (my cofounder) [left a comment](https://www.reddit.com/r/LocalLLaMA/comments/1rf8nou/comment/o8rkdrf/) in here about our Command series and how we were working on some more powerful, open-weights models behind the scenes. We just launched Command A+ and we wanted to share it with you guys. TLDR is we built a really efficient model. It’s our first MoE model, which is exciting. There’s obvs work to do on top-line performance but it’s easily looking like one of the fastest and most responsive models in our category. We also pulled off some incredible quantization work so it runs really well on even 1 or 2 GPUs. Like with R7B, we really prioritized making the model practical, so smaller teams and devs could realistically use it to build the kind of agents we ship for our platform customers. That’s also why it’s under Apache 2.0. Just total, near unfettered access to a pretty awesome model. We’re enterprise-first but honestly, we get so much out of our open-source community that makes us more innovative and creative. The feedback you give will almost certainly influence how we think about models and product going forward…... as it already has here from getting called out the last time haha. So, don’t hold back. Share your thoughts, your projects, whatever. You can see the full details here [https://cohere.com/blog/command-a-plus](https://cohere.com/blog/command-a-plus) We appreciate you :)

Cohere Command A+ MoE 오픈소스 LLM