MP
MarkTechPost • 47일 전
IMP 7
Zyphra, 최초 토큰 생성 시간을 혁신적으로 단축한 'Zamba2-VL' 공개
Zyphra가 12억, 27억, 70억 파라미터 규모의 오픈소스 비전-언어 모델(VLM) 패밀리인 Zamba2-VL을 공개했습니다. 이 모델들은 Mamba2 상태 공간과 Transformer를 결합한 하이브리드 아키텍처를 채택하여, 기존 동급의 Transformer 기반 VLM과 경쟁력 있는 성능을 유지하면서도 첫 번째 토큰을 생성하는 데 걸리는 시간(Time-to-First-Token)을 약 10분의 1 수준으로 획기적으로 단축했습니다.
비전-언어 모델 오픈소스 Zamba2