BL
MarkTechPost • 47일 전
Zyphra, 최초 토큰 생성 시간을 혁신적으로 단축한 'Zamba2-VL' 공개
IMP 7/10
핵심 요약
Zyphra가 12억, 27억, 70억 파라미터 규모의 오픈소스 비전-언어 모델(VLM) 패밀리인 Zamba2-VL을 공개했습니다. 이 모델들은 Mamba2 상태 공간과 Transformer를 결합한 하이브리드 아키텍처를 채택하여, 기존 동급의 Transformer 기반 VLM과 경쟁력 있는 성능을 유지하면서도 첫 번째 토큰을 생성하는 데 걸리는 시간(Time-to-First-Token)을 약 10분의 1 수준으로 획기적으로 단축했습니다.
번역된 본문
Zyphra는 12억(1.2B), 27억(2.7B), 70억(7B) 파라미터 크기의 오픈소스 비전-언어 모델(Vision-Language Model) 패밀리인 Zamba2-VL을 출시했습니다. 이 모델들은 Mamba2 상태 공간(State-space)과 Transformer 백본(Backbone)을 결합한 하이브리드 아키텍처를 사용하며, Apache 2.0 라이선스로 배포됩니다. 이 모델들은 동급의 Transformer 기반 VLM과 대등한 성능을 유지하면서도, 첫 번째 토큰 생성 시간(Time-to-First-Token)을 약 한 자릿수(10배) 수준으로 대폭 단축시켰습니다.
이 글 'Zyphra, 최초 토큰 생성 시간을 약 한 자릿수 단축한 하이브리드 Mamba2-Transformer 비전-언어 모델 Zamba2-VL 출시'는 MarkTechPost에 처음 게재되었습니다.
원문 보기 (영어)
Zyphra has released Zamba2-VL, a family of open vision-language models at 1.2B, 2.7B, and 7B parameters. The models use a hybrid Mamba2 state-space and Transformer backbone, shipping under Apache 2.0. They stay competitive with comparable Transformer VLMs while cutting time-to-first-token by about an order of magnitude.
The post Zyphra Release Zamba2-VL: Hybrid Mamba2–Transformer Vision-Language Models That Cut Time-to-First-Token by About an Order of Magnitude appeared first on MarkTechPost.