BL
MarkTechPost • 59일 전
리퀴드 AI, CPU에서 8K 컨텍스트 처리에 강한 양방향 인코더 2종 공개
IMP 7/10
핵심 요약
리퀴드 AI가 LFM2 하이브리드 백본 기반의 오픈웨이트 양방향 인코더인 LFM2.5-Encoder-230M과 350M을 공개했습니다. 350M 모델은 GLUE, SuperGLUE 등 다국어 벤치마크에서 대형 모델들에 이어 우수한 성능을 보였으며, 230M 모델은 일반 CPU 환경에서도 8,192 토큰 처리를 약 28초 만에 빠르게 수행합니다.
번역된 본문
리퀴드 AI가 'LFM2.5-Encoder-230M'과 'LFM2.5-Encoder-350M'이라는 두 가지 오픈웨이트 양방향 인코더(Bidirectional Encoder)를 공개했습니다. 두 모델 모두 최대 8,192 토큰의 컨텍스트를 처리할 수 있으며, LFM2 하이브리드 백본(Backbone) 아키텍처를 기반으로 구축되었습니다. 350M 모델은 17개의 작업으로 구성된 GLUE, SuperGLUE 및 다국어 테스트 스위트에서 14개 모델 중 4위를 차지하며, 더 큰 규모의 대형 모델들에 뒤지지 않는 뛰어난 성능을 입증했습니다. 또한 가장 작은 230M 모델은 일반 CPU 환경에서도 단 한 번의 순방향 패스(Forward Pass)를 통해 8K 토큰을 단 28초 만에 빠르게 처리할 수 있습니다.
리퀴드 AI, CPU에서 8K 컨텍스트에서도 빠른 처리 속도를 유지하는 양방향 인코더 'LFM2.5-Encoder-230M'과 'LFM2.5-Encoder-350M' 공개라는 제목의 글은 MarkTechPost를 통해 가장 먼저 게재되었습니다.
원문 보기 (영어)
Liquid AI released two open-weight bidirectional encoders, LFM2.5-Encoder-230M and LFM2.5-Encoder-350M. Both carry an 8,192-token context and are built on the LFM2 hybrid backbone. The 350M ranks fourth of 14 models on a 17-task GLUE, SuperGLUE, and multilingual suite, behind only larger models. The 230M clears one 8K-token forward pass on CPU in about 28 seconds.
The post Liquid AI Releases LFM2.5-Encoder-230M and LFM2.5-Encoder-350M: Bidirectional Encoders That Stay Fast at 8K Context on CPU appeared first on MarkTechPost.