MP
MarkTechPost • 36일 전
IMP 6
리퀴드 AI, 최대 3.18배 빠른 디코딩 LFM2.5-DSpark 드래프트 모델 공개
Liquid AI가 약 3억 파라미터(300M) 규모의 드래프트 모델 3종 'LFM2.5-DSpark'를 공개했습니다. 이 모델들은 LFM2.5에 스페큘러티브 디코딩(speculative decoding)을 적용해 최대 3.18배 빠른 디코딩 속도를 제공하면서도 그리디(greedy) 출력 결과는 기존 모델과 완전히 동일합니다. 추론 비용 절감과 지연시간 단축이 중요한 실무 관점에서 주목할 만한 릴리스입니다.
추론 가속 스페큘러티브 디코딩 LFM2.5