BL
MarkTechPost • 2일 전
리퀴드 AI, 128K 컨텍스트 지원 온디바이스 MoE 모델 공개
IMP 6/10
핵심 요약
리퀴드 AI는 일반 소비자용 하드웨어에서도 구동 가능한 온디바이스용 MoE 모델인 LFM2.5-8B-A1B를 발표했습니다. 이 모델은 총 83억 개(8.3B)의 파라미터를 보유하고 있으면서도 연산 시 15억 개(1.5B)만 활성화하여 효율적인 추론을 자랑합니다. 최대 12만 8천(128K) 토큰의 긴 컨텍스트 처리와 고급 추론, 그리고 도구 호출(Tool calling) 기능을 지원하는 것이 특징입니다.
번역된 본문
리퀴드 AI의 LFM2.5-8B-A1B 모델은 총 83억 개(8.3B)의 파라미터 중 15억 개(1.5B)만 활성화하여 작동하며, 일반 소비자용 하드웨어에서도 128K 컨텍스트(Context), 고급 추론(Reasoning), 그리고 도구 호출(Tool calling) 기능을 제공합니다.
이 글 '리퀴드 AI, 총 83억 개·활성 15억 개 파라미터를 탑재한 온디바이스 MoE 모델 LFM2.5-8B-A1B 공개'는 MarkTechPost에 처음 게재되었습니다.
원문 보기 (영어)
Liquid AI's LFM2.5-8B-A1B activates 1.5B of 8.3B parameters, offering 128K context, reasoning, and tool calling on consumer hardware.
The post Liquid AI Releases LFM2.5-8B-A1B: An On-Device MoE Model With 8.3B Total and 1.5B Active Parameters appeared first on MarkTechPost.