HN
Hacker News • 46일 전
IMP 8
온디바이스 AI 'Needle2': 14MB 초소형 모델 공개
스마트폰, 웨어러블, 로봇 등 200달러 미만의 저사양 기기에서 초고속으로 구동되는 14MB 크기의 온디바이스 에이전트 AI 모델이 공개되었습니다. 모델 자체를 극도로 가볍게 설계하여 기기 제어와 데이터 추출에 특화되었으며, 클라우드 연결 없이도 완벽한 프라이버시와 즉각적인 응답을 제공하는 것이 핵심입니다.
온디바이스 AI 소형 언어 모델(SLM) 양자화(Quantization)