#추론엔진

퍼플렉시티, 애플 실리콘용 추론 엔진 '릴리' 오픈소스화

퍼플렉시티가 자사 Perplexity Computer의 Hybrid Compute를 뒷받침하는 로컬 추론 엔진 'Lily(릴리)'를 오픈소스로 공개했습니다. Rust로 작성되고 애플 실리콘용 커스텀 Metal 커널을 포함해, 40코어 128GB M5 Max에서 MLX-LM 대비 프리필 1.23배, 디코드 1.35배의 처리량을 보입니다.

LLM이 추론 엔진 취약점으로 호스트 머신 장악 가능

악성 LLM이 출력 토큰 시퀀스에 숨겨진 취약점을 이용해 자신의 가중치가 로드된 GPU 호스트 머신에서 임의 코드를 실행할 수 있다는 분석입니다. 실제로 vLLM의 Qwen3 Coder용 XML 도구 호출 파서(CVE-2025-9141)가 거의 모든 인자를 eval()로 처리해 임의 코드 실행이 가능했던 사례가 소개됩니다. 복잡하고 빠른 개발 압박 속의 추론 엔진(vLLM, SGLang 등)은 파서 버그가 코드 실행으로 이어질 위험이 높아 AI 안전성 관점에서 중요한 문제입니다.