BL
MarkTechPost • 14일 전
구글, 브라우저에서 구동되는 LiteRT.js 공개
IMP 8/10
핵심 요약
구글이 웹 브라우저에서 직접 .tflite 모델을 실행할 수 있는 자바스크립트 라이브러리인 LiteRT.js를 공개했습니다. WebGPU 및 WebNN을 활용하여 기존 대비 최대 60배 향상된 압도적인 추론 성능을 제공하므로, 웹 환경에서 고성능 AI 모델을 서비스하려는 실무자에게 매우 중요한 소식입니다. 단, 텐서(Tensor) 객체를 수동으로 삭제해야 하는 메모리 관리상의 주의점이 존재합니다.
번역된 본문
구글이 2026년 7월 9일에 LiteRT.js를 공개했습니다. 이는 구글의 온디바이스(On-device) 추론 라이브러리인 LiteRT의 자바스크립트 바인딩(JavaScript Binding)입니다. 이 런타임은 WebAssembly를 통해 브라우저에서 직접 .tflite 모델을 실행하며, CPU에서는 XNNPACK을, WebGPU를 통해서는 ML Drift를, NPU를 위해서는 실험적인 WebNN을 활용합니다. 구글에 따르면, 이는 다른 웹 런타임 대비 최대 3배의 성능 향상을 가져왔으며, 자체 CPU 경로와 비교했을 때 GPU나 NPU 사용 시에는 5~60배의 성능 향상을 보여줍니다. 다만 공지에서 누락된 한 가지 중요한 디테일은, 텐서(Tensor)를 수동으로 관리하여 직접 삭제해야 한다는 점입니다.
구글이 WebGPU를 통해 브라우저에서 .tflite 모델을 실행하는 LiteRT의 자바스크립트 바인딩인 LiteRT.js를 공개했다는 소식은 MarkTechPost를 통해 처음으로 보도되었습니다.
원문 보기 (영어)
Google released LiteRT.js on July 9, 2026. It is a JavaScript binding of LiteRT, Google's on-device inference library. The runtime executes .tflite models directly in the browser through WebAssembly, with XNNPACK on CPU, ML Drift over WebGPU, and experimental WebNN for NPUs. Google reports up to 3x gains over other web runtimes, and 5–60x for GPU or NPU over its own CPU path. One detail the announcement omits: tensors are manually managed and must be deleted.
The post Google Releases LiteRT.js: A JavaScript Binding of LiteRT That Runs .tflite Models in Browsers via WebGPU appeared first on MarkTechPost.