메뉴
BL
r/LocalLLaMA 47일 전

샤오미 12 Pro를 24시간 AI 서버로 변신

IMP
6/10
핵심 요약

샤오미 12 Pro 스마트폰을 안드로이드 UI를 제거한 헤드리스Headless 환경으로 세팅하여 24시간 구동되는 로컬 AI 서버로 개조한 사례입니다. 배터리 보호 및 발열 제어 자동화를 거친 후, Ollama를 통해 Gemma4 모델을 LAN 내에서 API 형태로 서빙하는 방식입니다. 이는 고성능 모바일 기기를 활용해 별도의 서버 장비 없이도 저전력 로컬 LLM 환경을 구축할 수 있다는 것을 보여줍니다.

번역된 본문

샤오미 12 Pro를 전용 로컬 AI 노드로 개조했습니다. 기술적인 구성은 다음과 같습니다:

OS 최적화: 안드로이드 UI와 백그라운드 불필요 앱을 제거하기 위해 LineageOS를 플래싱하여, LLM 연산에 약 9GB의 RAM을 온전히 할당했습니다.

헤드리스(Headless) 구성: 안드로이드 프레임워크를 동결시켰으며, 완전한 헤드리스 상태를 유지하기 위해 수동으로 컴파일한 wpa_supplicant를 통해 네트워킹을 처리합니다.

온도 관리: 커스텀 데몬이 CPU 온도를 모니터링하다가 45°C에 도달하면 Wi-Fi 스마트 플러그를 통해 외부 쿨링 모듈을 작동시킵니다.

배터리 보호: 24시간 연속 구동 중 배터리 성능 저하를 방지하기 위해, 80% 도달 시 충전을 차단하는 전력 공급 스크립트를 적용했습니다.

성능: 현재 Ollama를 통해 Gemma4를 서빙하며, LAN에서 접근 가능한 API 형태로 제공하고 있습니다.

모바일 하드웨어를 로컬 LLM 용도로 활용하는 데 관심이 있으시다면, 스크립트를 공유하거나 구성 세부 사항에 대해 논의해 드릴 수 있습니다.

원문 보기
원문 보기 (영어)
​ Turned a Xiaomi 12 Pro into a dedicated local AI node. Here is the technical setup: ​OS Optimization: Flashed LineageOS to strip the Android UI and background bloat, leaving \~9GB of RAM for LLM compute. ​Headless Config: Android framework is frozen; networking is handled via a manually compiled wpa\_supplicant to maintain a purely headless state. ​Thermal Management: A custom daemon monitors CPU temps and triggers an external active cooling module via a Wi-Fi smart plug at 45°C. ​Battery Protection: A power-delivery script cuts charging at 80% to prevent degradation during 24/7 operation. ​Performance: Currently serving Gemma4 via Ollama as a LAN-accessible API. ​Happy to share the scripts or discuss the configuration details if anyone is interested in repurposing mobile hardware for local LLMs.