라즈베리파이 5(16GB, 약 300유로)에 Qwen3.6-35B 모델을 로컬로 구동해 차를 채팅룸 에이전트처럼 만드는 오픈소스 프로젝트입니다. 클라우드 없이 차량용 음성 비서, 745페이지 차량 매뉴얼 기반 RAG 질의응답, 자가진단, 블랙박스 영상 전송 등을 완전 오프라인으로 수행하며, 연결이 끊겨도 큐에 저장했다가 나중에 전송하는 견고한 설계가 돋보입니다.
장난감 빅마우스 빌리 베스(Big Mouth Billy Bass)를 라즈베리파이와 AWS 음성 모델을 활용해 실시간으로 대화하는 AI 비서로 개조하는 프로젝트가 공개되었습니다. Strands Agents의 양방향 스트리밍과 Amazon Nova 2 Sonic 모델을 결합하여 사용자의 질문에 맞춰 입 모양을 맞추고 움직이는 물고기 로봇을 구현했습니다. 코딩이나 납땜 경험이 없어도 Claude 같은 AI 코딩 어시스턴트의 도움을 받아 주말 만에 쉽게 완성할 수 있는 것이 특징입니다.
라즈베리파이 5(16GB RAM)에 공식 M.2 HAT+와 NVMe SSD를 장착하고 PCIe Gen3로 설정하여 스토리지 읽기 속도를 대폭 끌어올렸습니다. 이를 통해 RAM 용량을 초과하는 대형 언어 모델 구동 시 텍스트 생성 속도가 1.5~2배 향상되었으며, Gemma 4 등 다양한 AI 모델의 실제 추론 성능을 테스트한 결과를 공유했습니다.