메뉴

#자체 호스팅

HN
Hacker News 17일 전
IMP 8

메시 LLM: Iroh 기반 분산 AI 컴퓨팅

메시 LLM(Mesh LLM)은 기존에 보유한 여러 대의 컴퓨터 GPU와 메모리를 묶어 하나의 거대한 GPU처럼 작동하게 만드는 분산 AI 인프라 기술입니다. 이를 통해 고비용의 클라우드 API에 의존하지 않고도, 사내에 방치된 GPU를 활용해 대규모 언어 모델(LLM)을 자체 운영하고 통제권을 확보할 수 있어 실무자들에게 매우 유용한 대안입니다.

분산 컴퓨팅 오픈소스 LLM 인프라
HN
Hacker News 89일 전
IMP 7

스마트폰으로 PC 터미널·AI 에이전트를 원격 제어하는 'Loopsy'

Loopsy는 스마트폰을 통해 원격으로 노트북의 터미널과 AI 코딩 에이전트(Claude Code, Cursor, Codex 등)를 제어할 수 있는 오픈소스 도구입니다. 포트 포워딩이나 공인 IP 없이 Cloudflare Workers 기반의 자체 호스팅 릴레이 서버를 구축하여 안전하게 연결을 중계하는 것이 특징입니다. 또한 LAN 내 여러 기기를 연결하여 한 컴퓨터의 AI 에이전트가 다른 컴퓨터를 직접 구동할 수 있는 에이전트 간 협업 기능도 제공합니다.

원격 터미널 코딩 에이전트 자체 호스팅