AMD, 온디바이스 로컬 구동 AI 에이전트 프레임워크 공개
AMD가 자체 하드웨어(NPU, GPU)에 최적화된 오픈소스 AI 에이전트 프레임워크 'GAIA'를 공개했습니다. 이 프레임워크는 파이썬과 C++를 모두 지원하며, 클라우드나 외부 API 키 없이도 데이터를 기기 내에 머물게 하여 완벽한 프라이버시를 보장합니다. 개발자는 단 두 번의 명령어만으로 오프라인 문서 질의응답, 음성 인식 및 생성, 코드 작성, 사용자 에이전트 구축 등을 로컬 환경에서 구현할 수 있습니다.
주요 콘텐츠로 건너뛰기
GAIA SDK 홈페이지 검색... ⌘ K 검색... 탐색 시작하기 환영합니다 문서 Python 사양 Python 참조 Python 배포 로드맵 릴리즈 GitHub Discord PyPI
시작하기 환영합니다 C++ 프레임워크 설정 빠른 시작 개요 통합 가이드 테스트 API 참조 C++ 보안 사용자 가이드 Python 프레임워크 설정 빠른 시작 설치 GAIA 에이전트 UI 사용자 가이드 플레이북 SDK 참조
이 페이지에서 로컬에서 실행되는 AI 에이전트 구축 시작하기 기능 리소스
로컬에서 실행되는 AI 에이전트 구축
GAIA는 Python과 C++를 사용하여 로컬 하드웨어에서 entirely(전적으로) 실행되는 AI 에이전트를 구축하기 위한 오픈소스 프레임워크입니다. 에이전트는 추론하고, 도구를 호출하며, 문서를 검색하고, 조치를 취합니다. 클라우드 종속성이 없으며 기기 외부로 데이터가 유출되지 않습니다.
로컬 추론: 모든 처리가 기기 내에서 이루어집니다. 클라우드 종속성 없음: API 키나 외부 서비스가 필요하지 않습니다. Python 및 C++ 지원: 두 언어 모두에 대한 완전한 SDK를 제공합니다. AMD 최적화: Ryzen AI의 NPU 및 GPU 가속을 지원합니다.
Python 코드:
from gaia.agents.base.agent import Agent
agent = Agent()
response = agent.process_query(
"Summarize my meeting notes"
)
C++ 코드:
#include <gaia/agent.h>
gaia::Agent agent;
auto result = agent.processQuery("Summarize my meeting notes");
시작하기
에이전트 UI: npm을 통해 설치하고 AI 에이전트를 로컬에서 실행합니다. 단 두 번의 명령어로 시작할 수 있습니다. Python 빠른 시작: GAIA를 설치하고, Lemonade Server를 시작한 후 첫 번째 에이전트를 실행합니다. C++ 빠른 시작: Python 런타임 없이 네이티브 C++17 에이전트 바이너리를 빌드합니다.
기능
Python 및 C++
에이전트 UI: 프라이버시를 최우선으로 하는 데스크톱 채팅으로, 드래그 앤 드롭 방식의 문서 질의응답을 지원합니다. npm 또는 gaia --ui를 통해 설치할 수 있습니다. 문서 질의응답 (RAG): 로컬 PDF, 코드, 텍스트 파일을 검색, 인덱싱하고 이에 대해 질문에 답변합니다. 음성 대 음성 (Speech-to-Speech): Whisper ASR 및 Kokoro TTS를 활용한 오프라인 음성 상호작용 파이프라인을 제공합니다. 코드 생성: 유효성 검사, 테스트 및 오케스트레이션을 포함한 다중 파일 코드 생성을 지원합니다. 이미지 생성: LLM 프롬프트 향상을 활용한 멀티모달 이미지 생성을 지원합니다. MCP 통합: 모델 컨텍스트 프로토콜(Model Context Protocol)을 통해 에이전트를 외부 도구에 연결합니다. 에이전트 라우팅: 여러 전문 에이전트에 걸쳐 요청을 지능적으로 라우팅합니다. 시스템 상태 에이전트: MCP 기반 진단 — CPU, 메모리, 디스크, 네트워크 및 GPU 모니터링을 수행합니다. Wi-Fi 문제 해결사: 등록된 도구를 사용하여 무선 연결 문제를 진단하고 해결합니다. 사용자 맞춤 에이전트: 도구 등록 및 상태 관리를 통해 자신만의 C++17 에이전트를 구축합니다. MCP 통합: 확장 가능한 도구 액세스를 위해 MCP 서버에 연결합니다.
리소스
SDK 참조: 완전한 API 문서를 제공합니다. GitHub: 소스 코드를 확인할 수 있습니다. 구성 요소 사양: 기술 사양을 제공합니다. 용어집: 기술 용어를 설명합니다. Discord: 커뮤니티에 참여하세요.
이 페이지가 도움이 되었나요? [예] [아니요]
설정 ⌘ I