#메모리

대형언어모델을 위한 효율적 온라인 메모리 δ-Mem

대형언어모델(LLM)의 장기 기억 및 에이전트 시스템에서 과거 정보를 효율적으로 재사용하기 위한 경량 메모리 메커니즘인 δ-Mem(델타-맴)이 제안되었습니다. 이 기술은 고정된 크기의 8x8 온라인 메모리 상태 행렬만 사용해 기존 모델의 성능을 평균 1.10배, 메모리 집약적 벤치마크에서는 최대 1.31배 향상시켰습니다. 전체 파인튜닝이나 모델 교체 없이 어텐션(Attention) 연산에 저위상 보정을 적용하는 방식으로 효율적인 메모리 활용을 입증했다는 점에서 실무적 가치가 높습니다.

코파일럿킷, 세션 간 기억 유지하는 엔터프라이즈 AI 플랫폼 출시

CopilotKit가 오픈소스 스택 기반의 관리형 지속성 레이어를 추가한 엔터프라이즈 지능 플랫폼을 출시했습니다. 이를 통해 에이전트 애플리케이션이 별도의 맞춤형 스토리지 인프라 구축 없이도 세션과 기기 간에 컨텍스트와 상태, 상호작용 기록을 유지할 수 있게 되었습니다.

클로드·챗GPT처럼 기억하는 오픈소스 AI 메모리 레이어

Hacker News에 'Stash'라는 오픈소스 AI 메모리 레이어 프로젝트가 소개되었습니다. 이 도구는 PostgreSQL과 pgvector 기반으로 작동하며, 어떤 AI 에이전트든 사용자와의 대화 맥락과 선호도를 영구적으로 기억할 수 있게 해줍니다. 기존의 단순한 문서 검색(RAG)과 달리, 폴더처럼 체계적으로 메모리를 관리하고 에피소드를 패턴과 지혜로 발전시키는 '두 번째 뇌' 역할을 합니다.