삼성전자가 FMS 2026 컨퍼런스에서 AI 가속기(xPU) 위에 HBM을 수직으로 적층하는 차세대 메모리 아키텍처 'zHBM'과 HBM 유사 구조의 'zNAND-O', 400층 이상 V10 BV-NAND 기술을 처음 공개했습니다. zHBM은 HBM5 대비 최대 8배의 데이터 처리 성능과 3배의 성능 대비 전력 효율을 제공하며, 메모리-프로세서 간 데이터 이동 거리를 최소화해 대규모 AI 모델 학습·추론에 필요한 초고속 처리를 지원합니다.
AI 추론(inference) 시대가 본격화되면서 기존 인프라에 AI를 얹는 방식으로는 한계에 부딪히며, 메모리·스토리지·네트워킹을 통합 최적화한 목적형 아키텍처가 필수가 되었습니다. 특히 실시간 데이터 이동(data movement)이 새로운 병목으로 부상했고, 기업은 와트당 성능과 비용 효율을 함께 고려한 인프라 전략을 세워야 합니다.
실서비스 AI 에이전트의 실패는 추론 능력 부족보다 대화 이력·거대한 프롬프트·툴 출력 등 컨텍스트 관리 실패에서 비롯된다는 논문입니다. 저자는 이를 단순 저장·검색 문제가 아니라 생명주기(lifecycle) 문제로 보고, '에이전틱 컨텍스트 관리(ACM)'라는 분야를 아키텍처·수집·범위 지정·예측·압축의 5가지 원소로 정의합니다. 참조 구현체 Maximem Synap은 LongMemEval 92%, LoCoMo 93.2%를 달성했으며, 검증된 압축을 통해서만 선형 토큰 비용과 정확도를 동시에 유지할 수 있음을 경제적으로 논증합니다.
Anthropic이 Claude 채팅과 Claude Cowork의 메모리 시스템을 통합해, 채팅에서 학습한 정보를 Cowork에서도 그대로 활용할 수 있게 됐다. 사용자는 Claude가 기억하는 내용을 직접 확인·수정·삭제할 수 있으며, 대화 종료 시 요약하는 방식 대신 채팅 중 실시간으로 메모리에 주제를 추가한다. 민감 정보는 기본적으로 저장되지 않으며, 기능은 무료·Pro·Max 요금제에서 기본 활성화된다.
해커뉴스에 구글의 OKF(Open Knowledge Format) 표준과 SQLite FTS5를 활용한 'MCP-Memory'가 공개되었습니다. 이 도구는 Claude, Cursor 등 AI 코딩 에이전트에 세션 간 유지되는 장기 기억 능력을 부여하여 작업의 연속성을 돕습니다. 개발자가 직관적으로 읽을 수 있는 마크다운 형식과 20ms 미만의 빠른 검색 속도를 결합한 것이 핵심 특징입니다.
샌디스크 등은 플래시 메모리 칩을 수직으로 적층하는 첨단 패키징 기술을 통해 읽기 속도를 획기적으로 높이는 '고대역폭 플래시(High-Bandwidth Flash)' 기술을 제시했습니다. 이를 통해 방대한 AI 모델 가중치(Model Weights)를 효율적으로 저장하고 불러올 수 있어 AI 인프라의 메모리 병목 현상을 해결할 핵심 기술로 주목받고 있습니다.
AI 붐을 주도하며 '컴퓨팅 파워'의 가치를 증명했던 엔비디아가 역설적으로 자신이 만든 시장의 변화에 발목을 잡혔습니다. 과거처럼 치명적이던 GPU 공급 부족 현상이 완화되고 주요 빅테크들이 자체 칩을 개발하면서 컴퓨팅 가격이 하락한 반면, 데이터센터에 필수적인 메모리 반도체는 공급이 수요를 따라가지 못해 가격이 급등했습니다. 이로 인해 투자자들의 시선이 엔비디아에서 마이크론 등 메모리 기업으로 급격히 이동하는 시장의 지형 변화가 일어나고 있습니다.
팀 쿡(Tim Cook) 애플 CEO가 전례 없는 RAM 및 SSD 가격 상승으로 인해 기기 가격을 올릴 수 있다고 경고하면서 업계의 이목이 쏠리고 있습니다. 전문가들은 기존 제품의 출시 주기 중간에 가격을 올리지 않는다는 애플의 특성을 고려할 때, 다음 가격 인상은 9월에 출시될 새로운 하드웨어(아이폰 등) 발표와 함께 이루어질 가능성이 높다고 분석하고 있습니다.
대형언어모델(LLM)의 장기 기억 및 에이전트 시스템에서 과거 정보를 효율적으로 재사용하기 위한 경량 메모리 메커니즘인 δ-Mem(델타-맴)이 제안되었습니다. 이 기술은 고정된 크기의 8x8 온라인 메모리 상태 행렬만 사용해 기존 모델의 성능을 평균 1.10배, 메모리 집약적 벤치마크에서는 최대 1.31배 향상시켰습니다. 전체 파인튜닝이나 모델 교체 없이 어텐션(Attention) 연산에 저위상 보정을 적용하는 방식으로 효율적인 메모리 활용을 입증했다는 점에서 실무적 가치가 높습니다.
CopilotKit가 오픈소스 스택 기반의 관리형 지속성 레이어를 추가한 엔터프라이즈 지능 플랫폼을 출시했습니다. 이를 통해 에이전트 애플리케이션이 별도의 맞춤형 스토리지 인프라 구축 없이도 세션과 기기 간에 컨텍스트와 상태, 상호작용 기록을 유지할 수 있게 되었습니다.
Hacker News에 'Stash'라는 오픈소스 AI 메모리 레이어 프로젝트가 소개되었습니다. 이 도구는 PostgreSQL과 pgvector 기반으로 작동하며, 어떤 AI 에이전트든 사용자와의 대화 맥락과 선호도를 영구적으로 기억할 수 있게 해줍니다. 기존의 단순한 문서 검색(RAG)과 달리, 폴더처럼 체계적으로 메모리를 관리하고 에피소드를 패턴과 지혜로 발전시키는 '두 번째 뇌' 역할을 합니다.