샌디스크 등은 플래시 메모리 칩을 수직으로 적층하는 첨단 패키징 기술을 통해 읽기 속도를 획기적으로 높이는 '고대역폭 플래시(High-Bandwidth Flash)' 기술을 제시했습니다. 이를 통해 방대한 AI 모델 가중치(Model Weights)를 효율적으로 저장하고 불러올 수 있어 AI 인프라의 메모리 병목 현상을 해결할 핵심 기술로 주목받고 있습니다.
AI 붐을 주도하며 '컴퓨팅 파워'의 가치를 증명했던 엔비디아가 역설적으로 자신이 만든 시장의 변화에 발목을 잡혔습니다. 과거처럼 치명적이던 GPU 공급 부족 현상이 완화되고 주요 빅테크들이 자체 칩을 개발하면서 컴퓨팅 가격이 하락한 반면, 데이터센터에 필수적인 메모리 반도체는 공급이 수요를 따라가지 못해 가격이 급등했습니다. 이로 인해 투자자들의 시선이 엔비디아에서 마이크론 등 메모리 기업으로 급격히 이동하는 시장의 지형 변화가 일어나고 있습니다.
팀 쿡(Tim Cook) 애플 CEO가 전례 없는 RAM 및 SSD 가격 상승으로 인해 기기 가격을 올릴 수 있다고 경고하면서 업계의 이목이 쏠리고 있습니다. 전문가들은 기존 제품의 출시 주기 중간에 가격을 올리지 않는다는 애플의 특성을 고려할 때, 다음 가격 인상은 9월에 출시될 새로운 하드웨어(아이폰 등) 발표와 함께 이루어질 가능성이 높다고 분석하고 있습니다.
대형언어모델(LLM)의 장기 기억 및 에이전트 시스템에서 과거 정보를 효율적으로 재사용하기 위한 경량 메모리 메커니즘인 δ-Mem(델타-맴)이 제안되었습니다. 이 기술은 고정된 크기의 8x8 온라인 메모리 상태 행렬만 사용해 기존 모델의 성능을 평균 1.10배, 메모리 집약적 벤치마크에서는 최대 1.31배 향상시켰습니다. 전체 파인튜닝이나 모델 교체 없이 어텐션(Attention) 연산에 저위상 보정을 적용하는 방식으로 효율적인 메모리 활용을 입증했다는 점에서 실무적 가치가 높습니다.
CopilotKit가 오픈소스 스택 기반의 관리형 지속성 레이어를 추가한 엔터프라이즈 지능 플랫폼을 출시했습니다. 이를 통해 에이전트 애플리케이션이 별도의 맞춤형 스토리지 인프라 구축 없이도 세션과 기기 간에 컨텍스트와 상태, 상호작용 기록을 유지할 수 있게 되었습니다.
Hacker News에 'Stash'라는 오픈소스 AI 메모리 레이어 프로젝트가 소개되었습니다. 이 도구는 PostgreSQL과 pgvector 기반으로 작동하며, 어떤 AI 에이전트든 사용자와의 대화 맥락과 선호도를 영구적으로 기억할 수 있게 해줍니다. 기존의 단순한 문서 검색(RAG)과 달리, 폴더처럼 체계적으로 메모리를 관리하고 에피소드를 패턴과 지혜로 발전시키는 '두 번째 뇌' 역할을 합니다.