메뉴

#AI_메모리

LL
r/LocalLLaMA 27일 전
IMP 8

AMD 차기 스트릭스 할로 리프레시, 192GB 탑재

AMD의 차기 APU로 예상되는 '고르곤 할로(Gorgon Halo) 495 Max'에 128GB를 뛰어넘는 최대 192GB의 메모리가 탑재될 것이라는 루머가 공유되었습니다. 이는 AI 실무자들에게 단일 장치에서 122B 파라미터 모델을 고정밀(q8)로 구동할 수 있게 해주며, 거대한 MoE(Mixture of Experts) 모델 실행 가능성을 열어준다는 점에서 매우 중요한 소식입니다.

하드웨어_가속기 AMD_APU 로컬_AI
SG
r/singularity 54일 전
IMP 7

밀라 요보비치, 유료 AI 능가 오픈소스 기억 시스템 출시

할리우드 배우 밀라 요보비치가 모든 대화 내용을 요약 없이 그대로 저장하는 로컬 오픈소스 AI 메모리 시스템인 'MemPalace(메모리 팰리스)'를 무료로 공개했습니다. 이 시스템은 유료 서비스들을 제치고 긴 문맥 기억력을 평가하는 LongMemEval 벤치마크에서 96.6%의 역대 최고 기록을 달성했습니다. 프로젝트는 출시 초기의 과장된 홍보에 대해 솔직하게 인정하고 수정하는 투명한 태도를 보여주며, AI가 대화를 잊지 않도록 돕는 실용적인 솔루션을 제공합니다.

오픈소스 AI 메모리 벤치마크