메뉴
BL
r/LocalLLaMA 27일 전

AMD 차기 스트릭스 할로 리프레시, 192GB 탑재

IMP
8/10
핵심 요약

AMD의 차기 APU로 예상되는 '고르곤 할로(Gorgon Halo) 495 Max'에 128GB를 뛰어넘는 최대 192GB의 메모리가 탑재될 것이라는 루머가 공유되었습니다. 이는 AI 실무자들에게 단일 장치에서 122B 파라미터 모델을 고정밀(q8)로 구동할 수 있게 해주며, 거대한 MoE(Mixture of Experts) 모델 실행 가능성을 열어준다는 점에서 매우 중요한 소식입니다.

번역된 본문

다음 세대 스트릭스 할로(Strix Halo)인 '고르곤 할로(Gorgon Halo) 495 Max'는 128GB 이상의 메모리를 탑재할 것으로 보입니다! 저는 2026년 리프레시 루머가 그리 매력적이지 않아서 몇 달 전 이미 스트릭스 할로 미니 폼 팩터를 구매했습니다. 당초 2027년 대대적인 리프레시 모델이 나오면 기기를 추가로 구매해 연결할 계획이었고, 그때까지는 외장 GPU를 달아 작은 밀집 모델(Dense model)을 돌리려고 했습니다. CPU 및 GPU 성능 향상은 미미할 것이라는 루머가 있었고, 메모리 용량 증설에 대해서는 전혀 듣지 못했습니다.

하지만 320GB의 메모리를 사용할 수 있게 된다면 최근 등장하는 거대한 MoE 모델들을 구동할 수 있게 되겠네요... 어쩌면 외장 GPU를 추가하려던 생각은 일단 접어둘 수도 있을 것 같습니다. 물론 아직은 루머 단계라 더 지켜봐야 합니다.

아직 스트릭스 할로를 구매하지 않은 분들이라면, 단일 장치에서 192GB의 메모리를 사용할 수 있게 된다는 것은 최근 출시되는 122B 파라미터 모델들을 충분한 컨텍스트(Context)와 함께 q8 정밀도로 온전히 실행할 수 있음을 의미합니다!

원문 보기
원문 보기 (영어)
Looks like the next strix halo, the Gorgon halo 495 max will have more then 128gb! I already bought a strix halo mini forms couple months ago since the 2026 refesh rumors was not interesting. Was not planning on getting another till 2027 with the bigger refresh, and linking them together. But was planning to add an external gpu for running smaller dense models for now till 2027. Cpu, gpu rumor was smaller improvements. Heard nothing about more memory. But idk having 320gb of memory will allow running some of these newer huge moe models... maybe I drop external gpu thoughts for now. Of course rumors for now need to wait. For those who have not bought one yet, a single 192gb would mean running all these recent 122b models at q8 with fullish context!