HN
Hacker News • 9일 전
IMP 6
AMD 매트릭스 코어의 정밀한 수치 모델링 연구
최근 GPU의 행렬 곱셈 유닛(매트릭스 코어)이 IEEE 754 부동소수점 표준을 따르지 않고 제조사·아키텍처마다 동작이 달라 결과 재현이 불가능한 문제를 다룬 연구입니다. 연구진은 AMD의 CDNA 1/2/3 아키텍처(MI100, MI210/250, MI300A/300X)에 대해 정교한 테스트 벡터를 설계해 수치적 동작을 규명하고, MATLAB 기반 소프트웨어 모델을 개발해 1,000만 개 무작위 테스트에서 비트 수준 정확도를 검증했습니다. 이 모델로 AMD 매트릭스 코어와 NVIDIA 텐서 코어 간 애플리케이션 수준 정확도 차이를 정량화하는 시연도 수행했습니다.
하드웨어 아키텍처 GPU 부동소수점