MP
MarkTechPost • 37일 전
IMP 8
MoonMath AI, AMD MI300X HIP 어텐션 커널 오픈소스화
MoonMath AI가 AMD MI300X 환경에서 최적화된 HIP 어텐션 커널을 오픈소스로 공개했습니다. 이 커널은 단일 명령어 asm 래퍼와 8단계 웨이브 파이프라인 기술을 적용하여, 기존 AMD의 AITER v3보다 모든 형태와 반올림 모드에서 더 뛰어난 성능을 보여줍니다. 이를 통해 AMD GPU 환경에서 대규모 AI 모델의 학습 및 추론 성능을 크게 끌어올릴 수 있다는 점에서 매우 중요합니다.
AMD MI300X 어텐션 커널