#GPU 커널

바이트댄스·칭화대, 컴파일러 능가하는 CUDA 커널 생성 AI 'CUDA Agent' 공개

바이트댄스 Seed와 칭화대 AIR 연구팀이 강화학습 기반 에이전트 시스템 'CUDA Agent'를 발표했습니다. 이 시스템은 대규모 언어모델을 학습시켜 컴파일러보다 빠른 GPU 커널을 작성하게 하는 것으로, 최신 모델들은 이미 정확한 CUDA 코드를 생성하지만 속도가 느리다는 문제를 해결하고자 합니다. KernelBench 벤치마크에서 기반 모델 Seed1.6은 74.0%의 통과율을 기록했습니다.

TileLang으로 고성능 GPU 커널 설계하기

TileLang은 파이썬 기반의 도메인 특화 언어(DSL)로서, 복잡한 고성능 GPU 커널 설계 과정을 크게 단순화합니다. 개발자는 복잡한 스레드 매핑이나 저수준 CUDA 명령어 생성을 컴파일러에 맡기고, 핵심 로직 구현에만 집중할 수 있어 AI 모델 최적화 실무자에게 매우 유용한 도구입니다.