AMD, AI 모델을 직접 칩에 구현하는 스타트업 타알라스 인수
AMD가 AI 모델 아키텍처와 파라미터를 칩 자체에 직접 구현해 초고속 추론을 가능하게 하는 캐나다 스타트업 타알라스(Taalas)를 인수했습니다. 이 기술은 특정 모델에만 최적화된다는 한계가 있지만, 기존 하드웨어보다 수십 배 빠른 속도를 자랑하며 향후 AMD의 AI 액셀러레이터 로드맵에 통합될 예정입니다. 이를 통해 AMD는 맞춤형 하드웨어를 통한 고성능 AI 추론 시장에서 경쟁력을 한층 강화할 수 있을 것으로 기대됩니다.
AMD가 전문적인 추론 칩(Inference chips)을 제조하는 캐나다 AI 스타트업 타알라스(Taalas)를 인수합니다.
2023년 토론토에서 설립된 타알라스는 올해 2월 스텔스 모드(비공개 상태)를 벗어나면서 파격적인 접근 방식을 선보였습니다. 이 회사는 AI 모델의 아키텍처와 학습된 파라미터를 칩에 직접 내장하는 기술을 개발했습니다. 이 방식은 추론(Inference) 속도를 비약적으로 높여주지만, 각 칩이 단일 모델에만 고정되는 단점이 있습니다.
이 회사의 데모 칩은 라마 3.1-8B(Llama 3.1-8B) 모델을 구동할 때 사용자당 초당 16,000토큰 이상을 처리하며, 경쟁 하드웨어보다 수십 배 이상 빠른 속도를 기록했습니다. 구글 역시 제미니(Gemini) 모델을 위해 유사한 칩을 개발 중인 것으로 알려졌습니다.
AMD는 이 기술을 자사의 액셀러레이터 로드맵에 통합하여, 인스팅트(Instinct) GPU와 함께 시스템 수준의 솔루션으로 제공할 계획입니다.
AMD AI 부문 수석 부사장(SVP)인 밤시 보파나(Vamsi Boppana)는 이번 인수가 회사의 AI 포트폴리오를 강화할 것이라고 밝혔습니다. 타알라스의 공동 창립자인 류비샤 바지치(Ljubisa Bajic)는 AMD가 이 스타트업에 필요한 규모와 도달 범위를 제공해 줄 것이라고 말했습니다.
이번 인수는 표준 규제 당국의 승인을 받는 조건으로 진행됩니다.