TD
The Decoder • 50일 전
IMP 8
바이트댄스, 10조 매개변수 중국 최대 AI 모델 개발 중
틱톡의 모회사인 바이트댄스는 최대 10조 개의 매개변수(Parameter)를 갖춘 거대 AI 모델을 현재 사전 학습(Pretraining) 중입니다. 이는 기존 중국 최대 모델이었던 문샷(Moonshot)의 카미(Kimi)보다 3배 이상 큰 규모로, 글로벌 최고 수준의 AI 모델을 목표로 한다는 점에서 중요합니다. 창업자 장이밍의 지시에 따라 1년 넘게 타사 모델의 결과물을 활용하는 증류(Distillation) 방식을 배제하고 독자적인 역량 강화에 집중하고 있습니다.
바이트댄스 대규모 언어 모델 매개변수