TD
The Decoder • 57일 전
IMP 8
전 OpenAI 연구원 “단순 확장 한계…100조 원은 훈련 데이터로 간다”
전 OpenAI 연구원 앤드류 호는 단순히 대형 언어 모델(LLM)의 규모를 키우는 것만으로는 진정한 범용 성능을 낼 수 없다고 판단하여, 고품질 학습 데이터 제작 스타트업을 설립했습니다. 이는 경제적 가치가 높은 실무 작업들을 현재 AI가 제대로 수행하지 못하며, 향후 1,000억 달러(약 134조 원) 이상이 의미 있는 데이터 수집에 투자될 것이라는 전망에 기인합니다. 케임브리지대학교 및 구글 딥마인드 연구진 또한 최신 AI 모델들이 범용성보다는 특정 분야에 특화되고 있으며, 창의적 문제 해결에 한계에 직면했다는 분석으로 이를 뒷받침하고 있습니다.
대형 언어 모델 학습 데이터 일반화 한계