#인공지능연구

스카이폴 AI, 지속적 강화학습 벤치마크 '모르페우스' 공개

Skyfall AI가 환경이 초기화되지 않는 기업용 시뮬레이션 플랫폼인 MORPHEUS를 발표했습니다. 이 플랫폼은 구조적인 비정상성 환경에서 기존 강화학습 모델들이 이론적 한계에 크게 못 미치는 성능을 보인다는 것을 입증하며, 지속적인 학습(Continual Learning)의 필요성을 강력히 제기합니다.

블랙박스 대형 언어 모델의 지식 증류

GPT-4와 같은 비공개 대형 언어 모델(LLM)의 내부 구조에 접근할 수 없는 한계를 극복하고, 작은 모델로 지식을 효과적으로 전달하는 새로운 'Proxy-KD' 방법론이 제안되었습니다. 중간 단계의 프록시 모델을 활용하는 이 접근 방식은 기존의 화이트박스 지식 증류 기법을 능가하는 성능을 보여주며, 고성능 모델의 지식을 가볍고 효율적인 모델로 옮기는 데 중요한 진전을 의미합니다.