r/singularity • 26일 전

앤스로픽 공동창업자 "AI, 2028년 이전에 스스로 연구 자동화"

IMP

9/10

핵심 요약

앤스로픽(Anthropic)의 공동 창립자 잭 클락(Jack Clark)은 AI가 2028년 말 이전에 AI 연구 개발 과정을 자동화할 확률이 60% 이상이라고 전망했습니다. AI가 천재적인 창의성 없이도 논문 재현 및 모델 파인튜닝, 최적화 등을 수행하며 빠르게 자가 발전하고 있기 때문입니다. AI 스스로 과학적 발전을 주도하는 수준에 도달할 경우, 그 속도를 예측하거나 통제하기 매우 어려워질 수 있다는 우려도 함께 제기했습니다.

번역된 본문

잭 클락(Jack Clark)은 2027년 말까지 AI 연구가 자동화될 확률을 약 30%, 2028년 말까지는 약 60% 이상으로 보고 있으며, 결국 모델이 다음 세대 모델을 직접 훈련하는 데 도움을 줄 것이라고 예측했습니다.

그는 AI가 자가 개선(self-improve)을 위해 반드시 천재적인 수준의 창의성이 필요하지는 않다고 주장합니다. 이를 뒷받침하는 가장 강력한 증거는 코딩 보조에서 실제 연구 작업으로 넘어가는 속도가 엄청나게 빠르다는 점입니다. 여기에는 논문 재현, 머신러닝(ML) 시스템 구축, 모델 미세조정(fine-tuning), 커널(kernel) 최적화, 그리고 심지어 모델 훈련 코드의 속도를 52배나 단축시키는 작업이 모두 포함됩니다.

이제 AI는 스스로 과학을 발전시키는 초기 징후를 보이기 시작했습니다. 클락이 우려하는 부분은 이러한 흐름이 자동화된 AI 연구개발(R&D)의 임계점을 넘어설 경우, 모델들이 스스로의 발전 속도를 가속화하게 되어 그 과정을 예측하거나 통제하기가 훨씬 더 어려워질 수 있다는 것입니다.

원문 보기

원문 보기 (영어)

[Import AI 455: AI systems are about to start building themselves.](https://importai.substack.com/p/import-ai-455-automating-ai-research) * Jack Clark thinks there’s a \~30% chance by the end of 2027 and a \~60%+ chance by the end of 2028 that AI research becomes automated, with models eventually helping train the next generation of models themselves. * He argues AI may not need genius-level creativity to self-improve. The strongest evidence is how quickly it’s moving from coding help to actual research work, including reproducing papers, building ML systems, fine-tuning models, optimizing kernels, and even speeding up model training code by 52x. * AI is starting to show early signs of pushing science forward on its own. Clark’s concern is that if this crosses the threshold into automated AI R&D, models could begin accelerating their own development in ways that become much harder to predict or control.

AI 자동화 앤스로픽 AI 연구 자가 개선