AI 2027: 초인적 AI의 미래 시나리오 예측
OpenAI 출신 연구자 등 전문가들이 산업혁명을 능가할 초인적 AI(superhuman AI)의 향후 10년 영향을 구체적이고 정량적인 시나리오로 예측한 글입니다. 약 25회의 탁상 시뮬레이션과 100명 이상의 전문가 피드백을 바탕으로 '둔화'와 '경쟁' 두 가지 결말을 제시하며, AGI가 2027년경 도래할 가능성이 있다고 전망합니다.
우리는 향후 10년간 초인적 AI가 미칠 영향이 산업혁명을 능가하는 엄청난 수준이 될 것으로 예측한다. 그것이 어떤 모습일지에 대한 우리의 최선의 추측을 시나리오로 작성했다. 이는 추세 외삽, 워게임(시뮬레이션), 전문가 피드백, OpenAI에서의 경험, 그리고 이전 예측의 성과를 바탕으로 작성되었다.
이것은 무엇인가? 어떻게 썼는가? 왜 가치 있는가? 우리는 누구인가?
OpenAI, Google DeepMind, Anthropic의 CEO들은 모두 AGI가 향후 5년 내 도래할 것이라고 예측했다. 샘 올트먼(Sam Altman)은 OpenAI가 "진정한 의미의 초지능(superintelligence)"과 "영광스러운 미래"를 목표로 하고 있다고 말했다. 그것은 어떤 모습일까? 우리는 이 질문에 답하기 위해 'AI 2027'을 썼다. 미래에 대한 주장들은 종종 답답할 정도로 모호하기 때문에, 비록 이것이 수많은 가능한 미래 중 하나를 묘사하는 것임에도 불구하고 가능한 한 구체적이고 정량적으로 서술하려고 노력했다. 우리는 '둔화(slowdown)' 결말과 '경쟁(race)' 결말, 두 가지 엔딩을 썼다. 다만 AI 2027은 권고나 촉구가 아니다. 우리의 목표는 예측의 정확성이다. 우리는 독자들이 이 시나리오를 놓고 토론하고 반박하기를 권장한다. 우리가 어디로 향하고 있으며 어떻게 긍정적인 미래로 나아갈 수 있는지에 대한 폭넓은 논의를 촉발하기를 희망한다. 최고의 대안 시나리오에 수천 달러의 상금을 수여할 계획이다.
(2025년 11월 22일 추가, 오해 방지를 위해: 우리는 AGI가 정확히 언제 만들어질지 모른다. 2027년은 출판 당시 우리의 최빈값(가장 가능성 높은 해)이었으며, 중앙값은 다소 더 길었다. 최신 예측은 여기를 참조하라.) 핵심 질문(예: 미래의 AI 에이전트는 어떤 목표를 갖게 될 것인가?)에 대한 우리의 연구는 여기에서 찾을 수 있다.
시나리오 자체는 반복적으로 작성되었다. 첫 시기(2025년 중반까지)를 쓰고, 그다음 시기를 쓰는 식으로 결말에 도달할 때까지 진행했다. 그런 다음 이를 폐기하고 다시 작성했다. 우리는 특정한 결말에 도달하려고 하지 않았다. 현재 빨간색으로 표시된 첫 번째 결말을 마친 후, 거의 동일한 전제에서 출발해 좀 더 희망적인 결말을 그려보고 싶어 새로운 대안 분기를 썼다. 이 과정은 여러 차례 반복되었다. 우리의 시나리오는 약 25회의 탁상 훈련(tabletop exercise)과, AI 거버넌스와 AI 기술 분야 전문가 각각 수십 명을 포함해 100명 이상의 피드백을 반영했다.
"AI가 단 몇 년 만에 세상을 어떻게 변화시킬 수 있는지에 대한 이런 유형의 시나리오 예측을 읽어볼 것을 강력히 추천한다. 아무도 수정 구슬을 가지고 있지 않지만, 이런 콘텐츠는 중요한 질문을 알아차리게 하고 신흥 위험의 잠재적 영향을 보여줄 수 있다." — 요슈아 벤지오(Yoshua Bengio)
우리는 불가능한 과제를 스스로에게 부과했다. 2027년의 초인적 AI가 어떻게 전개될지 예측하려는 것은 2027년의 제3차 세계대전을 예측하려는 것과 같으며, 과거 사례에서 훨씬 더 크게 벗어난 일이다. 그럼에도 시도해볼 가치는 있다. 미군이 대만 시나리오를 시뮬레이션하는 것이 가치 있는 것처럼 말이다. 전체 그림을 그려보면 이전에 고려하거나 인식하지 못했던 중요한 질문이나 연관성을 발견하게 되거나, 어떤 가능성이 더 크거나 작다는 것을 깨닫게 된다. 또한 구체적인 예측을 공개적으로 내놓고 다른 사람들에게 반대 의견을 공개적으로 밝히도록 장려함으로써, 몇 년 후 누가 옳았는지 평가할 수 있게 된다.
또한 저자 중 한 명은 2021년 8월에 보다 간단한 AI 시나리오를 쓴 적이 있다. 많은 부분에서 틀렸지만 전반적으로 놀랍도록 성공적이었다. 그는 ChatGPT 등장 1년 이상 전에 사고연쇄(chain-of-thought)의 부상, 추론 스케일링(inference scaling), 전면적인 AI 반도체 수출 통제, 1억 달러 규모의 학습 런을 모두 예측했다.
다니엘 코코타이로(Daniel Kokotajlo, TIME100 선정, NYT 기고)는 전 OpenAI 연구자로, 이전 AI 예측들이 좋은 평가를 받아왔다. 일라이 리프랜드(Eli Lifland)는 AI Digest를 공동 창립하고 AI 강건성(robustness) 연구를 수행했으며, RAND 예측 이니셔티브 역대 순위 1위다. 토머스 라센(Thomas Larsen)은 AI 정책 센터(Center for AI Policy)를 창립하고 머신 인텔리전스 연구소(Machine Intelligence Research Institute)에서 AI 안전 연구를 했다. 로미오 딘(Romeo Dean)은 컴퓨터 과학 학위를 이수 중이다.