메뉴
HN
Hacker News • 15일 전

AI 2027: 초인적 AI의 미래 시나리오 예측

IMP
9/10
핵심 요약

OpenAI 출신 연구자 등 전문가들이 산업혁명을 능가할 초인적 AI(superhuman AI)의 향후 10년 영향을 구체적이고 정량적인 시나리오로 예측한 글입니다. 약 25회의 탁상 시뮬레이션과 100명 이상의 전문가 피드백을 바탕으로 '둔화'와 '경쟁' 두 가지 결말을 제시하며, AGI가 2027년경 도래할 가능성이 있다고 전망합니다.

번역된 본문

우리는 향후 10년간 초인적 AI가 미칠 영향이 산업혁명을 능가하는 엄청난 수준이 될 것으로 예측한다. 그것이 어떤 모습일지에 대한 우리의 최선의 추측을 시나리오로 작성했다. 이는 추세 외삽, 워게임(시뮬레이션), 전문가 피드백, OpenAI에서의 경험, 그리고 이전 예측의 성과를 바탕으로 작성되었다.

이것은 무엇인가? 어떻게 썼는가? 왜 가치 있는가? 우리는 누구인가?

OpenAI, Google DeepMind, Anthropic의 CEO들은 모두 AGI가 향후 5년 내 도래할 것이라고 예측했다. 샘 올트먼(Sam Altman)은 OpenAI가 "진정한 의미의 초지능(superintelligence)"과 "영광스러운 미래"를 목표로 하고 있다고 말했다. 그것은 어떤 모습일까? 우리는 이 질문에 답하기 위해 'AI 2027'을 썼다. 미래에 대한 주장들은 종종 답답할 정도로 모호하기 때문에, 비록 이것이 수많은 가능한 미래 중 하나를 묘사하는 것임에도 불구하고 가능한 한 구체적이고 정량적으로 서술하려고 노력했다. 우리는 '둔화(slowdown)' 결말과 '경쟁(race)' 결말, 두 가지 엔딩을 썼다. 다만 AI 2027은 권고나 촉구가 아니다. 우리의 목표는 예측의 정확성이다. 우리는 독자들이 이 시나리오를 놓고 토론하고 반박하기를 권장한다. 우리가 어디로 향하고 있으며 어떻게 긍정적인 미래로 나아갈 수 있는지에 대한 폭넓은 논의를 촉발하기를 희망한다. 최고의 대안 시나리오에 수천 달러의 상금을 수여할 계획이다.

(2025년 11월 22일 추가, 오해 방지를 위해: 우리는 AGI가 정확히 언제 만들어질지 모른다. 2027년은 출판 당시 우리의 최빈값(가장 가능성 높은 해)이었으며, 중앙값은 다소 더 길었다. 최신 예측은 여기를 참조하라.) 핵심 질문(예: 미래의 AI 에이전트는 어떤 목표를 갖게 될 것인가?)에 대한 우리의 연구는 여기에서 찾을 수 있다.

시나리오 자체는 반복적으로 작성되었다. 첫 시기(2025년 중반까지)를 쓰고, 그다음 시기를 쓰는 식으로 결말에 도달할 때까지 진행했다. 그런 다음 이를 폐기하고 다시 작성했다. 우리는 특정한 결말에 도달하려고 하지 않았다. 현재 빨간색으로 표시된 첫 번째 결말을 마친 후, 거의 동일한 전제에서 출발해 좀 더 희망적인 결말을 그려보고 싶어 새로운 대안 분기를 썼다. 이 과정은 여러 차례 반복되었다. 우리의 시나리오는 약 25회의 탁상 훈련(tabletop exercise)과, AI 거버넌스와 AI 기술 분야 전문가 각각 수십 명을 포함해 100명 이상의 피드백을 반영했다.

"AI가 단 몇 년 만에 세상을 어떻게 변화시킬 수 있는지에 대한 이런 유형의 시나리오 예측을 읽어볼 것을 강력히 추천한다. 아무도 수정 구슬을 가지고 있지 않지만, 이런 콘텐츠는 중요한 질문을 알아차리게 하고 신흥 위험의 잠재적 영향을 보여줄 수 있다." — 요슈아 벤지오(Yoshua Bengio)

우리는 불가능한 과제를 스스로에게 부과했다. 2027년의 초인적 AI가 어떻게 전개될지 예측하려는 것은 2027년의 제3차 세계대전을 예측하려는 것과 같으며, 과거 사례에서 훨씬 더 크게 벗어난 일이다. 그럼에도 시도해볼 가치는 있다. 미군이 대만 시나리오를 시뮬레이션하는 것이 가치 있는 것처럼 말이다. 전체 그림을 그려보면 이전에 고려하거나 인식하지 못했던 중요한 질문이나 연관성을 발견하게 되거나, 어떤 가능성이 더 크거나 작다는 것을 깨닫게 된다. 또한 구체적인 예측을 공개적으로 내놓고 다른 사람들에게 반대 의견을 공개적으로 밝히도록 장려함으로써, 몇 년 후 누가 옳았는지 평가할 수 있게 된다.

또한 저자 중 한 명은 2021년 8월에 보다 간단한 AI 시나리오를 쓴 적이 있다. 많은 부분에서 틀렸지만 전반적으로 놀랍도록 성공적이었다. 그는 ChatGPT 등장 1년 이상 전에 사고연쇄(chain-of-thought)의 부상, 추론 스케일링(inference scaling), 전면적인 AI 반도체 수출 통제, 1억 달러 규모의 학습 런을 모두 예측했다.

다니엘 코코타이로(Daniel Kokotajlo, TIME100 선정, NYT 기고)는 전 OpenAI 연구자로, 이전 AI 예측들이 좋은 평가를 받아왔다. 일라이 리프랜드(Eli Lifland)는 AI Digest를 공동 창립하고 AI 강건성(robustness) 연구를 수행했으며, RAND 예측 이니셔티브 역대 순위 1위다. 토머스 라센(Thomas Larsen)은 AI 정책 센터(Center for AI Policy)를 창립하고 머신 인텔리전스 연구소(Machine Intelligence Research Institute)에서 AI 안전 연구를 했다. 로미오 딘(Romeo Dean)은 컴퓨터 과학 학위를 이수 중이다.

원문 보기
원문 보기 (영어)
We predict that the impact of superhuman AI over the next decade will be enormous, exceeding that of the Industrial Revolution. We wrote a scenario that represents our best guess about what that might look like. 1 It’s informed by trend extrapolations, wargames, expert feedback, experience at OpenAI, and previous forecasting successes. 2 What is this? How did we write it? Why is it valuable? Who are we? The CEOs of OpenAI , Google DeepMind , and Anthropic have all predicted that AGI will arrive within the next 5 years. Sam Altman has said OpenAI is setting its sights on “superintelligence in the true sense of the word” and the “glorious future.” What might that look like? We wrote AI 2027 to answer that question. Claims about the future are often frustratingly vague, so we tried to be as concrete and quantitative as possible, even though this means depicting one of many possible futures. We wrote two endings: a “slowdown” and a “race” ending. However, AI 2027 is not a recommendation or exhortation. Our goal is predictive accuracy. 4 We encourage you to debate and counter this scenario. 5 We hope to spark a broad conversation about where we’re headed and how to steer toward positive futures. We’re planning to give out thousands in prizes to the best alternative scenarios. (Added Nov 22 2025, to prevent misunderstandings: we don't know exactly when AGI will be built. 2027 was our modal (most likely) year at the time of publication, our medians were somewhat longer . 3 For our latest forecasts, see here .) Our research on key questions (e.g. what goals will future AI agents have?) can be found here . The scenario itself was written iteratively: we wrote the first period (up to mid-2025), then the following period, etc. until we reached the ending. We then scrapped this and did it again. We weren’t trying to reach any particular ending. After we finished the first ending—which is now colored red—we wrote a new alternative branch because we wanted to also depict a more hopeful way things could end, starting from roughly the same premises. This went through several iterations. 6 Our scenario was informed by approximately 25 tabletop exercises and feedback from over 100 people, including dozens of experts in each of AI governance and AI technical work. “I highly recommend reading this scenario-type prediction on how AI could transform the world in just a few years. Nobody has a crystal ball, but this type of content can help notice important questions and illustrate the potential impact of emerging risks.” — Yoshua Bengio 7 We have set ourselves an impossible task. Trying to predict how superhuman AI in 2027 would go is like trying to predict how World War 3 in 2027 would go, except that it’s an even larger departure from past case studies. Yet it is still valuable to attempt, just as it is valuable for the U.S. military to game out Taiwan scenarios. Painting the whole picture makes us notice important questions or connections we hadn’t considered or appreciated before, or realize that a possibility is more or less likely. Moreover, by sticking our necks out with concrete predictions, and encouraging others to publicly state their disagreements, we make it possible to evaluate years later who was right. Also, one author wrote a lower-effort AI scenario before, in August 2021 . While it got many things wrong, overall it was surprisingly successful: he predicted the rise of chain-of-thought, inference scaling, sweeping AI chip export controls, and $100 million training runs—all more than a year before ChatGPT. Daniel Kokotajlo ( TIME100 , NYT piece ) is a former OpenAI researcher whose previous AI predictions have held up well . Eli Lifland co-founded AI Digest , did AI robustness research , and ranks #1 on the RAND Forecasting Initiative all-time leaderboard. Thomas Larsen founded the Center for AI Policy and did AI safety research at the Machine Intelligence Research Institute . Romeo Dean is completing a computer science concurrent bachelor’s and master’s degree at Harvard and previously was an AI Policy Fellow at the Institute for AI Policy and Strategy. Scott Alexander, blogger extraordinaire , volunteered to rewrite our content in an engaging style; the fun parts of the story are his and the boring parts are ours. For more about our team and acknowledgements, see the About page . Published April 3rd 2025 PDF Listen Watch Mid 2025: Stumbling Agents The world sees its first glimpse of AI agents. Advertisements for computer-using agents emphasize the term “personal assistant”: you can prompt them with tasks like “order me a burrito on DoorDash” or “open my budget spreadsheet and sum this month’s expenses.” They will check in with you as needed: for example, to ask you to confirm purchases. 8 Though more advanced than previous iterations like Operator , they struggle to get widespread usage. 9 Meanwhile, out of public focus, more specialized coding and research agents are beginning to transform their professions. The AIs of 2024 could follow specific instructions: they could turn bullet points into emails, and simple requests into working code. In 2025, AIs function more like employees. Coding AIs increasingly look like autonomous agents rather than mere assistants: taking instructions via Slack or Teams and making substantial code changes on their own, sometimes saving hours or even days. 10 Research agents spend half an hour scouring the Internet to answer your question. The agents are impressive in theory (and in cherry-picked examples), but in practice unreliable. AI twitter is full of stories about tasks bungled in some particularly hilarious way. The better agents are also expensive; you get what you pay for, and the best performance costs hundreds of dollars a month. 11 Still, many companies find ways to fit AI agents into their workflows. 12 Late 2025: The World’s Most Expensive AI OpenBrain is building the biggest datacenters the world has ever seen. 13 (To avoid singling out any one existing company, we’re going to describe a fictional artificial general intelligence company, which we’ll call OpenBrain. We imagine the others to be 3–9 months behind OpenBrain.) GPT-3 (3 x 10^23 FLOP) GPT-4 (2 x 10^25 FLOP) Agent-1 (4 x 10^27 FLOP) ai-2027.com GPT-4 required 2 ⋅ 10 25 2\cdot 10^{25} 2 ⋅ 1 0 25 FLOP of compute to train. 14 OpenBrain’s latest public model—Agent-0—was trained with 10 27 10^{27} 1 0 27 FLOP. Once the new datacenters are up and running, they’ll be able to train a model with 10 28 10^{28} 1 0 28 FLOP—a thousand times more than GPT-4. 15 Other companies pour money into their own giant datacenters, hoping to keep pace. Although models are improving on a wide range of skills, one stands out: OpenBrain focuses on AIs that can speed up AI research. They want to win the twin arms races against China (whose leading company we’ll call “DeepCent”) 16 and their U.S. competitors. The more of their research and development (R&D) cycle they can automate, the faster they can go. So when OpenBrain finishes training Agent-1, a new model under internal development, it’s good at many things but great at helping with AI research. 17 By this point “finishes training” is a bit of a misnomer; models are frequently updated to newer versions trained on additional data or partially re-trained to patch some weaknesses. 18 The same training environments that teach Agent-1 to autonomously code and web-browse also make it a good hacker. Moreover, it could offer substantial help to terrorists designing bioweapons, thanks to its PhD-level knowledge of every field and ability to browse the web. OpenBrain reassures the government that the model has been “aligned” so that it will refuse to comply with malicious requests. Modern AI systems are gigantic artificial neural networks. Early in training, an AI won’t have “goals” so much as “reflexes”: If it sees “Pleased to meet”, it outputs “ you”. By the time it has been trained to predict approximately one internet’s w