오픈AI가 AI가 스스로를 개선하는 '재귀적 자기 개선' 시대를 대비할 안전 연구원을 최대 44만 5천 달러(약 6억 원)의 연봉으로 채용하고 있습니다. 최근 코딩 능력을 포함한 AI의 급격한 발전으로 인해 AI가 인간의 개입 없이 스스로를 발전시킬 위험성이 현실화되면서, 최고 수준의 기술력과 더불어 미래를 내다보는 전략적 판단력을 갖춘 인재에 대한 수요가 커지고 있습니다.
번역된 본문
오픈AI(OpenAI)가 스스로 개선할 수 있는 AI 도구를 만드는 목표를 세웠습니다. 이제 회사는 이로 인해 발생할 수 있는 위험에 대비하고 있습니다. 지난 6개월 동안 오픈AI와 앤스로픽(Anthropic)의 코딩 도구가 급격히 발전하면서, AI 시스템이 이른바 '재귀적 자기 개선(recursive self-improvement)'을 달성할 가능성이 AI 업계 리더들의 최우선 관심사로 떠올랐습니다. 구글 딥마인드(Google DeepMind)의 데미스 허사비스(Demis Hassabis) CEO 역시 이번 주에 인류가 현재 AI가 스스로 개선을 시작하고 인간의 지능을 능가하는 시점인 '특이점(Singularity)의 초기 단계'에 서 있다고 밝혔습니다. 올해 상장을 준비 중인 오픈AI는 최근 AI가 스스로 더 나은 버전을 훈련할 수 있을 때 발생하는 문제에 대처할 안전 연구원을 채용하는 공고를 게시했습니다. 채용 정보 aggregator 사이트들에 따르면 오픈AI의 대비(Preparedness) 안전 팀 소속인 이번 공고는 이번 달에 올라왔습니다. 이 공고는 29만 5천 달러에서 44만 5천 달러에 달하는 파격적인 연봉을 제시하며, '재귀적 자기 개선을 위한 준비를 지원할 강력한 기술적 실행자'를 찾고 있습니다. 채용 공고는 "이 업무는 미래에는 존재할 수 있지만 현재는 존재하지 않을 수 있는 문제에 대해 추론하는 것에 의존합니다. 따라서 이 역할을 맡은 사람이 세련된 안목과 전략적(tasteful and strategic)이어야 하는 것이 특히 중요합니다"라고 전했습니다. 비즈니스 인사이더(Business Insider)의 코멘트 요청에 오픈AI와 앤스로픽은 응답하지 않았습니다. 최고 수준의 AI 연구소들이 자체 훈련 모델 구축을 향해 경쟁하고 있습니다. 오픈AI 및 앤스로픽 같은 연구소의 모델은 처리할 수 있는 문제의 복잡성을 기준으로 볼 때 어지러울 정도로 빠른 속도로 향상되었습니다. 모델 기능을 연구하는 연구소인 METR의 연구원들은 3월에 최첨단 AI 모델이 완료할 수 있는 작업의 길이가 약 7개월마다 두 배가 된다고 작성했습니다. 즉, 이러한 모델은 인간에게 오랜 시간이 걸리는 작업을 점점 더 많이 수행할 수 있게 된다는 뜻입니다. METR은 그 의미로서 AI 에이전트가 인간 코더에게 며칠 또는 몇 주가 걸리는 소프트웨어 작업의 '상당 부분'을 처리할 수 있게 될 것이라고 밝혔습니다. 오픈AI는 이러한 비전을 적극적으로 추구하고 있으며, 기업에 코덱스(Codex) 코딩 도구를 판매하는 것이 막대한 수익을 창출하는 원동력입니다. 또한 자체 연구 작업을 자동화하기를 희망하고 있습니다. 샘 알트만(Sam Altman) CEO는 작년 10월, 회사가 오는 9월까지 수십만 개의 칩에서 '자동화된 AI 연구 인턴'을 실행하고, 2028년 3월까지는 '진정한 자동화된 AI 연구원'을 가동할 목표를 세웠다고 밝혔습니다. 알트만은 X(구 트위터)에서 "우리는 이 목표에서 완전히 실패할 수도 있습니다. 하지만 엄청난 잠재적 영향력을 고려할 때, 이에 대해 투명하게 공개하는 것이 공익에 부합한다고 생각합니다"라고 적었습니다. 앤스로픽은 4월에 더 강력한 AI 모델을 감독하기 위해 AI 모델을 사용하는 것에 대한 연구를 발표했으며, 유망하지만 제한적인 결과를 얻었습니다. 5월에는 회사의 공동 창립자이자 정책 총괄인 잭 클락(Jack Clark)이 2028년 말까지 인간의 개입 없는 AI 연구 개발을 볼 확률이 약 60%에 달한다고 밝혔습니다. 오픈AI는 자기 개선하는 AI를 대비하고 있습니다. AI 모델이 스스로를 훈련할 수 있게 된다면, 능력이 기하급수적으로 치솟아 통제를 벗어나 광범위한 파괴를 초래하는 SF 디스토피아를 상상해 볼 수 있습니다. 이는 AI 안전 운동의 두려움입니다. METR의 CEO 엘리자베스 반스(Elizabeth Barnes)는 금요일에 자신의 의견으로서 "'합리적인' 문명이라면 분명 AI를 훨씬 더 느리고 신중하게 다룰 것입니다"라고 작성했습니다. 오픈AI의 채용 공고는 회사가 AI 모델이 스스로 빠르게 개선할 수 있는 세계에 어떻게 대비하고 있는지 보여줍니다. 공고에 따르면 해당 연구원은 오픈AI 모델을 데이터 포이즈닝(Data Poisoning, 훈련 데이터셋을 통해 AI 모델을 손상시키려는 시도)으로부터 방어하는 데 중점을 둘 수 있습니다. 또한 이 직원은 (해커들의 공격 등을 탐지하고 방어하기 위한) 도구를 만들 수도 있습니다.
AI OpenAI is hiring a $445,000 researcher. Requirements? Be 'tasteful and strategic.' By Stephen Council You're currently following this author! Want to unfollow? Unsubscribe via the link in your email. Follow 2026-05-23T09:00:01.284Z Read in app Share Copy link Email Facebook WhatsApp X LinkedIn Bluesky Threads lighning bolt icon An icon in the shape of a lightning bolt. Impact Link Save Saved Loading audio narration... OpenAI has set the goal of making an AI tool that could research its own improvements. Now, the company is preparing for the accompanying dangers. The potential for AI systems to achieve so-called "recursive self-improvement" has come to the forefront for AI leaders, after coding tools from OpenAI and Anthropic leaped forward over the last six months. Google DeepMind CEO Demis Hassabis also said this week that humanity now stands at the "foothills of the singularity," the moment when AI begins to improve itself and outpaces human intelligence. OpenAI, which is aiming to go public this year, recently posted a job listing that seeks a safety researcher to grapple with what happens when an AI can train better versions of itself. The posting for OpenAI's Preparedness safety team went up this month, job aggregator sites said. It offers a whopping pay package of $295,000 to $445,000 and seeks "strong technical executors to support preparations for recursive self-improvement." "This work relies on reasoning about problems that might exist in the future, but might not exist now," the listing says. "So it's especially important that people in this role are tasteful and strategic." OpenAI and Anthropic did not respond to requests for comment from Business Insider. Top AI labs race to build self-training models Models from labs like OpenAI and Anthropic have improved at dizzying rates, as measured by the complexity of the problems they can handle. Researchers at METR, a lab that studies model capabilities, wrote in March that the length of a task that frontier AI models can complete doubles about every seven months — meaning these models can increasingly perform work that takes a long time for humans. Discover Level Up Take smart steps toward the goals you've been thinking about. Try it now The implication, METR wrote, is that AI agents will be able to handle a "large fraction" of the software work that takes human coders days or weeks to complete. OpenAI is actively chasing this vision — selling its Codex coding tool to companies is a huge revenue driver. It's also hoping to automate its own research work. CEO Sam Altman said in October that the company had set goals of running an "automated AI research intern" on hundreds of thousands of chips by this coming September and a "true automated AI researcher by March of 2028." "We may totally fail at this goal," Altman wrote on X, "but given the extraordinary potential impacts we think it is in the public interest to be transparent about this." In April, Anthropic published research on using AI models to oversee stronger AI models, with promising but limited results. In May, the company's cofounder and policy head, Jack Clark, wrote that he thinks there's a roughly 60% chance of seeing AI research and development without human involvement by the end of 2028. OpenAI is preparing for self-improving AI If AI models can train themselves, it's possible to imagine a sci-fi dystopia where they skyrocket in capability, escape containment, and wreak widespread havoc — a fear of the AI safety movement. METR's CEO, Elizabeth Barnes, wrote on Friday that in her opinion, "any 'reasonable' civilization would clearly be taking things much more slowly and carefully with AI." OpenAI's job posting hints at how the company is preparing for a world where AI models can rapidly improve themselves. It says the researcher could focus on defending OpenAI's models from data poisoning — attempts to corrupt an AI model through the dataset it's trained on. The employee might also make tools to interpret models' reasoning or experiment with models to understand their safety and dangers. The posting also says the researcher could "track progress toward automation of technical staff," including measuring the usage of AI coding tools. OpenAI's Preparedness team is tasked with preventing severe harms from AI. The company's jobs page includes other roles on that team, including for automated red-teaming to test OpenAI's cybersecurity, biological and chemical risks, and agentic AI threats. "This is urgent, fast-paced work that has far-reaching implications for the company and for society," the Preparedness postings say. Have a tip? Contact this reporter via email at scouncil@businessinsider.com , or over text, Signal, Telegram, or WhatsApp at 415-757-8198. Use a personal email address, a nonwork WiFi network, and a nonwork device; here's our guide to sharing information securely . Read next Business Insider tells the innovative stories you want to know Business Insider tells the innovative stories you want to know Business Insider tells the innovative stories you want to know Business Insider tells the innovative stories you want to know Stephen Council You're currently following this author! Want to unfollow? Unsubscribe via the link in your email. Follow Stephen is a Senior Tech Reporter at Business Insider, covering OpenAI, Anthropic and the ecosystem around the leading artificial intelligence companies. Previously he covered technology at SFGATE, and has written for The Wall Street Journal, The Information and CNBC. He studied journalism and economics at Northwestern University. His work has earned an SF Press Club Investigative Reporting Award and, in 2025, SPJ NorCal’s Excellence in Journalism Award for Technology Reporting. Stephen lives in San Francisco. Contact him via email a scouncil@insider.com , or on Signal, Telegram, or WhatsApp at 415-757-8198. Use a personal email address, a nonwork WiFi network, and a nonwork device; here's our guide to sharing information securely . AI Tech Anthropic More OpenAI Sam Altman Artificial Intelligence HOME Subscribe Jump to Main content Search Account Jump to top of page Follow Following Every time publishes a story, you’ll get an alert straight to your inbox! Look out for an alert in your inbox the next time publishes a story! Every time a new story is published, you’ll get an alert straight to your inbox! Look out for an alert in your inbox the next time a new story is published! Enter your email Sign up By clicking “Sign up”, you agree to receive emails from Business Insider. In addition, you accept Insider’s Terms of Service and Privacy Policy . More stories by More stories from