더 뉴요커는 100명 이상의 증언과 자료를 바탕으로 샘 알트만 CEO의 이중적 태도와 권력 추구, 일관성 없는 행보를 심층 보도했습니다. 같은 날, OpenAI는 초지능이 인류에 이익이 되도록 보장하는 정책 제안을 발표하며 투명성과 안전을 강조했지만, 이는 AI에 대한 대중의 부정적 인식과 기술 안전성 우려를 돌리기 위한 의도라는 비판을 피하기 어렵게 만들었습니다.
번역된 본문
OpenAI가 초지능(superintelligence)이 실현될 경우 AI가 인류에게 혜택을 주도록 보장하기 위한 정책 권고안을 발표한 바로 그날, 더 뉴요커(The New Yorker)는 샘 알트만 CEO가 OpenAI의 가장 큰 약속을 실제로 이행할 신뢰가 있는지에 대한 대대적인 심층 취재 기사를 공개했습니다. 두 출판물의 내용을 나란히 읽어보면 다소 혼란스러울 수 있습니다.
한편으로, OpenAI는 AI가 “AI의 보조를 받는 가장 똑똑한 인간보다도 더 뛰어난 성과를 내기 시작할 때” “사람을 최우선으로 두는” 정책을 추진할 계획이라고 밝혔습니다. 이를 달성하기 위해 회사는 위험에 대해 “투명하고 명확한 눈(clear-eyed)”을 유지할 것을 맹세했습니다. 이러한 위험에는 AI 시스템이 인간의 통제를 회피하거나 정부가 민주주의를 훼손하기 위해 AI를 배치하는 것과 같은 극단적인 시나리오를 모니터링하는 것이 포함된다고 회사는 인정했습니다. 이러한 위험이 제대로 완화되지 않으면 “사람들이 피해를 입을 것”이라고 OpenAI는 경고했습니다. 그런 다음 초지능 달성이 “모두의 삶의 질 향상”을 의미하는 미래를 옹호할 수 있는 신뢰할 수 있는 회사라고 자신했습니다.
반면에, 더 뉴요커는 알트만의 비즈니스 수행 방식을 잘 아는 100명 이상의 사람들을 인터뷰했습니다. 또한 내부 메모를 검토하고 알트만을 12번 이상 인터뷰했습니다. 그 결과로 탄생한 기사는 회사의 비전이 아무장밝아 보이더라도 대중이 OpenAI의 CEO가 AI의 “미래를 통제”하는 것을 신뢰하기 어려운 이유를 설명하는 긴 반론을 제공합니다.
전반적으로 내부자들은 알트만을 늘 스스로를 최우선으로 두기 위해 권력을 추구하면서도 다른 사람들이 듣고 싶어 하는 말만 해 주는 ‘비위 맞추는 사람(people-pleaser)’으로 묘사했습니다. 한 이사회 멤버는 알트만을 요약하며 그가 “한 사람에게서 거의 볼 수 없는 두 가지 특성을 가지고 있다”고 말했습니다. “첫째는 사람들을 기쁘게 해주고, 어떤 상황에서든 좋아하기를 바라는 강한 욕망입니다. 둘째는 누군가를 속임으로써 발생할 수 있는 결과에 대한 우려가 거의 없는 사이코패스적인 면모입니다.”
뉴요커는 확실한 증거를 찾지는 못했지만, 기자들은 OpenAI의 전 최고 과학 책임자인 일리야 수츠케버(Ilya Sutskever)와 전 연구 총괄인 다리오 아모데이(Dario Amodei)의 메시지를 검토했고, 이 메시지들은 “축적된 기만과 조종”을 기록하고 있었습니다. 많은 사건들은 개별적으로는 가볍게 넘길 수 있었지만, 종합적으로 고려해 볼 때 두 사람은 알트만이 고도화된 AI를 위한 안전한 환경을 조성하지 않고 있다고 결론지었습니다고 뉴요커는 보도했습니다. “OpenAI의 문제는 바로 샘 자신입니다.”라고 아모데이는 적었습니다.
AI를 우려하는 대중
알트만은 기사의 주장에 이의를 제기하거나 특정 사건에 대해 기억나지 않는다고 주장했습니다. 또한 일관성 없는 발언의 일부는 변화하는 AI 환경 때문이라고 돌렸고, 과거에 갈등을 회피해 왔음을 인정했습니다. 하지만 정부가 OpenAI 모델에 의존하는程度가 커지고 그 기술을 불안전하다고 낙인찍는 소송이 제기되는 가운데 OpenAI에 대한 감시가 강화되면서 그의 모순된 행보는 더 이상 무시하기 어려워지고 있습니다.
아마도 대중에게 가장 뚜렷하게 보이는 것은, 알트만이 최근 AI 종말론적 시나리오를 막는 구세주로서의 OpenAI의 포지셔닝에서 벗어나 대신 “희망차고 낙관적인” 태도를 취하고 있다는 점입니다. 정책 권고안 역시 때때로 이를 반영합니다. 짧은 근로 주간 도입 실험과 AI 수익을 공유하기 위한 공공 부의 기금 설립 등을 포함한 권고안을 논의하면서, OpenAI의 글로벌 정책 총괄 크리스 레인(Chris Lehane)은 월스트리트 저널에 AI에 대한 부정적인 대중 여론이 회사에 시급한 우려 사항이라고 확인했습니다.
인류를 AI의 위험으로부터 구하기 위한 거창한 아이디어를 발표하는 동시에, OpenAI는 “이러한 정책 아이디어와 관련된 연구를 지원하기 위해 최대 10만 달러의 연구원 펠로우십 및 집중 연구 보조금, 그리고 최대 100만 달러의 API 크레딧 파일럿 프로그램”을 홍보했습니다. 그러나 뉴요커의 보도는 이 권고안이 아동 안전, 일자리 대체, 전력을 많이 소비하는 데이터 센터에 대한 대중의 두려움이 커지는 것을 돌리기 위한 것이 아닌지 의심하기 쉽게 만듭니다.
Text settings Story text Size Small Standard Large Width * Standard Wide Links Standard Orange * Subscribers only Learn more Minimize to nav On the same day that OpenAI released policy recommendations to ensure that AI benefits humanity if superintelligence is ever achieved, The New Yorker dropped a massive investigation into whether CEO Sam Altman can be trusted to actually follow through on OpenAI’s biggest promises. Parsing the publications side by side can be disorienting. On the one hand, OpenAI said it plans to push for policies to “keep people first” as AI starts “outperforming the smartest humans even when they are assisted by AI.” To achieve this, the company vows to remain “clear-eyed” and transparent about risks, which it acknowledged includes monitoring for extreme scenarios like AI systems evading human control or governments deploying AI to undermine democracy. Without proper mitigation of such risks, “people will be harmed,” OpenAI warned, before describing how the company could be trusted to advocate for a future where achieving superintelligence means a “higher quality of life for all.” On the other hand, The New Yorker interviewed more than 100 people familiar with how Altman conducts business. The publication also reviewed internal memos and interviewed Altman more than 12 times. The resulting story provides a lengthy counterpoint explaining why the public may struggle to trust OpenAI’s CEO to “control the future” of AI, no matter how rosy the company’s vision may appear. Overall, insiders painted Altman as a people-pleaser who tells others what they want to hear while questing for power in an alleged bid to always put himself first. As one board member summed up Altman, he has “two traits that are almost never seen in the same person. The first is a strong desire to please people, to be liked in any given interaction. The second is almost a sociopathic lack of concern for the consequences that may come from deceiving someone.” While The New Yorker found no “smoking gun,” its reporters reviewed messages from OpenAI’s former chief scientist, Ilya Sutskever , and former research head, Dario Amodei, that documented “an accumulation of alleged deceptions and manipulations.” Many of the incidents could be shrugged off individually, but when taken together, both men concluded that Altman was not fostering a safe environment for advanced AI, The New Yorker reported. “The problem with OpenAI,” Amodei wrote, “is Sam himself.” OpenAI’s worried public is souring on AI Altman either disputed claims in the story or else claimed to have forgotten about certain events. He also attributed some of his shifting narratives to the changing landscape of AI and admitted that he’s been conflict-avoidant in the past. But his seeming contradictions are getting harder to ignore as scrutiny of OpenAI intensifies amid growing government reliance on its models and lawsuits that label its tech as unsafe. Perhaps most visibly to the public, Altman has recently shifted away from positioning OpenAI as a sort of savior blocking AI doomsday scenarios, instead adopting a “tone” of “ebullient optimism,” The New Yorker reported. The policy recommendations echo this at times. Discussing the recommendations—which include experimenting with shorter work weeks and creating a public wealth fund to share AI profits—OpenAI’s chief global affairs officer, Chris Lehane, confirmed to The Wall Street Journal that the company is urgently concerned about negative public opinions about AI. While announcing their big ideas to spare humanity from AI dangers, OpenAI also promoted “a pilot program of fellowships and focused research grants of up to $100,000 and up to $1 million in API credits for work that builds on these and related policy ideas.” However, The New Yorker’s report makes it easier to question whether the recommendations were rolled out to distract from mounting public fears about child safety, job displacement, or energy-guzzling data centers. One recent Harvard/MIT poll found that Americans’ biggest concern is that powering AI will hurt their quality of life, Axios reported . Ultimately, these concerns might sway votes for Democrats and Republicans ahead of the midterm elections, the WSJ noted, as data center moratoriums that could slow AI advancement are gaining traction. For Altman and his company, getting the public to buy into their vision of AI at this critical juncture likely feels essential, since a loss of Republican /control of Congress could pave the way for stricter AI safety laws that The New Yorker noted that Altman has privately lobbied against. Without trust in Altman, it’s likely a much harder sell to convince the public that OpenAI isn’t simply saying whatever it will take to entrench its own dominance, the New Yorker suggested. What exactly is OpenAI pitching? “We don’t have all, or even most of the answers,” OpenAI said. Instead, the company characterized its “industrial policy for the intelligence age” as “initial ideas for an industrial policy agenda to keep people first during the transition to superintelligence.” Calling for “common-sense” regulations and a public-private partnership to quickly iterate on successes, OpenAI pitched “ambitious” policy ideas to ensure that everyone can access AI and profit from it. Its bushy-tailed vision acknowledged that it hopes to achieve what society never did: guarantee Internet access and ensure AI is “fairly deployed” across the US, with everyone trained to use it. Worker protections are a focus of OpenAI’s plan. Recommendations included involving workers in discussions on how AI systems work to improve productivity and make workplaces safer, as well as on how to “set clear limits on harmful uses of AI.” OpenAI also suggested creating a tax on automated labor that could be used to fund core programs like Social Security, Medicaid, SNAP, and housing assistance as companies rely less on human labor. Among other enticing ideas was a plan to “incentivize employers and unions to run time-bound 32-hour/four-day workweek pilots with no loss in pay that hold output and service levels constant, then convert reclaimed hours into a permanent shorter week, bankable paid time off, or both.” Additionally, OpenAI proposed a “public wealth fund” that “provides every citizen—including those not invested in financial markets—with a stake in AI-driven economic growth.” “Returns from the Fund could be distributed directly to citizens, allowing more people to participate directly in the upside of AI-driven growth, regardless of their starting wealth or access to capital,” OpenAI said. As AI takes on more tasks, humans can gravitate toward care-centric work, OpenAI suggested, recommending policy ideas to help displaced workers get training to work in health care, elderly care, daycare, or community service settings. To ensure people are attracted to those roles—historically undervalued as women’s work—OpenAI suggested initiatives to help society recognize that caregiving is “economically valuable work.” Human workers will also be needed to use AI to accelerate scientific advancements, OpenAI said. However, all these public benefits that OpenAI promises can only be realized if we build a “resilient society” that can quickly respond to risky implementations and “keep AI safe, governable, and aligned with democratic values,” the company said. That aspect of OpenAI’s vision requires firms like OpenAI to develop safety systems, among other efforts, that will help improve public trust in AI. And we should trust those systems will work and only interfere with these firms when actual dangers are looming, OpenAI seems to suggest. “As we progress toward superintelligence, there may come a point where a narrow set of highly capable models—particularly those that could materially advance chemical, biological, radiological, nuclear, or cyber risks—require stronger controls,” OpenAI said. When that day arrives, OpenAI opined, there should be a