미국 진보 진영 내에서 AI 실존적 위험론을 받아들일지를 두고 갈등이 커지고 있다. 뉴욕 민주사회주의자들(DSA)은 AI 재앙론과 과대광고가 현재의 실질적 피해를 가린다며 비판하는 반면, 버니 샌더스 상원의원 등은 데이터센터 반대와 AI 안전 규제를 연계하며 실존적 위험 대응을 주장한다. 이는 AI 규제 정책의 방향을 둘러싼 좌파 내 노선 차이로, 향후 규제 입법 논의에 영향을 줄 수 있어 주목된다.
번역된 본문
9월 10일, 최근 Anthropic을 퇴사한 연구자 제이콥 콕슨이 AI 산업이 인류의 종말을 초래할 수 있다고 경고한 지 이틀 후, 뉴욕 민주사회주의자들(NYC DSA)이 인스타그램에 이미지 캐러셀을 게시했다. 첫 번째 슬라이드는 핫핑크 배경에 자기 꼬리를 물고 있는 용인 '우로보로스' 그림이었다. "AI 재앙론과 AI 과대광고는 같은 이야기입니다. 둘 다 당신의 주의를 공상과학적인 미래에 묶어두어, 현재 실제로 일어나고 있는 피해로부터 시선을 돌리게 합니다"라는 문구가 적혀 있었다. 이 게시물은 미국에서 가장 큰 지부인 NYC DSA의 기술 규제 담당 단체인 '테크 액션 워킹 그룹'이 작성했으며, 인스타그램에서 2만 5천 개 이상의 좋아요를 받았다. 하지만 모두가 이 게시물에 동의한 것은 아니었다. "끔찍하고 위험한 주장"이라는 댓글도 달렸다. "때로는 경고를 울리는 것이 정당합니다."정치인들이 AI 안전 문제를 파악하려 애쓰는 가운데, 미국 좌파 내부에서 이념적 분열이 벌어지고 있다. 그 핵심 쟁점 중 하나는 기술 기업들이 자사 제품이 세계를 끝낼 만큼 강력할 수 있다고 주장하는 것을 믿어야 하는지 여부다. 좌파 중 일부는 이론적인 AI 우려를 실제 피해보다 우선시하는 것의 가치에 의문을 제기한다. 그들은 프론티어 AI 연구소들이 홍보하는 AI의 위험성 주장을 반복하는 것이 AI 기업들에 힘을 실어주고, 현재 기술이 초래하는 피해에 대한 규제에서 불가능한 미래로 관심을 돌리게 된다고 믿는다. "AI는 자본주의적 착취의 최신 도구가 되었습니다. 규제되지 않고 오용되는 AI가 이미 초래하는 피해는 전국 곳곳에서 명확합니다"라고 테크 액션의 멤버인 앨런 덩이 WIRED에 말했다. "사회주의자로서 우리는 이 기업들이 스스로 규제를 만드는 것을 신뢰하지 않습니다."하지만 다른 이들은 미국 좌파의 비공식 지도자인 버니 샌더스 상원의원의 방향을 따르고 있다. 샌더스는 AI 안전 문제에 열정적으로 뛰어들며, AI가 인류를 소멸시킬 잠재력이 있다고 주장해 왔다. 이들은 현재 일어나고 있는 피해와 미래에 일어날 수 있는 피해를 모두 동시에 다루는 것이 가능하다고 말한다. "프론티어 AI 거버넌스와 초지능 개발을 우려하는 사람들이 바로 현재의 피해들도 다루고 있습니다"라고 AI 이슈를 다루는 민주당 전략가 알렉산더 맥코이는 말했다. "우리는 이러한 다른 중요한 요인들도 모두 다뤄야 합니다. 프론티어 AI의 능력은 실재하며 그 힘이 커지고 있습니다. 가짜나 과장이 아닙니다."지난 1년간 샌더스는 AI 안전의 세계에 곧장 뛰어들어, 이전까지 샌프란시스코 베이 지역 내부에서 이뤄지던 논의를 워싱턴과 그의 광범위한 대중주의 지지층에게로 가져왔다. 85세인 그는 올해 좌파의 거대한 조직 화두가 된 데이터센터 반대와, 일자리 상실부터 실존적 위험까지 AI의 잠재적 피해에 대한 목소리 내기 모두에서 앞장섰다. 3월에 발표된 그의 데이터센터 건설 중단 법안은 건설 중단을 '인류의 미래'를 보호하기 위한 연방 규제 제정 필요성과 명시적으로 연결했다. 이 문제에서 샌더스의 입장은 그를 몇몇 특이한 동맹, 특히 트럼프 대통령의 전 고문이자 우파 대중주의 팟캐스트 진행자인 스티브 배넌과 묶이게 했다. 이는 전국의 좌파 후보들의 수많은 메시지에도 영향을 준 것으로 보이며, 그중 다수는 AI에 대한 광범위한 우려를 데이터센터에 대한 여론 분노와 결부시키고 있다. 뉴욕 DSA 게시물 하루 전인 9월 9일, 샌더스의 지지를 받은 4명을 포함해 워킹 패밀리스 당과 연계된 6명의 후보가 인류에 대한 실존적 위협을 막기 위해 워싱턴이 AI를 규제해야 한다는 성명을 발표했다. 이와 함께 공개적이고 사적인 비판도 있었다. AI 연구자이자 기술 산업 비판자인 팀닛 게브루는 샌더스와 좌파의 다른 이들이 '말 그대로 종말론적 우생학적 컬트'에서 단서를 얻고 있다고 비난했는데, 이는 유효 이타주의와 합리주의자들을 지칭하는 것이다.
Comment Loader Save Story Save this story Comment Loader Save Story Save this story On September 10, two days after researcher Jacob Coxon , who had recently quit his job at Anthropic, sounded the alarm about the industry potentially bringing about the end of humanity , the New York City Democratic Socialists of America posted a carousel of images on Instagram. The first slide was a drawing of an ouroboros—a dragon eating its own tail—set against a hot pink background. “AI alarmism and AI hype are the same story: both keep your attention on a science-fiction future to distract you from the real harms experienced in the present,” the image reads. The post was authored by the NYC DSA’s Tech Action Working Group, which focuses on tech regulation issues for the chapter, the largest in the country. It garnered more than 25,000 likes on Instagram. But not everyone agreed with the post: “Horrible and dangerous take,” one comment reads. “Sometimes sounding the alarm is justified.” As politicians scramble to understand AI safety, an ideological split is opening on the American left. Among the questions it’s centered on is whether to believe tech companies’ claims that their products are so powerful that they could end the world. Some on the left question the value in elevating theoretical concerns about AI over actual harms. They believe repeating claims promoted by the frontier labs about the dangers of AI empowers the AI companies, turning attention away from regulating the current harms of the technology and toward an impossible future. “AI has become the latest tool of capitalist exploitation. The damage that unregulated and misused AI is already causing is clear across the country,” Alan Deng, a member of Tech Action, tells WIRED. “As socialists, we don’t trust these corporations to craft their own regulations.” But others are following the direction of Senator Bernie Sanders, the unofficial leader of the American left, who has enthusiastically taken up the AI safety issue, asserting that AI has the potential to eliminate humanity. They say that it’s possible to address all harms from AI—both those happening now and those that could happen in the future—at once. “The same people concerned about frontier governance and the development of superintelligence are also addressing those current harms,” says Alexander McCoy, a Democratic strategist working on AI issues. “We should address all these other important factors. Those frontier AI abilities are true and increasing in power. They are not fake or hype.” Over the past year, Sanders dove head-first into the world of AI safety, bringing conversations that were previously happening in Bay Area circles to Washington and his large populist base. The 85-year-old was early to both opposing data centers—a massive organizing pole for the left this year—and speaking out about AI’s potential harms, from job loss to existential dangers. His data center moratorium bill, released in March, explicitly linked pausing construction with the need to pass federal regulation to protect “the future of humanity.” Sanders’s positioning on this issue has put him in some unusual alliances , most notably with Steve Bannon, President Donald Trump’s former adviser and a right-wing populist podcast host. It has also seemingly inspired a raft of messaging from left-wing candidates running for office across the country, many of whom have been tying broader concerns around AI to the furor over data centers. On September 9, a day before the New York DSA post, six candidates affiliated with the Working Families Party, including four backed by Sanders, released statements on the need for Washington to regulate AI to prevent existential threats to humanity. This has come with both public and private criticism. AI researcher and tech industry critic Timnit Gebru has accused Sanders and others on the left of “taking their cues from literal doomsday eugenicist cults,” referring to the effective altruist and rationalist philosophies, which underpin AI safety conversations in Silicon Valley . And Sanders’s moves have inspired some private agita within certain left-wing circles. “Some of us are looking at Bernie and saying, what happened?” one NYC DSA member with a tech background tells WIRED. Rumman Chowdhury, CEO and founder of the nonprofit Humane Intelligence , understands the concerns expressed by the DSA working group. Chowdhury, who formerly led the machine learning ethics, transparency, and accountability team at Twitter, thinks that all the attention that the AI safety discourse is generating will ultimately be beneficial to frontier labs. “[The companies] grab all the attention, time, energy, and money by spouting really extreme perspectives. But then they actually backtrack to where we sit, all while they discount all of our expertise,” she says. “I think it's hard for normal people to think of how the mind of a venture capitalist works and these investors work. The scarier and more fantastic these CEOs make these companies seem, the more investors want in on it.” For AI companies—particularly OpenAI and Anthropic, which aim to go public in the coming years—the attention and scrutiny on their products now could also be a boon in the long run. “Part of IPOing is sharing a lot of diligence documentation on risks and how risks have been addressed,” says Chowdhury. “This way, they can say, there is a full regulatory regime that they are part of establishing in this industry to guard against the worst risks, and that we have all established exactly what the ‘worst risks’ are.” Pragathi Barusubramanian is a member of the NYC DSA’s Tech Action working group and a leader in the group’s anti-data center organizing, which netted a major win earlier this year by helping New York pass a one-year moratorium . Barusubramanian feels there may be a disconnect in the conversation around what exactly constitutes the most pressing AI-related harms to regulate. “When it comes down to what's happening on the ground,” they say, the conversation about existential risk “doesn’t come up at all.” Instead, they say, “there's an understanding that AI and data center companies don't have our interests at heart.” McCoy, who is advising several Congressional candidates on AI, asserts that there is no real divide between actual leaders on the left on the issue. McCoy noted that several members of the DSA, including New York mayor Zohran Mamdani , have come out with recent statements about Coxon’s warnings and the Hugging Face hack. McCoy says Gebru and similarly-minded critics are “marginal, unrepresentative, and also, frankly, picking an unnecessary distinction. It’s yes and . We should address harms like surveillance and Flock cameras, and other important factors. These do not come in any way at the expense of governing frontier AI capabilities.” Phil Aroneanu, executive director of Irreplaceable, a left-leaning pro-AI safety organization, says that his time working as a climate activist has informed his approach to the AI regulation question. He believes that addressing both AI’s immediate and existing harms as well as future threats is both needed and possible. (McCoy helped found Irreplaceable with an initial seed fund from the Center for AI Safety.) “This very similar intersection between the direct impact of fossil fuel extraction, people's homes getting flooded out because of climate-change-fueled storms, and then the broader movement focusing on the longer-term issue of risks and emissions,” he says. Sanders and New York representative Alexandria Ocasio-Cortez don’t appear to be on the exact same page, either. While she cosponsored Sanders’ data center moratorium legislation, including the language around AI threatening humanity in her own House version of the bill, she has not participated in the high-profile AI safety discussions that he has been present for. While Sanders has called AI “the most transformational technology in the