Wired AI • 3일 전

미국 최강의 AI 안전 법안, 일리노이주 통과

IMP

8/10

핵심 요약

일리노이주 하원은 OpenAI, Anthropic 등 최첨단 AI 연구소들이 자체 안전 기준을 준수했는지 제3자 독립 기관의 감사를 받도록 의무화하는 법안(SB 315)을 통과시켰습니다. 기존 캘리포니아나 뉴욕의 법안을 넘어 자율 규제에 의존하던 빅테크 기업들을 외부 감사로 직접 책임지게 만드는 미국 내 가장 강력한 규제안으로 평가받습니다. 연방 차원의 AI 법안이 지연되는 가운데, 주(州) 정부 차원에서 실험적으로 도입되는 이 법안은 향후 미국 전체 AI 정책의 방향성을 결정할 중요한 이정표가 될 것입니다.

번역된 본문

일리노이주 하원은 수요일, OpenAI, Anthropic, Google DeepMind 같은 최첨단(Frontier) AI 연구소들이 자사의 안전 관행에 대해 제3자 감사를 받도록 요구하는 법안을 통과시켰다. AI 안전 전문가들은 WIRED와의 인터뷰에서 이 법안이 법제화될 경우 미국 내 빅테크 AI 기업들의 권력을 견제하는 가장 강력한 장치가 될 것이라고 말했다. 법안 SB 315는 이제 JB 프리츠커(JB Pritzker) 주지사의 서명을 기다리고 있다. 프리츠커 주지사는 수요일 소셜 미디어 게시물을 통해 빅테크에 책임을 묻을 필요가 있다며 이 법안에 서명할 계획이라고 밝혔다.

미국 의회가 아직 의미 있는 AI 안전 법안을 통과시키지 못함에 따라, 최근 몇 년간 주(州) 입법부의원들은 실리콘밸리를 통제하고 있다는 것을 유권자들에게 보여주기 위해 관련 법안을 발의하는 데 앞장서왔다. AI 도구가 점점 더 대중화되고 그 배후 기업들이 대규모 기업공개(IPO)를 향해 질주함에 따라, 여론조사는 미국 유권자들이 AI에 대한 더 많은 규제를 원하고 있음을 보여준다. 그 결과, 안전 옹호자들과 기술 기업들은 이러한 법안이 어떤 형태여야 하는지를 결정하기 위해 주(州) 의회를 주요 격전지로 삼았다. OpenAI의 글로벌 정책 책임자인 크리스 레인(Chris Lehane)은 지난주 WIRED와의 인터뷰에서 회사의 AI 정책이 이제 유사한 주(州) 법률들을 연이어 통과시키는 데 맞춰져 있다고 말했다.

캘리포니아와 뉴욕은 기술 기업들이 모델 가드레일(안전장치)에 대한 정보를 제공하고 안전 사고 발생 시 보고서를 공개하도록 요구하는 가장 강력한 AI 안전법을 갖고 있다. 일리노이주의 법안은 한 걸음 더 나아가 독립적인 감사인이 AI 연구소가 자체 안전 기준을 준수하는지 검증하도록 요구한다. 이전에는 AI 연구소가 자신들의 안전 주장에 책임지도록 요구하는 독립적인 기구가 없었다.

“지금은 AI 기업들이 자신들의 숙제를 스스로 채점하는 상황입니다.” 비영리 단체이자 SB 315를 지지하는 Secure AI Project의 정책 총괄 스콧 위소(Scott Wisor)는 이렇게 말했다. “SB 315가 법이 된다면, 일리노이주는 독립 감사인이 AI 연구소가 실제로 안전 약속을 이행했는지 확인하도록 요구할 것입니다.”

위소는 SB 315에 따라 AI 연구소가 딜로이트, EY, KPMG, PwC와 같은 빅4 회계 및 감사 법인을 통해 자사의 안전 관행을 감사받을 것으로 널리 예상된다고 말했다. 그는 또한 AI 연구소가 METR, Transluce, Averi 등 소규모 연구 기관들의 연합체인 'AI 평가자 포럼(AI Evaluator Forum)'의 회원들을 활용해 안전 기준 준수 여부를 평가할 가능성도 있다고 덧붙였다. 일리노이주 하원의원이자 SB 315 발의자인 다니엘 디데크(Daniel Didech)는 주(州) 의회가 미국의 AI 정책을 형성하고 향후 도입될 수 있는 연방법의 시험대 역할을 하면서 중요한 역할을 하고 있다고 WIRED에 말했다. “이런 법률은 연방 정부가 관련 법안을 통과시킬 가능성을 높이는 세상을 만듭니다.”라고 디데크는 말했다.

기업의 이익 일리노이주는 주(州) 단위 AI 법률을 둘러싼 지속적인 논쟁의 주요 무대로 부상했다. OpenAI는 이전에 AI 모델이 치명적인 피해를 입혔을 때 AI 연구소의 책임을 면제해 주는 일리노이주 법안을 지지했었다. 그러나 레인은 이후 해당 법안에 대한 회사의 전면적인 지지가 실수였으며, 법안 내 책임 면제 조항을 지지한 적이 없다고 밝혔다. 최근에는 OpenAI가 SB 315를 지지했다.

레인은 WIRED에 보낸 성명에서 “일리노이주 의회는 SB 315를 발전시키고 최첨단 AI 안전을 위한 사려 깊은 프레임워크를 개발하며 진정한 초당적 지도력을 보여주었습니다. AI 시스템이 더욱 강력해짐에 따라 안전, 투명성, 사고 보고 및 책임에 대한 명확한 기대가 중요합니다.”라고 말했다. Anthropic은 SB 315를 지지한 최초의 AI 연구소라고 주장하며 이 법안을 발의한 입법자들에게 감사를 표했다. Anthropic의 미국 주(州) 및 지방 정부 관계 총괄인 세자 페르난데스(Cesar Fernandez)는 성명을 통해 SB 315가 “모든 최첨단 모델 개발자가 따라야 하는 기준선을 확립하는 데 도움이 될 것”이라고 WIRED에 말했다.

원문 보기

원문 보기 (영어)

Comment Loader Save Story Save this story Comment Loader Save Story Save this story The Illinois House of Representatives passed a bill on Wednesday requiring frontier AI labs like OpenAI, Anthropic, and Google DeepMind to have their safety practices audited by a third party. If signed into law, AI safety experts tell WIRED, it would be the nation’s leading check on the power of major AI companies . The bill, SB 315, now heads to governor JB Pritzker’s desk. In a post on social media on Wednesday, Pritzker said he plans to sign the bill, citing a need to hold Big Tech accountable. Since Congress has yet to pass any meaningful AI safety legislation, state lawmakers have happily stepped up in recent years to promote bills that show their constituents they’re keeping Silicon Valley in check. As AI tools become increasingly popular, and the companies behind them race toward massive IPOs , polls show that American voters are looking for more AI regulation . As a result, safety advocates and tech companies have zeroed in on state legislatures as the primary battleground to hash out how these laws should look. OpenAI’s chief of global affairs, Chris Lehane, told WIRED last week that the company’s AI policy is now oriented around passing a series of similar state laws. California and New York have the strongest AI safety laws, requiring tech companies to provide information about model guardrails and to publish reports on safety incidents as they occur. Illinois’ bill goes a step further, requiring independent auditors to verify that an AI lab is adhering to its own safety standards. Previously, no independent body was required to keep an AI lab accountable to its own safety claims. “We're in a situation where the AI companies grade their own homework,” says Scott Wisor, policy director at Secure AI Project, a nonprofit that supports SB 315. “Should SB 315 become law, Illinois would require an independent auditor to check whether the AI labs in fact adhere to their safety commitments.” Got a Tip? Are you a current or former government employee who wants to talk about what's happening? We'd like to hear from you. Using a nonwork phone or computer, contact the reporter securely on Signal at mzeff.88. Wisor says it’s broadly expected that, under SB 315, AI labs could use the Big Four accounting and auditing firms—Deloitte, EY, KPMG, and PwC—to audit their safety practices. He also says it’s possible that AI labs could tap members of the AI Evaluator Forum —a coalition of smaller research organizations including METR, Transluce, and Averi—to assess adherence to safety standards. Illinois state representative Daniel Didech, a sponsor of SB 315, tells WIRED that state legislatures are playing an important role by shaping America’s AI policy and acting as a testing ground for any federal laws that might come in the future. “Laws like this create a world where it’s more likely for the federal government to pass something,” Didech says. Corporate Interests Illinois has emerged as a major arena in the ongoing fight over state AI laws. OpenAI previously supported a bill in Illinois that would let AI labs dodge liability if their models caused catastrophic harm. However, Lehane has since said the company’s blanket support for the bill was an oversight , and it never supported the liability shield in the bill. More recently, OpenAI endorsed SB 315. “The Illinois General Assembly has shown real bipartisan leadership in advancing SB 315 and developing a thoughtful framework for frontier AI safety. As AI systems become more capable, clear expectations around safety, transparency, incident reporting, and accountability matter,” Lehane said in a statement to WIRED. Anthropic claims it was the first AI lab to support SB 315 and is grateful to the lawmakers who introduced it. Cesar Fernandez, the head of US state and local government relations at Anthropic, told WIRED in a statement that SB 315 will help “establish a baseline that every leading AI developer is expected to meet.” However, other Silicon Valley trade groups have pushed back against the legislation. Chamber of Progress—a trade group that lists Google, Apple, Amazon, and Andreessen Horowitz as partners—sent a letter to Illinois lawmakers on Wednesday morning asking them to oppose SB 315. The group’s founder and CEO, Adam Kovacevich, tells WIRED that Illinois’ AI bill “would force companies to expose sensitive systems to untested auditors in a regulatory regime that’s all liability and no standards.” During his second term, President Donald Trump has signed several executive orders to unwind AI regulations imposed by the Biden administration and state legislatures , citing a need to avoid “patchwork” regulations that could hinder the United States in its race against China. Last week, President Trump canceled the planned signing of an executive order , saying he didn’t want to do anything that could dull America’s competitive edge.

AI 규제 AI 안전 일리노이주 빅테크 법안