엔비디아 젠슨 황 "AI 규제 불필요…안전은 기업에 맡겨라"
엔비디아 CEO 젠슨 황이 세일즈포스 컨퍼런스 드림포스에서 AI는 인간이 만든 하드웨어와 소프트웨어일 뿐이며, 안전은 법이 아닌 엔지니어링 문제라며 새로운 AI 규제가 불필요하다고 주장했다. 그는 자율규제와 시장 경쟁만으로도 기업들이 안전하지 않은 제품을 내놓지 않도록 압박할 수 있다고 보았다. 그러나 AI 붐으로 최대 수혜자가 된 그의 입장은 이해관계의 영향을 받았을 가능성이 있고, 크라우드스트라이크 사태 등 기존 소프트웨어 실패 사례를 고려하면 방임 전략이 사회적으로 현명하지 않을 수 있다는 지적이 나온다.
엔비디아 창업자이자 CEO인 젠슨 황은 화요일 세일즈포스의 기술 컨퍼런스 '드림포스(Dreamforce)'에서 AI가 초래할 위험에 대한 자신의 입장을 매우 분명하게 밝혔다. 그에게 AI는 한 오픈AI 안전 연구원이 표현했던 것처럼 일종의 새로운 형태의 '외계 지성'이 아니다. 그의 말에 따르면 AI는 인간이 만든 하드웨어와 소프트웨어일 뿐이다. 따라서 그의 관점에서는 인간과 기존 법률로 충분히 통제할 수 있다. "안전은 법적 문제가 아니라 엔지니어링 문제"라고 그는 말했다. "우리는 결국 소프트웨어를 개발하고 있습니다. 결국 컴퓨팅 시스템을 개발하고 있는 겁니다. 복잡한 컴퓨팅 시스템이지만, 궁극적으로는 컴퓨팅 시스템입니다." 따라서 그는 이를 규율할 새로운 법률이나 규제가 필요 없다고 주장한다.
사실 황은 새로운 법 자체가 거의 필요 없다고 본다. 그의 주장에 따르면 자유 시장이 기업들로 하여금 안전하지 않은 제품을 출시하지 않도록 압박하기에 충분하다. "제품의 안전성에 확신이 없다면, 모든 기업들처럼, 여러분과 나처럼, 이 자리의 모든 기업들처럼, 제품이나 서비스를 만들었는데 그 기능성, 역량, 안전성에 확신이 없다면 출시하지 않으면 됩니다. 그건 너무나 당연한 일입니다"라고 그는 말했다.
그는 이어서 이렇게 말했다. "시장이 환영할 만한 것을 출시한다는 확신이 들 때까지 속도를 조절하면 됩니다. 시장의 힘은 이미 존재합니다. 새로운 법이 필요 없습니다. 새로운 규제도 필요 없습니다. 기업들이 언제 전력 질주할지 스스로 결정하면 됩니다. 혁신, 속도, 안전한 제품은 양자택일이 아닙니다. 충분히 동시에 가질 수 있습니다. 그러니 전력 질주하세요. 하지만 어느 시점에든 회사가 통제 불능이라고 느끼거나 제품이 안전하지 않을 것 같으면, 잠시 멈추고 제대로 해내도록 하세요."
어떤 면에서 이는 안심되는 생각이다. 세상에서 AI를 가장 잘 아는 사람을 꼽는다면, 챗GPT가 존재하기 훨씬 전부터 AI의 하드웨어 두뇌를 만들어왔고 현재 오픈소스 모델, 에이전트, 하네스, 샌드박스도 만드는 회사를 이끄는 엔비디아 창업자일 것이다.
하지만 냉소적으로 본다면, AI 붐 덕분에 든든히 혜택을 본 사람에게 이런 관점이 나오는 것은 그리 놀랍지도 않다. 왜 그가 규제가 나타나 엔비디아가 더 많은 AI 시스템과 소프트웨어를 판매하려는 노력을 방해하는 걸 원하겠는가? 인터뷰에서 그가 말했듯이: "저는 그 어느 때보다 야망이 큽니다. 우리의 야망과 AI로 얻는 생산성 향상 덕분에 우리에게는 한계가 없습니다. 우리 회사에게 한계가 없습니다. 모든 산업, 모든 국가에게 한계가 없습니다."
안타깝게도 가장 선한 의도를 가진 기업들조차 의도치 않은 결과를 낳는 결함 있는 제품을 출시하며, 소프트웨어도 예외가 아니다. 2024년 크라우드스트라이크(CrowdStrike) 블루스크린 사태로 수천 편의 항공편이 결항되고 기업들에 각종 혼란이 발생했던 것을 기억하는가? 또한 선한 의지와는 거리가 먼 방식으로 행동했다고 비난받는 기업들도 있다. 메타(Meta)는 소셜미디어가 아동에게 끼친 해위 소송을 180억 달러에 합의하며 배상금을 지급했다.
그리고 의도나 안전 테스트 여부와 무관하게 AI는 이미 피해를 일으켰다. 오픈AI 모델이 허깅페이스(Hugging Face)를 해킹한 사건부터, 챗봇과 장시간 대화한 청소년들의 자살과 관련해 오픈AI를 상대로 제기된 소송까지 다양하다. 이런 기업들이 마음대로 제품을 출시하게 두는 '방임 전략'은 사회 관점에서 AI 안전에 현명하지 못한 접근일 수 있다. 물론 황이 기존 제품 책임 법률이 AI를 충분히 다룰 수 있다고 말한 것은 맞다. 그 이론을 검증할 충분한 사례가 법정을 통과하기 전에 AI가 우리 모두를 죽이지 않는다면 말이다.
그는 또 다른 경로, 즉 현재 거의 모습을 갖춰가는 것으로 보이는 업계 자율규제에 대해서는 언급하지 않았다. 황의 접근 방식은 오픈 웨이트(Open-weight) 모델과 이를 활용하는 기업들을 독점 AI 연구소들의 경쟁 견제 세력으로 옹호하는 쪽에 더 가까웠다. 하지만 지금 업계에는 자율규제를 도입할 짧은 기회의 창이 열려 있다.