구글 딥마인드 연구원 또 사임, "초지능 AI 조기 구축은 무책임"
구글 딥마인드 뉴질랜드 소속 기술 전문가 로버트 오캘러핸이 AI 개발 속도가 너무 빠르다며 사임했다. 그는 초지능(ASI)을 조기에 목표하는 것이 근본적으로 무책임하다고 비판하며, 인지적 항복, 권력 집중, 경제 혼란 등 AI의 위해성이 이득을 능가할 것이라고 전망했다.
이제는 뉴스성조차 희미해졌지만, 또 한 명의 구글 연구원이 AI 위험을 이유로 사임했다. 구글 딥마인드 뉴질랜드 지사의 기술 전문가인 로버트 오캘러핸은 AI의 "현재 변화 속도가 지나치게 빠르다"고 말했다. 그는 AI를 더 저렴하고 빠르게 만드는 데 기여한 칩 설계 도구를 개발해 왔지만, 이러한 기여를 더 이상 정당화할 수 없다고 밝혔다. 오캘러핸은 초지능 AI의 위험이 "실재하지만 불확실하다"고 평가하며, "가까운 미래에 ASI를 목표로 하는 것은 본질적으로 무책임하다"고 주장했다. 그는 또한 인지적 항복(cognitive surrender), AI 유발 정신착란 및 고립, 권력 집중, 경제적 혼란, 사이버 보안 위험, 책임 부재 등을 경고했다. 그는 AI의 폐해가 이득보다 클 것에 내기를 걸 만하다고 덧붙였다. 그에 따르면 많은 딥마인드 동료들도 같은 우려를 공유하지만 공개적으로 발언하는 경우는 드물다. 그는 이제 "명백히 인간에게 도움이 되는(pro-human)" 일을 하고 싶다고 말했다. 그는 엘리저 유드코프스키와 네이트 소어스의 저서 '누군가 그것을 만든다면(If Anyone Builds It)'을 언급했지만, 초지능 AI가 필연적으로 재앙을 가져온다는 주장에 동의하는 것은 아니라고 밝혔다. 이 저자들은 효율적 이타주의(effective altruism)와 연결되어 있는데, 이는 자선을 재분배보다 우선시한다는 비판을 받아온 논쟁적 운동이다. Axios에 따르면 백악관 메모는 이 운동을 사이비 집단 같은 주변 세력으로 규정하고, 앤스로픽 CEO 다리오 아모데이를 AI '재앙론(doomerism)'의 대표주자로 공격했다.