알트만·머스크·하사비스, 아모데이의 독립 감독 제안 지지
OpenAI의 샘 알트만, 일론 머스크, 전 딥마인드 CEO 데미스 하사비스가 앤스로픽 CEO 다리오 아모데이가 제안한 AI 개발 속도 조절과 AI 연구소 내 독립적 감독 필요성에 대해 지지 또는 부분 지지를 표명했습니다. 알트만은 안전 문제를 이유로 OpenAI가 올해 IPO를 하지 않겠다고 밝혔으나, 재정 상태가 IPO를 지탱하지 못한다는 해석도 가능합니다. 한편 구글 연구원 페이만 밀란파르는 재귀적 자기개선(RSI)이 불안정한 가정이라며 반박했습니다.
알트만, 머스크, 하사비스, 아모데이의 독립 감독 추가 요구 지지
OpenAI CEO 샘 알트만과 일론 머스크가 AI 개발 속도를 늦추자는 요구를 지지하고 나섰다.
알트만, 머스크, 전 딥마인드(DeepMind) CEO 데미스 하사비스는 앤스로픽(Anthropic) CEO 다리오 아모데이의 제안에 대해 최소한 부분적으로 동의하며, AI 연구소 내부에 독립적인 감독이 필요하다는 점에는 모두 뜻을 함께 했다.
머스크는 수년간 AI 위험에 대해 경고해 왔기 때문에 그의 지지가 크게 놀라운 일은 아니다.
알트만은 포춘(Fortune)과의 인터뷰에서 안전 문제를 이유로 OpenAI가 올해 상장(IPO)하지 않을 것이라고 밝혔다. 그는 이미 6월에 내부적으로 이 결정을 공유한 바 있다. 다른 해석도 가능하다. OpenAI의 재무 상태는 특히 앤스로픽과 비교할 때 현재 IPO를 뒷받침하지 못한다는 것이다. 두 가지 모두 사실일 수 있다.
모두가 동의하는 것은 아니다. 구글 연구원 페이만 밀란파르는 반박하며, 재귀적 자기개선(RSI, Recursive Self-Improvement)은 피드백 루프가 본질적으로 불안정하기 때문에 순진한 가정이라고 주장했다. 시스템이 스스로를 더 강하게 최적화할수록 더 깊은 맹점에 빠지며, 신뢰할 수 있는 증거는 벤치마크가 아닌 현실 세계에서만 나온다는 것이다. 따라서 아모데이의 '속도 제한'은 불필요하다고 밀란파르는 주장한다. "신뢰할 수 있게 스스로를 개선하는 시스템은 낭비적으로 보일 만큼의 여유를 두고 통제되고, 감쇠되고, 느려지고, 제한될 것이다. 안정성 자체가 속도 제한이기 때문이다."
광고
과장 없는 AI 뉴스 – 전문가가 직접 선별
THE DECODER를 구독하시면 광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 발행되는 독점 'AI 레이더' 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용이 가능합니다.
지금 구독하세요
출처: Altman | Musk | Hassabis | Fortune | Peyman Milanfar