안스로픽 CEO, 오픈웨이트 위험성 경고하며 전면 금지는 부인
안스로픽의 다리오 아모데이 CEO는 고성능 오픈웨이트(Open-weight) AI 모델이 생물·사이버 테러 및 중국의 군사적 우위로 악용될 수 있다며 강력한 규제를 촉구했습니다. 그는 오픈소스 자체를 반대하며 전면 금지를 주장한 적은 없다고 선을 그었지만, 평론가들은 이것이 저렴한 경쟁 모델로부터 자사를 보호하기 위한 독점적 움직임이라고 비판하고 있습니다.
안스로픽(Amthropic)의 다리오 아모데이(Dario Amodei) CEO는 고성능 오픈웨이트(Open-weight) 모델이 큰 위험을 초래할 수 있다는 자신의 견해를 고수하면서도, 원칙적으로 오픈웨이트 자체를 반대하는 것은 아니라고 밝혔다.
그는 자신의 블로그 포스트에서 "안스로픽은 결코 오픈웨이트 모델 전면 금지를 옹호한 적이 없다"고 강조하며, "위험한 능력을 갖추지 않은 모델들은 공공의 이익(Public good)이 된다"고 덧붙였다.
하지만 아모데이 CEO는 두 가지 '최악의 시나리오(악몽)'를 언급했다. 첫째, 중국과 같은 권위주의 국가가 미국보다 더 강력한 모델을 구축해 군사적 우위나 감시 능력을 얻는 것이다. 둘째, 강력한 오픈 모델이 사이버 공격이나 생물 테러에 악용되는 것이다. AI 연구소들은 사용 데이터를 통해 폐쇄형(Closed) 모델에서도 이미 이러한 악용 시도가 발생하고 있다는 사실을 알고 있다.
그는 오픈웨이트가 더 위험하다고 주장하는데, 이는 안전장치(Safeguards)가 부족하고 일단 출시된 모델은 회수할 수 없기 때문이다. 오픈 모델이 방어자(Defenders)에게도 힘을 실어줄 수 있지만, 아모데이는 생물학적 위협과 관련해서는 심각한 불균형이 존재한다고 본다. 충분히 성능이 뛰어난 모델은 바이러스를 무기화하는 속도를 크게 높일 수 있는 반면, 방어 체계를 구축하는 데는 최상의 조건에서도 수년이 걸리기 때문이다.
영국 AI 안전 보안소(AI Security Institute)의 연구에 따르면, 사이버 보안 분야에서 오픈웨이트 모델의 기술 수준은 최첨단 프론티어 모델보다 몇 개월 뒤처지는 것으로 나타났다. 아모데이는 자사 모델의 위험성에 대해 이전부터 경고해 왔으며, 이러한 경고가 미국의 (특정 모델) 금지 조치로 이어지는 데 영향을 미쳤으므로 그의 주장은 최소한 일관성을 유지하고 있다.
아모데이는 중국의 발전 속도를 늦추고 최악의 시나리오를 피하고자 한다. 그는 중국이 미국산 칩 없이 미국보다 더 강력한 모델을 학습하지 못하도록 칩 수출 통제를 더욱 강화할 것을 촉구한다. 또한 중국이 칩 제재를 부분적으로 우회하고 미국 AI 성공에 '무임승차'하기 위해 사용하는 것으로 알려진 산업적 지식 증류(Industrial distillation)에 대해서도 제재 조치를 원한다.
이에 대해 비판론자들은 미국의 대중국 칩 판매 차단이 오히려 중국 자체 칩 산업의 성장을 부추길 뿐이며, 지식 증류는 합법적이고 유용한 기술이라고 반박한다.
또한 아모데이는 모델의 출처나 라이선스 방식과 상관없이 모든 고성능 모델에 대해 의무적인 안전 테스트를 시행해야 한다고 주장한다. 이 마지막 점에 대해서는 스타트업과 연구 기관의 저성능 모델을 면제해 주는 최근의 법안 제안을 언급하며, 공감대가 형성되어 가고 있다고 보고 있다.
아모데이의 이러한 발언은 미국 당국이 미국 기업들이 중국의 오픈웨이트 모델을 사용하는 것을 더 어렵게 만드는 방안을 검토하고 있다는 보도, 그리고 주요 빅테크 기업들이 이러한 조치에 반대하는 서명을 한다는 소식과 맞물려 있다.
비판론자들은 안스로픽이 더 저렴한 경쟁사로부터 자사의 비즈니스를 보호하기 위해 오픈웨이트 모델의 가치를 깎아내리고 있다고 비난한다. 또한, OpenAI가 해당 반대 서명에 동참하긴 했지만, 여전히 오픈웨이트를 반대하는 로비 활동을 벌이고 있다는 말도 나오고 있다.