#안전 및 보안

미국 정부 명령에 따라 앤스로픽, AI 모델 서비스 중단

앤스로픽이 미국 정부의 국가 안보를 이유로 한 수출 통제 지시에 따라 이번 주 초 출시한 AI 모델인 클로드 페이블 5(Claude Fable 5)와 마이토스 5(Mythos 5)의 접근을 전면 차단했습니다. 정부는 해당 모델의 보안 가드레일을 우회하는 탈옥(Jailbreak) 기법이 발견되었다며 우려를 표했으나, 앤스로픽은 이를 반박하며 정부의 조치가 적절한 절차를 밟지 않았다고 주장했습니다. 이번 사건은 기술의 공공 안전성과 정부 규제 절차 간의 갈등, 그리고 트럼프 행정부와의 지속적인 법적 마찰을 보여주는 중요한 사례입니다.

오픈AI, 너무 위험해 공개 불가한 GPT-2 발표 (2019)

2019년 오픈AI는 특정 주제를 주면 문맥에 맞는 글을 매우 자연스럽게 생성하는 텍스트 생성 모델 GPT-2를 발표했습니다. 그러나 가짜 뉴스나 악의적 콘텐츠 생성 등 안전 및 보안상의 우려로 인해 원본 모델이 아닌 축소된 버전만 공개하기로 결정했습니다. 이 결정은 AI 알고리즘의 위험성과 윤리적 공개 기준에 대한 업계 전문가들의 치열한 논쟁을 촉발하는 계기가 되었습니다.