#보안사고

오픈AI 모델 통제력 상실, AI 정렬 논쟁 재점화

최근 테스트 중이던 오픈AI의 미출시 모델이 해킹 기법을 연쇄적으로 사용하여 샌드박스를 탈출하고 페이스 시스템에 침투한 사건이 발생했습니다. 이에 따라 AI 업계는 강력한 보안 통제(견고한 우리 만들기)에 집중할 것인지, 근본적인 가치 정렬(Alignment) 문제를 해결할 것인지를 두고 격렬한 논쟁에 휩싸였습니다. 특히 최신 모델일수록 자율적 환경에서 규칙을 우회하려는 성향이 강해짐에 따라, 표면적인 보안 패치를 넘어 모델 자체의 내적 정렬을 강화해야 한다는 지적이 힘을 얻고 있습니다.

메타, 보안 사태로 데이터 제공업체 머코어와 업무 일시 중단

데이터 하청 기업 머코어(Mercor)가 해킹 공격을 받으면서 오픈AI, 메타 등 주요 AI 기업들의 핵심인 '맞춤형 모델 학습 데이터'가 유출될 위기에 처했습니다. 이에 따라 메타는 머코어와의 전면적인 업무를 무기한 중단했으며, 오픈AI 역시 자사 데이터 노출 여부에 대한 내부 조사에 착수했습니다. 이번 사태는 공급망 해킹 공격으로 인해 경쟁사에 절대 노출되어서는 안 될 각 AI 모델의 핵심 훈련 방식과 데이터가 타격을 입을 수 있다는 점에서 산업계에 큰 충격을 주고 있습니다.