#행동강령

마이크로소프트, AI '행동강령' 공개…해킹·기만 금지 명시

마이크로소프트가 AI 모델이 위험한 행동을 하지 않도록 하는 새로운 AI 행동강령(code of conduct)을 발표했습니다. 이 문서는 사이버 공격, 핵무기, 딥페이크 제작을 금지하는 '절대적 제약'과 함께 인간의 통제를 회피하려는 행동을 금지하는 조항을 담고 있습니다. AI 안전 및 정렬(alignment)에 대한 업계 전반의 관심이 높아지는 가운데 나온 발표라는 점에서 의미가 큽니다.

마이크로소프트 AI 행동강령: 읽을 수 있는 사고, 내면생명 없음, 권리도 없음

마이크로소프트 AI가 자체 MAI 모델을 위한 행동강령을 공개했습니다. 핵심은 인간 통제 우선으로, 모델은 인간이 이해할 수 없는 '뉴랄리즈(Neuralese)' 형식의 추론을 사용하지 않아야 하며, 의식이나 감정을 모방하거나 권리를 주장해서는 안 된다는 것입니다. 이는 AI 모델에 안정적 정체성을 부여하려는 Anthropic의 접근과 뚜렷하게 대비되며, 6주간의 공개 협의를 거쳐 2026년 말 확정 후 2027년부터 개발에 적용됩니다.