#AI 리스크 관리

미 국방부, 의회 보고서 작성에 AI 활용 자랑

미 국방부가 매년 의회에 제출해야 하는 방대한 양의 의무 보고서를 생성형 AI를 활용해 작성하고 있다고 밝혔습니다. 실무자들은 작업 시간을 200시간에서 5시간으로 단축할 수 있다며 AI 도입의 효율성을 강조했지만, 인간의 검토가 없을 경우 발생할 수 있는 오류와 환각(Hallucination)으로 인한 리스크도 함께 지적되고 있습니다.

미국 국방부 생성형 AI 공공 정책

TechCrunch AI • 45일 전

IMP 7

KPMG AI 환각 오류로 보고서 철회

글로벌 컨설팅 기업 KPMG가 작성한 AI 활용 보고서가 AI 환각(Hallucination)으로 인한 심각한 허위 사실 기재로 확인되어 전면 철회되었습니다. 이는 UBS 등 다수의 실제 기관들이 보고서 내용과 다르다고 반박하면서 발생한 일로, 전문 기관조차 AI가 생성한 결과물에 대한 검증 없이 이를 공식 문서로 발행할 때 따를 수 있는 치명적인 리스크를 보여줍니다.

AI 환각 KPMG AI 리스크 관리