정책 보고서 내 AI 환각 발견으로 내무부 직원 2명 정직
남아프리카공화국 내무부(DHA)가 최근 개정한 시민권, 이민, 난민 보호 관련 백서서운데서 AI가 만들어낸 가짜 출처, 즉 '환각(Hallucination)'이 발견되어 관련 직원 2명이 직위해제되었습니다. 이는 일주일 전 통신부의 AI 정책 초안에서도 발생했던 동일한 문제로, 공공 부문에서 AI 활용이 급증함에 따라 생성된 콘텐츠에 대한 철저한 검증 절차가 시급해짐을 보여줍니다.
뉴스 홈 » 뉴스 정책 보고서에서 AI '환각(Hallucination)'이 발견되어 내무부 직원 2명이 정직되었습니다. 작성: Jarryd Westerdale 기자 (4분 소요) | 2026년 5월 1일 오전 08:48
관련 기사: 인지적 오프로딩: 당신의 자녀가 AI에게 사고를 외주하고 있습니까? 대처 방법은 다음과 같습니다. 가짜 메트 갈라(Met Gala) 룩이 매년 당신의 타임라인을 범람하고 있으며, AI 발전이 그 원인입니다.
남아프리카공화국 내무부(DHA)의 개정된 시민권, 이민 및 난민 보호 백서에서 AI 환각이 발견되었습니다. (설명을 위한 이미지. 사진: iStock) Google에서 선호하는 소스로 추가 | Google 뉴스에서 팔로우
내무부(DHA)는 최근 한 정책 보고서에 인공지능(AI)이 사용된 것을 발견한 정부 부처 중 최신 사례가 되었습니다. 이 부처는 목요일에 최근 개정을 거쳤던 주요 정책 문서와 관련된 두 직원의 직위해제를 발표했습니다. 목요일에 직위해제된 한 직원은 시민권 및 이민 부문의 최고 책임자(Chief Director)이며, 문서 초안 작성에 관여한 국장(Director)의 직위해제는 새 주가 시작될 때 시행될 예정입니다.
내무부는 "야기된 당혹감"을 인정하며, 이 사건을 업무 프로세스를 현대화하는 계기로 삼겠다고 밝혔습니다. 이 부처는 성명을 통해 "앞으로 내부 승인 절차의 일환으로 AI 검사 및 선언제를 설계하고 시행할 것입니다"라고 밝혔습니다.
관련 기사 더 보기: 남아공에 대한 외국 권고사항은 '빵값을 바꾸지 않는다'
정책 검증 예정
해당 부처에서 발견된 불일치는 개정된 시민권, 이민 및 난민 보호 백서에 첨부된 참고 문헌 목록과 관련이 있습니다. 이 참고 문헌들은 AI '환각(Hallucination)'으로 판단되었습니다. 환각이란 신뢰할 수 있는 데이터의 부족으로 인해 대규모 언어 모델(LLM)이 잘못되거나 허구의 결과물을 내놓는 현상을 설명하는 용어입니다.
"이 참고 문헌들은 본문에 인용되지 않은 것으로 보아, 사후에 생성되어 문서에 첨부된 것으로 보입니다."
내무부는 "예방적 직위해제 조치를 시행하는 것 외에도, 두 개의 독립적인 로펌을 선임하여 각각 징계 절차를 관리하고 2022년 11월 30일 이전에 작성된 당 부처의 모든 정책 문서를 검토할 것"이라고 밝혔습니다. 검토 기준일이 이렇게 정해진 이유는 첫 번째 대규모 언어 모델인 챗GPT(ChatGPT)가 대중의 사용을 위해 공개된 시기이기 때문입니다.
관련 기사: 인지적 오프로딩: 당신의 자녀가 AI에게 사고를 외주하고 있습니까? 대처 방법은 다음과 같습니다. 가짜 메타 갈라 룩이 매년 당신의 타임라인을 범람하고 있으며, AI 발전이 그 원인입니다.
'발전에 발맞춰 적응해야'
이번 직위해제는 통신 및 디지털 기술부(DCDT)가 자체적인 AI 정책 문서를 철회할 수밖에 없었던 지 일주일 만에 나왔습니다. 내무부의 경우와 마찬가지로 국가 AI 정책 초안에서 허위 출처와 인용구가 발견된 것입니다.
솔리 말라치(Solly Malatsi) 장관은 "가장 그럴듯한 설명은 적절한 검증 없이 AI가 생성한 인용문이 포함되었다는 것입니다. 이런 일은 발생했어서는 안 됩니다"라고 밝혔습니다.
AI 정책 초안은 재작성될 예정이며, 내무부 역시 문서에 첨부된 참고 문헌 목록을 철회했습니다. 그러나 내무부는 개정된 시민권, 이민 및 난민에 관한 정책이 "정부의 입장을 계속해서 정확하게 반영하고 있다"고 주장하며 그 내용의 타당성은 유지했습니다.
관련 기사 더 보기: 우리의 주의력은 이제 약에 취한 다람쥐보다 짧습니다.
내무부는 "이러한 조치들은 광범위한 부처 간 협력과 공개적인 의견 수렴을 거친 과정을 통해 마련되었으며, 독립된 참고 문헌 목록에 포함된 명백한 AI 환각으로 인해 본질적인 영향을 받지 않는다"고 확인했습니다.
해당 부처는 사회에서 AI 사용이 점증하는 현실을 수용하며, 기관들은 그 이점을 제대로 활용하기 위해 더 많은 노력을 기울여야 한다고 밝혔습니다.
내무부는 "이는 변혁적이지만 파괴적인 기술로, 민간 및 공공 부문 전반에 걸쳐 조직의 운영 방식을 변화시키고 있습니다. 우리는 이제 보조를 맞추기 위해 적응해야 합니다"라고 결론지었습니다.