인터폴(Interpol)의 최신 보고서에 따르면, 아프리카에서 보고된 사이버 범죄의 55%가 AI와 관련이 있으며 AI는 사이버 범죄의 핵심 동력으로 자리 잡았습니다. 범죄자들은 피싱, 생체 인식 우회용 가짜 신분 생성, 딥페이크를 이용한 디지털 협박 등 사이버 공격의 모든 단계에 AI를 자동화 도구로 활용하고 있습니다. 이로 인해 지난 2024년 1억 9,200만 달러였던 재정적 피해 규모는 4억 8,400만 달러로 급증했으나, 인터폴의 강력한 단속으로 100명 이상이 체포되는 등 적극적인 대응에도 나섰습니다.
이메일 도메인 인증 표준인 DMARC가 2012년에 발표되었음에도, 조사 대상 도메인의 68.4%가 이를 제대로 적용하지 않고 있는 것으로 나타났습니다. 보안실무자들은 DMARC의 강력한 차단(p=reject) 또는 격리(p=quarantine) 정책 적용을 통해 기업 도메인을 악용한 피싱 및 이메일 스푸핑 공격을 사전에 방어해야 합니다.
미국 샌디에이고 주립대학교(SDSU)가 학생들에게 사전 고지 없이 기숙사에 1,300대의 AI 기반 CCTV를 설치하여 큰 논란이 되고 있습니다. 이는 개인정보 침해 우려를 낳고 있으며, 캠퍼스 내 감시 기술 도입이 갖는 윤리적 문제를 제기하고 있습니다.
중국이 수백만 대의 노후된 전국 CCTV 네트워크에 하이크비전과 화웨이의 AI 비전 및 언어 모델을 탑재하여 대규모 행동 분석 및 텍스트 기반 영상 검색이 가능한 자동화된 감시 시스템으로 전환하고 있습니다. 이는 기존의 반응적 개인 식별 수준을 넘어, 대규모 행동 예측과 선제적 통제가 가능한 차원이 다른 감시 체제로의 전환을 의미합니다. 인권 전문가들은 물론, 앤스로픽(Anthropic) 역시 2028년까지 중국의 AI 기반 감시 및 탄압이 기술적 한계를 극복하고 전례 없는 수준으로 확장될 것이라고 경고하고 있습니다.