한국 독자를 위해 요약한 이번 주 AI·기술 뉴스입니다. 고등학교를 휩쓴 딥페이크 사태와 미흡한 대응, 스쿨버스에 AI 감시 카메라를 설치하고 경찰 접근 권한을 제공하려는 'BusPatrol'의 계획, 그리고 감시 기업 'Flock' 퇴출 결정에 반발한 지역 의회의원의 논란을 다룹니다. 윤리적 논란과 감시 기술의 확장이라는 중요한 주제를 다루고 있어 주목할 필요가 있습니다.
중국이 수백만 대의 노후된 전국 CCTV 네트워크에 하이크비전과 화웨이의 AI 비전 및 언어 모델을 탑재하여 대규모 행동 분석 및 텍스트 기반 영상 검색이 가능한 자동화된 감시 시스템으로 전환하고 있습니다. 이는 기존의 반응적 개인 식별 수준을 넘어, 대규모 행동 예측과 선제적 통제가 가능한 차원이 다른 감시 체제로의 전환을 의미합니다. 인권 전문가들은 물론, 앤스로픽(Anthropic) 역시 2028년까지 중국의 AI 기반 감시 및 탄압이 기술적 한계를 극복하고 전례 없는 수준으로 확장될 것이라고 경고하고 있습니다.
이번 주 블로그 비하인드 스토리에서는 개발자들이 겪고 있는 AI 관련 문제들과 그 이면을 다룹니다. 특히 팔란티어(Palantir)의 기술을 이용해 이민세관단속국(ICE)이 2천만 명의 데이터를 보유하게 된 과정과 현장 취재진의 고민을 공유합니다. 이는 최첨단 기술이 어떻게 정부의 감시 및 단속 도구로 활용되고 있는지 보여주는 중요한 사례입니다.
메타가 AI 모델 학습을 위해 미국 직원들의 키 입력과 마우스 움직임, 화면 등을 강제 추적하면서 내부에서 사생활 침해와 데이터 착취에 대한 강한 반발이 일고 있습니다. 이에 따라 영국 법인을 중심으로 노동조합 결성 움직임이 가속화되고, 전반적인 사기가 최저치로 떨어지는 등 회사 내부에 심각한 갈등이 발생했습니다.
메타가 역대 최대 실적을 기록하고 있음에도 불구하고, 대규모 해고와 AI 감시 소프트웨어 도입 등으로 인해 직원들의 사기가 최악의 수준으로 떨어졌습니다. 핵심 AI 개발자를 제외한 대다수의 직원들이 연봉 인상 축소와 자리 잡기를 희망하는 등 내부 불만이 극에 달했으며, 영국 법인에서는 노조 결성 움직임까지 일고 있습니다.
미국 애틀랜타 교외 던우디시에서 감시 기업 플록(Flock) 직원들이 아동 체육실, 유대인 커뮤니티 센터 등 민감한 장소의 카메라에 접근해 전국 경찰을 대상으로 제품 영업 데모를 진행한 사실이 뒤늦게 밝혀졌습니다. 주민들의 거센 반발과 프라이버시 침해 논란에도 불구하고, 플록 측은 사과와 함께 재발 방지를 약속했고 해당 시는 결국 플록과의 감시 시스템 계약을 그대로 갱신했습니다. 이 사건은 공공 및 민간 영역을 포괄하는 감시 카메라 기업의 데이터 접근 권한과 프라이버시 보장 문제가 얼마나 취약한지를 보여주는 중요한 사례입니다.
미국 플로리다주 야생동물 보호 위원회(FWC) 경찰이 자체 계약이 없는 이민세관단속국(ICE)을 위해 수천 개의 AI 차량 번호판 인식 카메라(Flock) 데이터를 검색하고 있는 사실이 공개 기록을 통해 확인되었습니다. Flock 측이 연방 기관과의 데이터 공유를 금지하는 안전장치를 도입했음에도 불구하고, 지역 경찰을 통한 '뒷문' 접근을 통해 대규모 감시가 이루어지고 있어 개인정보 침해와 감시 통제의 한계가 심각한 논란이 되고 있습니다.