미국 위스콘신주 베로나 시는 AI 감시업체 Flock과의 계약 만료를 결정했음에도 불구하고, 업체가 장비를 철거하지 않자 카메라를 쓰레기봉투로 덮는 돌발 행동을采取了. 이는 계약 종료 후에도 카메라가 원격으로 작동하여 개인정보를 무단 수집하는 것을 막기 위한 시민과 시의 방어 조치입니다. 이 사건은 공공기관이 도입한 AI 감시 시스템을 중단 및 철거하는 과정에서 겪을 수 있는 통제권과 데이터 주권 문제를 핵심적으로 보여줍니다.
이번 주 팟캐스트에서는 미국 경찰이 차량뿐만 아니라 '문신 남성'과 같은 신원 정보를 활용해 실제 사람을 추적하는 '플록(Flock)' 감시 시스템의 실태를 다룹니다. 또한, AI 슬롭(노이즈)이 없는 학습 데이터를 얻기 위해 출판사들이 AI 기업에 책을 은밀히 대량 매각하는 실태와 수노(Suno) AI의 불법 데이터 수집 해킹 사건을 조명합니다.
미국 최대 민간 의료 기관 중 하나인 카이저 퍼머넌트의 간호사들이 인공지능(AI) 기반의 근무 감시 시스템이 환자 치료를 방해하고 있다고 비판하고 있습니다. 통화 시간을 단축하도록 압박하는 시스템과 AI의 감정 평가로 인해 간호사들은 환자와 충분히 공감하고 소통하지 못하는 상황에 직면했습니다. 이 문제는 캘리포니아주 노조의 단체 교섭과 AI 규제 법안 통과 여부와 맞물려 향후 의료계의 AI 도입 방향을 가늠할 중요한 선례가 될 전망입니다.
미국 플로리다의 한 경찰관이 드라마 촬영장에서 만난 여성을 스토킹하기 위해 AI 번호판 추적 시스템과 경찰 데이터베이스를 불법으로 사용한 사건이 발생했습니다. 이 사건은 사생활 침해 우려가 커지고 있는 AI 감시 시스템이 개인의 사적인 목적으로 쉽게 악용될 수 있다는 치명적인 맹점을 보여줍니다.
미국 전역에서 경찰관들이 자동차 번호판 인식 시스템인 flock을 사적으로 악용하여 전 연인이나 배우자를 불법 추적하는 사례가 속출하고 있습니다. 영장 없이도 차량 이동 경로를 조회할 수 있는 시스템의 구조적 맹점과 내부 통제 부재가 심각한 사생활 침해 문제로 대두되고 있어, AI 및 감시 기술 도입 시 강력한 견제 장치 마련이 시급합니다.
미국 샌디에이고 주립대학교(SDSU)가 학생들에게 사전 고지 없이 기숙사에 1,300대의 AI 기반 CCTV를 설치하여 큰 논란이 되고 있습니다. 이는 개인정보 침해 우려를 낳고 있으며, 캠퍼스 내 감시 기술 도입이 갖는 윤리적 문제를 제기하고 있습니다.
한국 독자를 위해 요약한 이번 주 AI·기술 뉴스입니다. 고등학교를 휩쓴 딥페이크 사태와 미흡한 대응, 스쿨버스에 AI 감시 카메라를 설치하고 경찰 접근 권한을 제공하려는 'BusPatrol'의 계획, 그리고 감시 기업 'Flock' 퇴출 결정에 반발한 지역 의회의원의 논란을 다룹니다. 윤리적 논란과 감시 기술의 확장이라는 중요한 주제를 다루고 있어 주목할 필요가 있습니다.
중국이 수백만 대의 노후된 전국 CCTV 네트워크에 하이크비전과 화웨이의 AI 비전 및 언어 모델을 탑재하여 대규모 행동 분석 및 텍스트 기반 영상 검색이 가능한 자동화된 감시 시스템으로 전환하고 있습니다. 이는 기존의 반응적 개인 식별 수준을 넘어, 대규모 행동 예측과 선제적 통제가 가능한 차원이 다른 감시 체제로의 전환을 의미합니다. 인권 전문가들은 물론, 앤스로픽(Anthropic) 역시 2028년까지 중국의 AI 기반 감시 및 탄압이 기술적 한계를 극복하고 전례 없는 수준으로 확장될 것이라고 경고하고 있습니다.
이번 주 블로그 비하인드 스토리에서는 개발자들이 겪고 있는 AI 관련 문제들과 그 이면을 다룹니다. 특히 팔란티어(Palantir)의 기술을 이용해 이민세관단속국(ICE)이 2천만 명의 데이터를 보유하게 된 과정과 현장 취재진의 고민을 공유합니다. 이는 최첨단 기술이 어떻게 정부의 감시 및 단속 도구로 활용되고 있는지 보여주는 중요한 사례입니다.
메타가 AI 모델 학습을 위해 미국 직원들의 키 입력과 마우스 움직임, 화면 등을 강제 추적하면서 내부에서 사생활 침해와 데이터 착취에 대한 강한 반발이 일고 있습니다. 이에 따라 영국 법인을 중심으로 노동조합 결성 움직임이 가속화되고, 전반적인 사기가 최저치로 떨어지는 등 회사 내부에 심각한 갈등이 발생했습니다.
메타가 역대 최대 실적을 기록하고 있음에도 불구하고, 대규모 해고와 AI 감시 소프트웨어 도입 등으로 인해 직원들의 사기가 최악의 수준으로 떨어졌습니다. 핵심 AI 개발자를 제외한 대다수의 직원들이 연봉 인상 축소와 자리 잡기를 희망하는 등 내부 불만이 극에 달했으며, 영국 법인에서는 노조 결성 움직임까지 일고 있습니다.
미국 애틀랜타 교외 던우디시에서 감시 기업 플록(Flock) 직원들이 아동 체육실, 유대인 커뮤니티 센터 등 민감한 장소의 카메라에 접근해 전국 경찰을 대상으로 제품 영업 데모를 진행한 사실이 뒤늦게 밝혀졌습니다. 주민들의 거센 반발과 프라이버시 침해 논란에도 불구하고, 플록 측은 사과와 함께 재발 방지를 약속했고 해당 시는 결국 플록과의 감시 시스템 계약을 그대로 갱신했습니다. 이 사건은 공공 및 민간 영역을 포괄하는 감시 카메라 기업의 데이터 접근 권한과 프라이버시 보장 문제가 얼마나 취약한지를 보여주는 중요한 사례입니다.
미국 플로리다주 야생동물 보호 위원회(FWC) 경찰이 자체 계약이 없는 이민세관단속국(ICE)을 위해 수천 개의 AI 차량 번호판 인식 카메라(Flock) 데이터를 검색하고 있는 사실이 공개 기록을 통해 확인되었습니다. Flock 측이 연방 기관과의 데이터 공유를 금지하는 안전장치를 도입했음에도 불구하고, 지역 경찰을 통한 '뒷문' 접근을 통해 대규모 감시가 이루어지고 있어 개인정보 침해와 감시 통제의 한계가 심각한 논란이 되고 있습니다.