텍사스 경찰, 낙태 여성 추적 후 AI로 보고서 작성
텍사스 존슨카운티 보안관 사무소가 자가 낙태 여성을 전국 8만 대 이상의 Flock 카메라망으로 추적한 사건의 경찰 보고서를 Axon의 AI 도구 'Draft One'으로 작성한 것으로 드러났습니다. 이는 AI 감시 도구가 재생산 건강권 관련 극도로 민감한 사건에도 신속하게 도입되고 있음을 보여주며, Flock CEO는 계속해서 사건을 왜곡해 논란이 되고 있습니다.
텍사스의 한 보안관 사무소가 자가 낙태를 한 여성의 소재를 찾기 위해 전국의 8만 대 이상의 Flock 카메라를 검색했으며, 이 사건에 관한 경찰 보고서 작성에 Axon의 AI 도구 'Draft One'을 사용한 것으로 404 Media가 입수한 문서를 통해 확인되었습니다. 이 도구는 "상황의 법적 함의"에 대한 논의를 요약하는 데에도 일부 사용되었습니다. 404 Media는 2025년 5월 텍사스 존슨카운티 보안관 사무소가 자가 낙태 여성의 행방를 찾기 위해 Flock의 전국 네트워크를 검색한 사건을 처음 보도했으며, 이는 AI 기반 감시 시스템이 재생산 의료를寻求하는 여성의 범죄화나 추적에 악용될 위협을 부각시켰습니다. 바디캠 영상의 오디오를 활용해 AI로 경찰 보고서를 자동 작성하는 Flock과 Axon의 Draft One을 모두 사용한 것은, 경찰서들이 극도로 민감한 사건에서조차 AI 감시 도구를 얼마나 빠르게 도입했는지를 보여줍니다. 보고서의 한 부분에는 "본 보고서가 Axon의 Draft One으로 작성되었음을 인정합니다"라고 적혀 있습니다.
이 낙태 사건은 이후 Flock 자동 번호판 인식(ALPR) 카메라 사용을 둘러싼 논쟁의 도화선이 되었습니다. Flock의 CEO 개럿 랭글리는 404 Media가 이 사건을 잘못 보도했으며, 검색이 가족이 걱정했기에 여성의 안전을 위해서만 이루어졌다고 반복적으로, 그리고 부정확하게 주장해왔습니다. 404 Media는 이전에 이 경찰 수사 전체가 해당 여성의 학대적인 파트너의 요청으로 이루어졌으며, 경찰이 그녀를 형사 기소할 수 있는지 논의했다고 보도했습니다. 전자프론티어재단(EFF)이 입수해 404 Media와 공유한 경찰 보고서에는 "당시 지방검사 사무소와 논의한 결과, 주는 그녀가 낙태 유발 약을 복용한 것에 대해 법적으로 형사 기소할 수 없다는 것을 알게 되었다"고 적혀 있습니다. 가족의 우려는 이전 경찰 보고서나 본 기사 작성에 사용된 AI 생성 보고서 어디에도 언급되지 않았습니다.
AI로 생성된 사건 보고서는 트라이시티 헤럴드의 기자 캐머런 프로버트가 입수해 404 Media와 공유한 것입니다. 이 보고서는 사건 경위를 명확히 할 수 있는 방대한 바디캠 및 오디오 증거가 존재하며, 최소한 한 명의 경찰관인 데이미언 베델 서장이 이 사건 보고서를 작성하는 데 Draft One을 사용했음을 보여줍니다. 경찰 사건 보고서 일부에는 Draft One이 "상황의 법적 함의"에 대한 경찰 간 논의와 사건의 다른 수사 측면을 요약하는 데 사용되었음을 보여줍니다.
존슨카운티 보안관 부서는 404 Media의 공공기록 정보공개 요청을 포함해 이 사건의 바디캠 영상 공개를 거듭 거부해왔습니다. 베델의 보고서에는 "부관들이 상황의 법적 함의를 논의했으며, 여자친구가 낙태 약을 자가 복용했지만 현행 텍사스법상 적용 가능한 형사 혐의는 없다고 명시했다"고 적혀 있으나 논의의 구체적 내용에 대한 세부사항은 제공하지 않습니다. 또한 "부관들은 약을 공급한 제약회사를 상대로 한 민사 소송 가능성도 고려했다"고 적혀 있습니다. 베델의 Draft One 보고서는 추가로 "이 출동 건에 관한 바디워런 카메라 영상의 디지털 멀티미디어 증거가 AXON 증거 라이브러리에 있다. 차량용 카메라 영상의 디지털 멀티미디어 증거가 AXON 증거 라이브러리 또는 WatchGuard 증거 라이브러리에 있다. 현장에서 촬영된 디지털 이미지가 있다"고 명시합니다. 존슨카운티 보안관 부서는 EFF와 404 Media가 각각 요청한 이 증거들의 편집 버전조차 공개를 거부하고 있습니다.
Signal Akron이 녹음하고 404 Media가 입수한 랭글리의 유출 오디오에 따르면, 이달 초에도 랭글리는 Flock의 법 집행 기관 고객들에게 이 사건의 구체적 사실에 대해 계속 거짓말을 하고 있었습니다. "그녀는 학대적인 관계에 있었고, 가족이 그녀가 위험에 처했다고 우려했다"고 그는 말했습니다.