미국 애리조나주의 한 시민이 지자체가 도입한 AI 번호판 인식 감시 시스템(Flock)의 심각한 사생활 침해를 항의하며, 지역 정치인들을 역으로 AI로 감시하겠다는 풍자성 발표를 해 화제를 모읍니다. 이는 공공 안전을 명분으로 한 과도한 데이터 수집과 사생활 침해 기술이 통제 없이 남용될 수 있다는 심각한 경고를 던지는 사례입니다.
번역된 본문
7월 20일, 제이콥 페트로스키(Jacob Petrosky)는 미국 애리조나주 카사 그란데(Casa Grande) 시의회 공청회에 참석해 발표를 시작했습니다. “지난 몇 달 동안 카사 그란데 곳곳의 사람들과 대화를 나눴는데, '안전'이라는 한 가지 주제가 계속해서 등장했습니다. 그래서 오늘 '쉐퍼드 세이프티(Shepherd Safety)'라는 새로운 회사를 설립하게 된 것을 기쁘게 생각합니다.”라고 그는 말했습니다. “우리의 사명은 간단합니다. 정부 관리들과 그 가족들의 안전을 지키는 것입니다.” 그는 이것이 도시가 플록(Flock) 카메라를 이용해 시민들을 감시하는 것과 다를 바 없다고 말했습니다. 그의 계획은 인공지능(AI)을 활용한 위성을 발사하여 “정부 관리들이 어디로 가는지, 어디에 멈추는지, 누구를 만나는지, 그리고 언제 집으로 돌아오는지”를 감시하는 것이었습니다. 그는 이미 관료들의 차량, 배우자 및 자녀의 차량에 대한 프로필을 작성하기 시작했으며, 이 데이터를 블루투스 신호, 광고 ID, 상업적 데이터 소스와 결합할 계획이라고 밝혔습니다. “이를 통해 권한을 부여받은 사용자는 모든 정부 관리와 직계 가족의 이동 경로를 재생할 수 있습니다.” 그는 지역 상인들을 이 네트워크에 초대하여 관료들이 쇼핑하고, 식당에서 식사하고, 도시를 돌아다닐 때 그들을 “보호”할 것이라고 덧붙였습니다.
자신의 계획과 그것이 정부 관리들에게 가져다줄 이점을 앞에 앉은 의원들에게 설명한 후, 페트로스키는 이 모든 것이 풍자(패러디)라고 밝혔다. 그는 의원들을 향해 “저는 당신들에게 이런 짓을 하지 않겠습니다.”라고 말했습니다. “할 수 있을까요? 아마도요. 하지만 그것이 잘못된 일이기 때문에 하지 않을 것입니다. 마치 당신들이 우리에게 하는 일이 잘못된 것과 같습니다.” 페트로스키는 자신이 작은 마을에서 플록 카메라에 반대하는 저항의 상징이 될 것이라고는 전혀 예상하지 못했다고 말했다. 그리고 소셜 미디어에서 화제가 된 해당 영상은 훨씬 더 긴 투쟁의 한순간을 보여주는 한 가지 측면일 뿐이다. 카사 그란데 시의회는 작년에 플록과 1,000만 달러 규모의 10년 계약을 만장일치로 승인했으며, 그 이후로 페트로스키는 시의회 회의에서 이 파트너십에 반대하는 발언을 여러 차례 해왔다. “솔직히 저는 그 영상 때문에 좀 민망하네요. 영상을 찍을 때 기분이 좋지는 않았어요.”라고 그는 내게 말했다. “의원들의 표정 말이에요... [시의회 의원들의] 표정은 영상에 나오지 않습니다. 그들은 끝까지 이것이 풍자인 줄 몰랐고, 그들의 표정은 마치 '우리는 네가 밉고 널 혼내줄 거야'라고 말하는 것 같았습니다. 그들은 결코 유쾌하지 않았고, 매우 화가 났죠.” 카사 그란데 시의회 의원들은 404 미디어(404 Media)의 코멘트 요청에 즉각적으로 응답하지 않았다. 페트로스키는 영웅심에 사로잡혀 인터넷 트롤이 되려는 것이 아니라고 말했다. 하지만 영장이 있어야만 플록 데이터에 접근할 수 있도록 고쳐달라며 시의회에 호소한 후, 그의 인내심은 바닥나고 있었다. “그래서 기분이 좋지는 않았지만, 그들이 이 사태의 심각성을 깨닫기를 바랐습니다.”라고 그는 말했다. “저는 인터넷에서 유명해지고 싶지 않습니다. 인플루언서가 되고 싶지도 않아요. 제가 진짜 원하는 건 그저 약간의 프라이버시일 뿐입니다.”
페트로스키는 작년에 카사 그란데에 플록 카메라가 설치되는 것을 처음으로 알아챘다고 한다. 그때까지 그는 시민 운동에 참여한 적이 없었다. “저는 올해 투표 등록을 했습니다. 그 부분에 대해서는 숨기지 않겠습니다. 저는 원래 시의회나 정치 같은 것에는 전혀 관심이 없는 완전한 엔지니어(nerd)였어요.”라고 그는 말했다. “시의회가 작년에 이 계약을 맺었고, 그러고는 마치 하룻밤 사이에 우리 도시에 카메라 200대가 나타났습니다. 정말 미친 노릇이었어요. 사실 그들이 카메라를 너무 빨리 배치하는 바람에 저는 소름이 끼쳤습니다.” 그는 자신이 아스팔트 도로를 통해 동네를 드나들 때 플록 카메라의 추적을 피할 수 없다는 것을 깨달았다. 페트로스키는 '디플록CG(DeFlockCG)'라는 웹사이트와 청원을 시작했는데, 이는 카사 그란데 주민들에게 카메라 데이터에 대한 제3자의 접근을 제한하고 시스템 남용에 대한 책임을 묻는 것부터 도시 내 플록 카메라를 완전히 제거하는 것까지 구체적인 요구사항을 목소리로 낼 것을 촉구한다. 지금까지 약 900명이 이 청원에 서명했다. 지역 언론인 파인센트럴(Pinal Central)은 이달 초 보도된 공공기록 요청 자료를 통해, 시가 계획한 200대의 카메라 중 약 140대가 6월 말 기준으로 설치되었으며, 절반은 번호판 인식 카메라(License plate reader)이고 나머지 절반은 팬틸트(Pan-tilt, 상하좌우 회전) 카메라라고 전했다.
On July 20, Jacob Petrosky stood in front of the Casa Grande, Arizona City Council during a public comment session and made an announcement. “I've spent the last several months talking to people all over Casa Grande, and one thing keeps coming up: Safety. So, today I'm excited to announce a new company called Shepherd Safety,” he said. “Our mission is simple. Keep government officials and their families safe.” It would be no different than how the city monitors its citizens using Flock cameras, he said; he planned to launch satellites that would use AI to monitor “where government officials go, where they stop, who they meet with, and when they return home.” He said he’d already started compiling profiles on their vehicles, spouses vehicles, children's vehicles, and planned to combine that data with Bluetooth signals, advertising IDs, and commercial data sources, “so our authorized users can replay the movements of every government official and their immediate family,” he said. Local businesses would be invited to join the network, to “protect” officials while they shop, eat at restaurants, and move around the city. After laying out his plan and its benefits for the government officials before him, Petrosky revealed that it was all satire. “I would never do this to you,” he said to the council members. “Could I? Probably. But I wouldn't because it's wrong. Just like what you guys are doing to us is wrong.” Petrosky told me he never expected or intended to be the face of opposition to Flock cameras in his small town. And the clip, which has since gone viral on social media, only shows one angle of one moment that’s part of a much longer fight. Casa Grande City Council unanimously approved a 10 year, $10 million contract with Flock last year, and since then, Petrosky has spoken against the partnership several times at city council meetings. “You know, I'm actually a little bit embarrassed by the video. I did not feel good about it,” he told me. “The looks... You don't get to see the looks on [council members’] faces. They didn't understand it was satire in the beginning until the end, and the looks on their faces were like, we hate you and we're gonna get you. They were not happy, they were very upset.” Casa Grande City Council members did not immediately respond to 404 Media’s request for comment. Petrosky said he’s not trying to be “a troll,” but after asking the council to consider the invasion of privacy they were inflicting on constituents, including asking them to consider putting Flock data behind a warrant, his patience was wearing thin. “So it didn't feel great, but I wanted it to sink in,” he said. “I'm not looking to go viral. I don't want to be an online personality, but what I really just want is maybe just a little bit of privacy.” Petrosky said he first noticed Flock cameras going up in Casa Grande last year. It wasn’t until then that he started getting civically involved. “I registered to vote this year. I'm very transparent about that. I could care less about city council or politics or any of that. I'm very much a nerd,” he said. “They did this deal last year, and then all of a sudden, like 200 cameras appeared in our city, pretty much almost overnight. It was really crazy. In fact, they deployed them so quickly that it freaked me out.” He realized that he couldn’t enter or leave his neighborhood on a paved road without being tracked on a Flock camera. Petrosky launched a website, DeFlockCG , along with a petition that asks Casa Grande residents to voice specific demands, from limited third-party access to camera data and repercussions for abuse of the system, to removal of Flock from the city altogether. Almost 900 people have signed the petition so far. Local news outlet Pinal Central reported earlier this month that a public records request revealed that the city has installed about 140 of the planned 200 cameras as of late June, with half being license plate reader cameras while the other half are pan-tilt-zoom cameras. The city’s website about its Safe Cities Initiative says that in addition to assisting in solving crimes and increasing transparency for the public, the initiative and cameras are intended to “prevent crime before it occurs.” The website only mentions Flock in reference to using the Flock OS system to connect cameras and technologies, but links to a “ transparency portal ” and how to register privately-owned cameras into the network go directly to Flock’s own web pages. On Flock’s website highlighting the Casa Grande partnership, the company quotes Casa Grande Police Chief Mark McCrory: "In the past, investigators relied on slow, manual efforts to gather video evidence. Now, with registered cameras securely integrated into our Real Time Information Center, we can access vital footage faster—turning information into actionable intelligence when it matters most." In May, Casa Grande City Council voted unanimously to give police access to elementary school cameras through the Flock partnership. Last week, a 404 Media investigation revealed that police departments around the country have used Flock cameras at least hundreds of times to search for specific people with specific characteristics, like “heavy-set male with a black and white hat” or “person on skateboard,” and these searches sometimes reference people’s race or signs of their political affiliation. Several cities and small communities around the country have canceled their contracts with Flock, citing privacy concerns and the potential for abuse. Petrosky said he primarily wants the city to require a warrant for accessing the data collected by cameras. Petrosky knows his “announcement” at the council meeting was absurd, but the absurdity was the point. “It's incredibly stupid, and then it's also just incredibly inappropriate. The thought of tracking and associating them with their children and their spouses and all of it,” he said. He would prefer to keep to himself, and doesn’t relish these moments in front of the council, the entire town, the police department, and now, the whole internet. “Never in my wildest imagination would I ever be in a position like this. I don't want to be famous. I just want this to go away. I want these things to at least just be put behind a warrant.” About the author Sam Cole is writing from the far reaches of the internet, about sexuality, the adult industry, online culture, and AI. She's the author of How Sex Changed the Internet and the Internet Changed Sex. More from Samantha Cole