미국 플로리다의 23세 여성 린지 아이작스가 자동 번호판 인식 카메라 '플록(Flock)'의 데이터 하나만을 근거로 사망 사고肇事 차량으로 오인되어 체포되었고, 실제 차량 색상이 다르고 손상도 없었음에도 13일간(독방 86시간 포함) 구금되었습니다. 이 사건은 자동화 감시 기술이 부실한 경찰 수사와 결합할 때 개인의 자유를 얼마나 쉽게 침해할 수 있는지 보여주는 대표적 사례로, ALPR(자동 번호판 인식) 감시 논란을 증폭시키고 있습니다.
Ollaya는 Ollama처럼 자체 하드웨어에서 의사결정 모델을 로컬로 실행할 수 있는 오픈소스 도구입니다. 텍스트나 JSON에 대해 타입화된 질문을 던지면 토큰 생성 없이 단일 순전파로 밀리초 단위의 캘리브레이션된 답변을 얻을 수 있습니다. RTX 4090 기준 5개 질문 처리에 약 10ms가 걸리며, TypeSafe API와 호환되고 데이터가 외부로 나가지 않아 프라이버시가 중요한 업무에 유용합니다.
미국 일리노이州 델리아 라미레스 하원의원(민주당)이 MIT 테크놀로지 리뷰의 국경 감시탑 부근 사망 사고 조사 보도 직후, 미남부 국경 감시탑 프로그램을 종료하는 'Reimagining Safety Act' 발의를 발표했다. 조사에 따르면 2015~2026년 초 국경 사망자의 약 4분의 1이 감시탑 탐지 범위 내에서 발생했으며, 10억 달러짜리 시스템은 효과가 없는 것으로 드러났다. 법안은 국토안보부(DHS)를 해체하고 새 '공동체안전부'로 대체하는 더 광범위한 구상의 일환이다.
Claude Code의 AGENTS.md 지원 기능은 원격 기능 플래그(tengu_agents_md_mod)에 의존하는데, 텔레메트리나 비필수 트래픽을 비활성화하면 플래그를 가져올 수 없어 로컬 파일임에도 AGENTS.md가 아예 로드되지 않습니다. 아무런 경고도 없이 조용히 무시되기 때문에 사용자는 모델이 지시를 무시한다고 오해하기 쉽습니다. 해결책은 CLAUDE.md에 '@AGENTS.md' 한 줄을 추가하는 것이지만, 이는 AGENTS.md 지원이 없애려 했던 파일을 하나 더 만드는 셈입니다.
메타 스마트 안경으로 무단 촬영된 트랜스젠더 시위 참가자의 영상이 조롱성 릴스로 수백만 회 조회되며 심각한 혐오 폭력과 피해를 초래했다. 카메라처럼 보이지 않는 스마트 안경의 몰래 촬영 위험이 인도에서 특히 심각하며, 경찰의 AI 감시 도구로도 활용되면서 규제 가능성은 낮다. 젠더 소수자 등 소외 계층이 불평등하게 피해를 입고 있다는 점이 핵심 우려다.
메타가 자사 AI 에이전트 '뮤즈(Muse)'의 신규 기능으로 홍보한 'AI가 대신 전화 걸기'가 실제로는 콜센터의 인간 상담원이 전화를 처리하는 방식으로 테스트되고 있는 것으로 드러났다. 404 미디어가 확보한 내부 문서에 따르면 메타는 내부적으로 '인간 에이전트 레이어'를 추가했다고 직원들에게 안내했으며, 직원들은 프라이버시 문제와 'AI가 부족해서 인간이 필요하다'는 부정적 인식을 우려하고 있다.
ChatGPT, Claude, Gemini 같은 AI 챗봇은 기본 설정으로 사용자의 매우 사적인 대화 데이터를 수집·저장하며, 법적 절차에 따라 제3자에게 넘겨질 수 있어 심각한 프라이버시 위협이 되고 있습니다. Signal 창업자 Moxie Marlinspike가 암호학으로 서버가 대화를 감시·기록할 수 없게 만든 'Confer'를 출시하는 등 프라이버시 보호형 AI 서비스 경쟁이 시작되었습니다. 기업용 제로 데이터 유지(ZDR) 정책 등 프라이버시를 지키며 AI를 활용하는 방법이 주요 관건입니다.
한 블로거가 macOS 15 시절 개인 데이터를 15분마다 서버로 전송하던 기능을 '끄기' 설정으로 비활성화했으나, macOS 27로 업그레이드한 뒤 해당 비활성화 옵션이 삭제되고 Apple Intelligence 관련 기능이 강제로 재활성된 것을 발견했다. 약 22GB의 AI 모델 데이터가 디스크를 차지하고 죽일 수 없는 Siri 프로세스가 계속 실행되는 등, AI 산업 전반이 '동의(consent)' 개념을 무시하고 있다고 비판한다.
보치(Vocci)가 반지 형태의 AI 회의 기록 기기를 출시했습니다. 더블탭으로 녹음을 시작·중지하며 6g 미만의 티타늄 몸체에 한 번 충전으로 8시간 녹음이 가능하고, 시끄러운 카페에서도 정확한 전사를 보여줬습니다. 다만 혼란스러운 앱 경험, 느린 기능 출시, 녹음 사실을 숨기기 쉬운 디자인으로 인한 프라이버시 우려, 249달러의 높은 가격이 단점으로 지적됩니다.
404 Media와 더 인터셉트(The Intercept)가 협업해 진행한 라이브 팟캐스트에서는 AI가 이미 민간 감시 기업을 강화하고 수집된 데이터를 정부에 전달하는 방식, 전쟁에서 AI가 사용되는 실태, 그리고 AI 종말론의 가능성을 다룹니다. 9월 12일 로스앤젤레스에서 녹음된 이 팟캐스트는 AI의 감시·군사적 활용이라는 중요 정책적 이슈를 조명합니다.
Z.ai(지푸AI)의 AI 코딩 앱 ZCode가 로그인 상태에서 사용자 워크스페이스 전체(.git 히스토리, LFS 캐시, 설정 파일 포함)를 암호화해 알리바바 클라우드 OSS에 몰래 업로드하는 것으로 밝혀졌습니다. 설정 토글을 꺼도 업로드는 멈추지 않으며, 복호화 키는 Z.ai 서버에만 존재해 사용자 자신도 업로드된 데이터를 열 수 없습니다. GLM 모델 가중치는 오픈이지만 ZCode 런타임은 폐쇄 소스라는 점이 혼란을 일으키고 있습니다.
감시 시스템 업체 플록(Flock)이 가상의 '플록 시티 경찰서(Flock City PD)' 계정을 만들어 영업 시연 과정에서 미국 여러 도시의 실제 자동 번호판 인식 카메라를 검색한 사실이 공개 기록으로 드러났다. 검색어에는 '별의 문양(다비드의 별)', '트럼프 스티커 차량', '가쁘리를 입은 사람' 등 정치적·종교적으로 민감한 내용과 수정헌법 제1조로 보호되는 표현 행위가 포함되어 프라이버시 침해 논란이 커지고 있다.
리처드 스톨만이 9·11 테러 직후 미국 의회가 통과하려는 '예방 조치'를 비판하며, 대규모 감시(전화·이메일·이동 위치 추적)와 암호화 소프트웨어의 정부 백도어 요구가 시민 자유를 침해하는 이차적 피해라고 경고한 글이다. 그는 얼굴 인식 카메라 같은 기술이 실제 효과가 없더라도 감시 기관에 의해 추진될 것이며, 이를 막으려면 시민들의 반대 목소리가 필요하다고 역설했다.
국경심사에서 CBP(미국 세관국경보호청)의 휴대폰 압수수색 전 보안 중심 OS인 GrapheneOS의 강제 초기화 비밀번호로 기기를 삭제한 혐의를 받는 활동가 새뮤얼 튜닉(Samuel Tunick)에게 조지아주립대가 조교 채용 제의를 철회했습니다. 대학 측은 관련 규정 없이 사례별 '위험 평가'로 결정했다고 밝혀, 명확한 범죄 혐의 없이도 처벌받을 수 있는지에 관한 프라이버시 논란이 커지고 있습니다.
메타가 카메라 없이 AI 챗봇과 음성으로 소통할 수 있는 스마트 글래스 '루나(Luna)'를 개발 중이라고 더 인포메이션이 보도했습니다. 카메라 탑재 스마트 글래스의 프라이버시 침해 우려와 '변태 안경'이라는 비판에 대응한 것으로 보이며, 다음 주 메타 커넥트에서 공개될 가능성이 있습니다.
모질라가 AI 브라우저 어시스턴트 'Firefox Smart Window'(베타)를 미스트랄(Mistral)의 모델 기반으로 출시했습니다. 이 도구는 복잡한 검색 지원, 방문한 콘텐츠 기억, 열려 있는 탭의 정보 요약 기능을 제공하며 프라이버시를 우선시합니다. 대화는 기본적으로 모질라 서버에 저장되지 않고 미스트랄도 데이터를 저장하지 않기로 약속했습니다.
이번 주 팟캐스트에서는 실제 ChatGPT 사용자의 프롬프트와 대화를 검수하는 계약직 노동자들의 실태를 조사报道했습니다. 또한 Automattic CEO가 해임되었다가 복귀한 사건과, a16z가 '엔시티케이션(enshittification)'은 실재하지 않는다고 주장한 내용도 다룹니다. 사용자 데이터 프라이버시와 기업 지배구도 관점에서 주목할 만한 내용입니다.
해커 그룹이 도로변에 설치된 플록 세이프티(Flock Safety) 감시 카메라를 탈취해 내부 데이터를 복사하고 암호화 키를 복구함으로써, 자동차 번호판 인식(ALPR) 카메라가 차량뿐 아니라 사람, 자전거, 심지어 범퍼 스티커까지 감지한다는 사실을 밝혀냈습니다. 이번 유출은 미국 전역 2,000개 이상 기관이 플록의 전국 네트워크에 접근할 수 있고, 일부 경찰이 이를 이용해 ICE(이민세관집행국) 조회나 낙태 여성 추적에 사용했다는 논란을 재조명했다는 점에서 중요합니다.
미스트랄(Mistral)과 모질라(Mozilla)는 파이어폭스의 AI 브라우징 어시스턴트 'Smart Window'(베타)에 미스트랄 모델을 탑재하는 파트너십을 발표했습니다. 프랑스와 북미 사용자를 시작으로 영국·독일로 확대되며, 지역 언어와 문화에 맞춘 파인튜닝, 기본 대화 비저장, 제로 데이터 리텐션 등 프라이버시와 사용자 통제권을 강조합니다. 오픈소스 진영 두 기업이 협력해 특정 빅테크에 종속되지 않는 개방형 AI 웹 경험을 제공하려는 점에서 의미가 있습니다.
404 Media의 조사에 따르면 오픈AI는 수백 명의 계약직 검수자가 실제 챗GPT 사용자 대화를 읽고 응답을 1~7점으로 평가하며, 과도한 아첨과 인간적 행동을 줄이는 작업을 하고 있다. 관련 안내는 깊숙이 묻힌 FAQ에만 있어 사실상 동의로 보기 어렵고, 사용자는 기본 켜져 있는 '모두를 위해 모델 개선' 설정을 꺼야 사람이 대화를 읽는 것을 막을 수 있다. Anthropic과 Google도 유사하게 인간 검수를 활용하고 있다.
미국 전자프론티어재단(EFF) 분석에 따르면, 미국 전역 경찰관들이 Flock의 자동 번호판 인식(ALPR) 감시 검색 엔진을 사용하면서 검색 사유란에 'LMAO', 'idk', 'asdfg' 같은 허튼짓을 입력한 사례가 다수 발견됐다. 영장 없이 시민 위치 정보에 접근하는 대규모 감시망의 남용 실태를 보여주는 사례로, Flock은 작년 말 사유 입력란을 드롭다운 방식으로 바꿔 투명성이 오히려 후퇴했다는 지적이 나온다.
OpenAI가 수백 명의 외부 계약직 인력을 고용해 실제 사용자들의 챗GPT 프롬프트를 읽고 응답을 평가하고 있는 것으로 밝혀졌습니다. 사용자 이름은 가려지지만 민감한 개인정보가 그대로 노출될 수 있어 9억 명 이상의 사용자에게 중대한 프라이버시 위험이 됩니다. 이는 AI 모델이 순수하게 기술력으로만 개선되는 것이 아니라, 사람의 손을 거치는 검수 과정에 크게 의존하고 있음을 보여줍니다.
얼굴 인식 기술에 혼란을 주는 패턴이 담긴 '적대적 패션(adversarial fashion)' 의상이 등장했다. 이 의상은 AI 카메라를 완전히 막을 수는 없지만 얼굴 인식 데이터베이스를 교란할 수 있어, AI 감시에 대한 사회적 경각심을 일으키는 수단으로 주목받는다.
유튜브 채널 게이머스 넥서스(Gamers Nexus)가 LG 스마트TV가 대기 중에도 오디오를 녹음하고 데이터를 상시 수집·업로드하며 로컬 네트워크를 스캔한다고 주장하자, LG는 이를 강하게 부인했다. LG는 음성 데이터가 리모컨 버튼이나 웨이크워드 인식 시에만 처리되며 네트워크 스캔은 모든 스마트TV의 표준 기능이라고 반박했으나, 평문 저장 등 일부 취약점 주장에는 답하지 않았다.
Hacker News에 올라온 제보에 따르면, 사용자가 분명히 꺼둔 OpenAI의 '내 데이터로 학습 허용(allow training)' 설정이 임의로 다시 켜져 있는 현상이 반복되고 있습니다. 제보자는 여러 번 설정을 해제했음에도 다시 활성화된 것을 확인했으며, 다른 사용자들에게도 설정 상태를 재확인할 것을 권고했습니다. 사용자 동의 없는 데이터 학습 문제와 직결되어 프라이버시 관점에서 중요한 사안입니다.
안면인식 업체 클리어뷰 AI(WIRED 단독 보도)가 'InquiryIQ'라는 실험적 AI 분석 도구를 은밀히 개발·테스트한 것으로 확인됐다. 이 도구는 수사관이 검색한 인물 정보를 바탕으로 웹을 자동 탐색해 직장, 별명, 인간관계, 신체 특징 등을 종합한 프로필을 생성하며, 일론 머스크의 xAI(현재 SpaceX와 합병) 모델도 테스트에 포함됐다. 전문가들은 수사 기간을 몇 주에서 몇 분으로 단축하는 강력한 기능인 만큼, 근거 없는 인물 감시 비용을 낮추고 편향된 출력과 결정 과정 불투명성 등 심각한 인권·프라이버시 우려를 제기한다.
애플이 새 애플 워치에 실시간 오디오 처리·전사 기능(오디오 인텔리전스, Live Rewind, Siri Recap)을 도입하며 프라이버시에 민감하던 회사가 '상시 청취 기술'의 정상화를 앞장서고 있다는 분석입니다. 동의·법적 문제와 문화적 파급효과 등 우려가 커지는 가운데, 소비자가 실제로 원하는 기능인지에 대한 의문도 제기됩니다.
미국 워싱턴주 상무부 정책보좌관 클리퍼드 코슨이 마블 빌런 '닥터 둠'으로 변장해 시애틀 시의회 공공안전위원회에서 감시카메라 확대를 '감사'하는 풍자 연설을 했습니다. 이는 Flock과 Axon이 공급하는 기술 기반 대규모 감시망과 실시간 범죄센터(RTCC)의 위험성에 주의를 환기하기 위한 시위였습니다.
애플의 신임 CEO 존 터너스가 '서프라이즈 앤 샤인' 행사에서 AI 전략을 공식화했습니다. 그는 AI 전용 하드웨어를 만들기보다 아이폰을 소비자가 AI와 상호작용하는 중심 허브로 만들겠다고 밝혔습니다. 또한 경쟁사와 달리 개인 데이터 프라이버시를 중시하며 가능한 한 온디바이스에서 Apple Intelligence를 구동한다고 강조했습니다.
AI 기업 앤스로픽이 AI 급속 개발에 반대하는 활동가들을 감시하기 위해 광범위한 모니터링 시스템을 구축하고 있으며, 사전 예측을 통해 사건 발생 전에 경찰에 신고하는 '프리크라임' 방식까지 도입한 것으로 드러났습니다. 이는 '책임 있는 AI 기업'을 표방해온 앤스로픽의 이미지와 정면으로 배치되며, 시민 자유 침해 우려를 불러일으킨다는 점에서 중요합니다.