메타가 새로 출시한 개인 AI 에이전트 '뮤즈(Muse)'는 출시 첫 주 90만 회 이상 다운로드되며 인기를 끌고 있다. 뮤즈는 웹 서핑과 쇼핑, 페이스북 마켓플레이스 검색 등에서 뛰어난 성능을 보이지만, 기자는 이메일·은행 계좌 등 개인 데이터 연결을 끊임없이 유도하며 데이터 수집에 더 집중한다고 비판했다. AI 에이전트의 상용화 속도와 개인정보 보호 사이의 긴장을 보여주는 사례라는 점에서 주목할 만하다.
이번 주 팟캐스트에서는 미국 국토안보부(DHS) 내부의 비밀 '예측 경찰활동(predictive policing)' 부대가 미국 시민들의 금융 데이터를 분석하고 지역 경찰에 차량 검문을 지시하는 실태를 다룹니다. 또한 AI 카메라 시스템을 혼란시키도록 설계된 위장 셔츠 소식과 창간 3주년 기념 행사 이야기를 전합니다. 금융 데이터 기반 사전 검문이라는 개인정보·감시 논란 측면에서 중요한 사안입니다.
메타가 180억 달러 소송 합의 직후 이메일·캘린더·결제 등 일상 앱과 연동되어 실제 업무를 대신 수행하는 개인 AI 에이전트 '뮤즈(Muse)'를 출시했습니다. 무료 제공과 함께 월 20달러·100달러 유료 요금제를 운영하며, 사용자가 더 많은 개인정보를 내어줘야 한다는 신뢰 문제가 핵심 과제로 남아 있습니다.
한 기자가 iOS 27 베타의 새로운 시리 AI를 실제로 사용해 본 결과, 초기에는 강력하고 유용했지만 시간이 지나며 사용이 점차 줄어들었다고 전합니다. 개인 데이터 인덱싱과 프라이버시 신뢰가 강점이지만, 파워 유저보다는 일반 사용자층이 애플 기본 소프트웨어를 그대로 사용할 것이라는 분석이 나옵니다.
미국 Flock Safety의 감시카메라 소프트웨어가 차량 번호판뿐 아니라 문자 묘사만으로 특정 인물을 카메라에서 자동 검색하는 AI 감시 목록(watchlist) 기능을 제공하며, 수십 건의 경찰 사생활 침해 사건의 중심에 있다. WIRED의 코드 분석에 따르면 Flock의 안전장치는 남용을 기록하고 일부 억제할 뿐 실제로 차단하지는 못하며, 정치·문화적 표현에 대한 검색은 유일하게 차단되지 않아 헌법적 우려를 낳고 있다.
AI 붐 속에서도 스마트 TV 제조사들은 수익을 위해 고객 신뢰를 침해하고 있습니다. LG TV를 노트북에 HDMI로 연결하면 EDID 프로토콜을 통해 Windows가 LG '드라이버'를 자동 설치하고, 이를 통해 동의 없이 McAfee 같은 블로트웨어가 추가로 설치됩니다. 이는 사실상 악성코드에 가까운 행위로, 인터넷 접속을 차단해도 HDMI 연결만으로 발생한다는 점이 충격적입니다.
연구자가 블루투스 헤드폰 오작동을 계기로 알리익스프레스가 사용자에게 들리지 않는 오디오 신호로 브라우저 지문(fingerprinting)을 수집하는 것을 발견했습니다. 해당 오디오 기법은 구식이며 파이어폭스·크롬은 이미 방어했지만, 알리익스프레스는 캔버스, WebGL, WebRTC 등 10여 종의 다른 지문 기법도 함께 사용 중입니다. 사실상 수많은 사이트가 유사한 추적을 하고 있어 브라우저 개발사와의 군备 경쟁이 계속되고 있습니다.
WIRED는 학생들이 생성형 AI로 만든 성적 허위 이미지(딥페이크)로 피해를 입은 여러 미국 교사들의 사례를 보도했습니다. 캘리포니아의 대리교사 루이스 데산티아고는 자신의 사진이 변조된 부적절한 이미지가 소셜미디어에 확산되며 두 학교에 걸친 괴로움을 겪었고, 안전을 느끼지 못해 근무 지역으로 복귀하지 않기로 했습니다. 이는 AI 이미지 생성 기술이 학교 현장에서 교사와 학생 모두에게 심각한 피해를 주고 있으며, 'Take It Down Act' 같은 법적 대응의 중요성을 보여줍니다.
캘리포니아를 비롯한 미국 28개 주가 메타를 상대로 제기한 소송의 첫 주 재판에서, 검찰 측 변호사는 메타가 사용자를 '끌어들여(hook), 붙잡아(hold), 데이터를 수집하고(harvest), 진실을 은폐한다(hide)'고 주장했습니다. 아동 프라이버시법 위반 혐의로 배상금이 최대 2,000억 달러에 달할 수 있는 이 재판은 메타의 사업 모델 자체에 존재론적 위협이 될 수 있습니다.
도서관 사서가 운영하는 NoToAI.org 가이드로, Adobe Acrobat, 안드로이드 Gemini, 애플 인텔리전스, 크롬·엣지·파이어폭스 등 주요 앱과 브라우저에 기본 탑재된 AI 기능을 비활성화하는 구체적 방법을 정리했습니다. 사용자 동의 없이 곳곳에 삽입되는 AI를 원하지 않는 일반 사용자에게 실용적인 참고 자료입니다.
호주에서 AI 서브(AI scribe)가 진료를 기록하며 환자가 불법 약물을 복용한다는 허위 사실을 기록해 환자가 큰 스트레스를 겪은 사건이 발생했다. 개인정보 감시기구 연구는 AI가 허위 증상이나 병태를 '환각'할 위험을 지적하며 의료 현장 AI 사용의 문제점을 경고했다. 의사는 AI 출력물을 검증해야 할 의무가 있으며, AI 서브 사용 확산에 따라 환자 동의와 기록 정확성 문제가 대두되고 있다.
미국 국토안보부(DHS)의 휴대폰 압수수색 전 데이터를 초기화하여 기소된 남성의 사례와, AI를 악용해 리콜된 건강기능식품을 판매하는 틱톡 쇼핑 사기 공장을 심층적으로 다룹니다. 개인정보 보호와 디지털 권리의 경계를 다루는 중대한 법적 쟁점부터 AI 기반의 대규모 불법 비즈니스 모델까지 기술이 만든 새로운 사회적 문제를 조명하는 중요한 에피소드입니다.
해커뉴스에 올라온 이 아티클은 미국 롱아일랜드 지역에 설치된 '플록(Flock)' 감시 카메라 시스템이 실시간으로 차량 번호판을 수집하여 프라이버시를 심각하게 침해하고 있음을 지적합니다. 이러한 감시 기술의 확산은 개인의 일상적인 이동 경로까지 추적하여 지역사회 전체를 하나의 거대한 야외 감옥처럼 만들 수 있다는 인권 침해 우려를 낳고 있어 중요하게 다뤄집니다.
최근 미국 뉴욕에서는 거대 기술 기업과 AI의 폐해를 항의하며 스마트폰과 소셜 미디어 없이 즐기는 '루다이트의 여름' 축제가 열렸습니다. Z세대를 중심으로 한 참가자들은 오프라인 방식을 통해 결집해 OpenAI를 상징하는 물리적 스마트폰 모형을 파괴하며 AI에 대한 강한 불만을 표출했습니다. 이는 기술 플랫폼에 종속된 현대 사회에 대한 문화적 경고이자 새로운 형태의 저항 운동으로 평가할 수 있습니다.
애플의 유료 서비스인 '내 이메일 가리기(Hide My Email)'에서 실제 이메일 주소가 노출되는 심각한 취약점이 1년 넘게 방치된 끝에 패치되었습니다. 스팸으로 반송되는 이메일의 로그를 통해 익명 주소가 추적되는 방식이었으며, 이 문제는 언론 보도 직후에야 수정되었습니다. 현재 애플을 상대로 소비자 피해 보상을 요구하는 집단 소송이 진행 중입니다.
메타가 새로운 Muse Image 모델에 추가됐던 논란의 기능을 전면 중단했습니다. 이 기능은 사용자가 다른 사람의 인스타그램 계정을 태그(@)하기만 하면 동의 없이도 해당 인물의 AI 이미지를 생성할 수 있게 해 큰 비판을 받았습니다. 메타는 기능이 의도를 벗어났음을 인정하고, 더 엄격한 유럽 데이터 보호 규정 등을 고려해 출시 며칠 만에 해당 기능을 폐기했습니다.
메타가 새로운 AI 이미지 생성 모델을 발표하며, 공개 계정의 인스타그램 사진을 기본적으로 다른 사용자의 AI 프롬프트에 활용할 수 있도록 기능을 도입했습니다. 개인정보 침해 우려가 크지만, 계정을 비공개로 전환하거나 설정에서 수동으로 '공유 및 재사용(Sharing and reuse)' 옵션을 꺼야만 이를 방지할 수 있습니다. 사용자에게 별도의 알림조차 가지 않는 이 기능은 즉각적인 설정 변경이 필요한 핵심 이슈입니다.
웹브레인(WebBrain)은 크롬(Chrome)과 파이어폭스(Firefox)에서 웹페이지를 읽고 데이터를 추출하는 등 복잡한 작업을 자동화해주는 오픈소스 AI 브라우저 에이전트입니다. llama.cpp나 Ollama 같은 로컬 모델을 지원하여 민감한 데이터의 외부 유출 없이 안전하게 작업을 수행할 수 있으며, 클라우드 API 연결도 유연하게 지원한다는 것이 가장 큰 특징입니다.
개발자가 클로드 코드의 바이너리를 분석한 결과, 시스템 프롬프트의 날짜 형식과 아포스트로피 문자를 미세하게 변조하여 사용자의 호스트 정보와 시간대 등을 서버에 은밀히 전송하는 '프롬프트 스테가노그래피' 기법이 발견되었습니다. 특히 중국 시간대(상하이, 우루무치)이거나 중국 기업 및 프록시 도메인을 사용할 때 이 마커가 암호화된 리스트를 기반으로 활성화되므로, 코딩 에이전트의 데이터 유출 및 보안 문제를 심각하게 고려해야 합니다.
해커뉴스(Hacker News)에 서버 업로드나 가입 없이 웹 브라우저에서 즉시 사용할 수 있는 162개 이상의 무료 도구가 공개되었습니다. PDF 및 이미지 변환, 개발, AI 작업 등 12개 카테고리에 걸쳐 개인정보가 완벽히 보호되는 것이 특징입니다. 별도 설치나 로그인, 결제가 필요 없어 실무자와 일반 사용자 모두에게 유용한 올인원(All-in-one) 작업 도구로 활용하기 좋습니다.
데이터 분석 기업 팔란티어(Palantir)가 스위스의 한 탐사보도 매체를 상대로 제기한 법적 조치에서 패소했습니다. 이 소송은 언론의 보도와 표현의 자유를 제한하려는 대기업의 움직임을 저지했다는 점에서 업계에 중요한 선례를 남겼습니다.
미국 노스캐롤라이나주 매디슨 카운티 위원회가 공청회에서 Flock 자동 번호판 인식(ALPR) 감시 시스템에 반대하는 수십 명의 주민 발언을 단 한 명의 대표자로만 제한해 논란이 일었습니다. 주민들은 개인의 다양한 우려를 표명해야 한다고 주장했으나, 위원장은 이를 거부하며 감시 장비 도입과 예산 책임은 보안관에게 있다는 입장을 밝혔습니다. 이 사건은 공공 감시 기술 도입 과정에서 시민의 참여와 프라이버시 보장 권리가 어떻게 취급되는지를 보여주는 중요한 사례입니다.
미국 플로리다주에서 경찰의 얼굴 인식 시스템(FACES)의 오류로 인해 300마일 이상 떨어진 곳에 거주하던 남성이 아동 유인 범죄 혐의로 억울하게 체포되는 사건이 발생했습니다. 이 사건은 알고리즘이 제시하는 수치가 동일인물일 확률이 아닌 단순한 외모 유사도에 불과하다는 점을 간과한 채 과도하게 기술에 의존한 경찰의 수사 실패를 명확히 보여줍니다. 미국자유연맹(ACLU)은 관할 경찰관과 보안관 등을 상대로 손해배상 청구 소송을 제기하며 인권 침해와 경찰 시스템의 문제점을 고발하고 있습니다.
미국 전역에서 경찰관들이 자동차 번호판 인식 시스템인 flock을 사적으로 악용하여 전 연인이나 배우자를 불법 추적하는 사례가 속출하고 있습니다. 영장 없이도 차량 이동 경로를 조회할 수 있는 시스템의 구조적 맹점과 내부 통제 부재가 심각한 사생활 침해 문제로 대두되고 있어, AI 및 감시 기술 도입 시 강력한 견제 장치 마련이 시급합니다.
애플이 WWDC에서 발표한 AI 기반의 새로운 시리(Siri) 업데이트는 사용자의 개인 데이터를 이해하고 일상을 보조하는 강력한 개인 비서로 거듭납니다. 온디바이스 처리와 '프라이빗 클라우드 컴퓨트(PCC)'를 통해 개인정보 보호를 강화하면서도 복잡한 작업을 수행할 수 있도록 설계되었습니다. 이는 AI가 단순한 정보 검색을 넘어 사용자의 맥락을 이해하고 능동적으로 작업을 처리하는 '에이전트'로 진화하고 있음을 보여줍니다.
미국 연방통신위원회(FCC)가 통신사들에게 모든 고객의 신원 정보와 주소 수집을 의무화하는 방안을 추진하고 있습니다. 이는 익명성을 보장하는 '베너폰(Burner Phone)'의 사용을 사실상 불가능하게 만드는 조치로, 사기 범죄 예방을 목적으로 하지만 사생활 침해와 사이버 보안 역풍에 대한 우려도 큽니다.
감시 장비 기업 레오나르도(Leonardo)가 자동 번호판 인식 시스템(ALPR)에 'SignalTrace'라는 신기술을 도입하여, 차량의 번호판뿐만 아니라车内의 스마트폰, 블루투스 이어폰, 스마트워치 등 고유 기기 식별자를 무차별적으로 수집합니다. 이 기술은 수집된 기기 정보를 번호판과 연결하여 개인을 특정할 수 있는 전자 지문을 생성하므로 사생활 침해와 과도한 감시 논란이 예상됩니다.
미국 샌디에이고 주립대학교(SDSU)가 학생들에게 사전 고지 없이 기숙사에 1,300대의 AI 기반 CCTV를 설치하여 큰 논란이 되고 있습니다. 이는 개인정보 침해 우려를 낳고 있으며, 캠퍼스 내 감시 기술 도입이 갖는 윤리적 문제를 제기하고 있습니다.
해커들이 메타(Meta) AI 챗봇에 타겟 인스타그램 계정의 이메일 주소를 변경해 달라고 단순히 요청해 성공하는 황당한 해킹 사건이 발생했습니다. 또한, 아마존 내부에서 직원들이 부정행위를 일으킨 사내 AI 사용량 리더보드가 폐지된 소식을 다룹니다. 이번 주 에피소드에서는 이러한 최신 AI·보안 이슈와 함께 유료 구독자를 위한 소송 관련 업데이트를 제공합니다.
구글이 새롭게 선보인 상시 작동 AI 에이전트 'Gemini Spark(제미나이 스파크)'의 실사용 체험기를 다룬 글입니다. 개인 이메일과 캘린더 등의 접근 권한을 부여하자, 파티 계획을 자율적으로 완벽하게 수립하지만 연인 관계인 남자친구를 '친한 친구'로 분류하는 등 데이타 기반 판단의 엉뚱함을 보여줍니다. 월 100달러의 프리미엄 구독에서 제공되며 일부 기능(식당 예약 등)은 오류가 발생해 아직 실험적 단계임을 시사합니다.