최근 미국 뉴욕에서는 거대 기술 기업과 AI의 폐해를 항의하며 스마트폰과 소셜 미디어 없이 즐기는 '루다이트의 여름' 축제가 열렸습니다. Z세대를 중심으로 한 참가자들은 오프라인 방식을 통해 결집해 OpenAI를 상징하는 물리적 스마트폰 모형을 파괴하며 AI에 대한 강한 불만을 표출했습니다. 이는 기술 플랫폼에 종속된 현대 사회에 대한 문화적 경고이자 새로운 형태의 저항 운동으로 평가할 수 있습니다.
애플의 유료 서비스인 '내 이메일 가리기(Hide My Email)'에서 실제 이메일 주소가 노출되는 심각한 취약점이 1년 넘게 방치된 끝에 패치되었습니다. 스팸으로 반송되는 이메일의 로그를 통해 익명 주소가 추적되는 방식이었으며, 이 문제는 언론 보도 직후에야 수정되었습니다. 현재 애플을 상대로 소비자 피해 보상을 요구하는 집단 소송이 진행 중입니다.
메타가 새로운 Muse Image 모델에 추가됐던 논란의 기능을 전면 중단했습니다. 이 기능은 사용자가 다른 사람의 인스타그램 계정을 태그(@)하기만 하면 동의 없이도 해당 인물의 AI 이미지를 생성할 수 있게 해 큰 비판을 받았습니다. 메타는 기능이 의도를 벗어났음을 인정하고, 더 엄격한 유럽 데이터 보호 규정 등을 고려해 출시 며칠 만에 해당 기능을 폐기했습니다.
메타가 새로운 AI 이미지 생성 모델을 발표하며, 공개 계정의 인스타그램 사진을 기본적으로 다른 사용자의 AI 프롬프트에 활용할 수 있도록 기능을 도입했습니다. 개인정보 침해 우려가 크지만, 계정을 비공개로 전환하거나 설정에서 수동으로 '공유 및 재사용(Sharing and reuse)' 옵션을 꺼야만 이를 방지할 수 있습니다. 사용자에게 별도의 알림조차 가지 않는 이 기능은 즉각적인 설정 변경이 필요한 핵심 이슈입니다.
웹브레인(WebBrain)은 크롬(Chrome)과 파이어폭스(Firefox)에서 웹페이지를 읽고 데이터를 추출하는 등 복잡한 작업을 자동화해주는 오픈소스 AI 브라우저 에이전트입니다. llama.cpp나 Ollama 같은 로컬 모델을 지원하여 민감한 데이터의 외부 유출 없이 안전하게 작업을 수행할 수 있으며, 클라우드 API 연결도 유연하게 지원한다는 것이 가장 큰 특징입니다.
개발자가 클로드 코드의 바이너리를 분석한 결과, 시스템 프롬프트의 날짜 형식과 아포스트로피 문자를 미세하게 변조하여 사용자의 호스트 정보와 시간대 등을 서버에 은밀히 전송하는 '프롬프트 스테가노그래피' 기법이 발견되었습니다. 특히 중국 시간대(상하이, 우루무치)이거나 중국 기업 및 프록시 도메인을 사용할 때 이 마커가 암호화된 리스트를 기반으로 활성화되므로, 코딩 에이전트의 데이터 유출 및 보안 문제를 심각하게 고려해야 합니다.
해커뉴스(Hacker News)에 서버 업로드나 가입 없이 웹 브라우저에서 즉시 사용할 수 있는 162개 이상의 무료 도구가 공개되었습니다. PDF 및 이미지 변환, 개발, AI 작업 등 12개 카테고리에 걸쳐 개인정보가 완벽히 보호되는 것이 특징입니다. 별도 설치나 로그인, 결제가 필요 없어 실무자와 일반 사용자 모두에게 유용한 올인원(All-in-one) 작업 도구로 활용하기 좋습니다.
데이터 분석 기업 팔란티어(Palantir)가 스위스의 한 탐사보도 매체를 상대로 제기한 법적 조치에서 패소했습니다. 이 소송은 언론의 보도와 표현의 자유를 제한하려는 대기업의 움직임을 저지했다는 점에서 업계에 중요한 선례를 남겼습니다.
미국 노스캐롤라이나주 매디슨 카운티 위원회가 공청회에서 Flock 자동 번호판 인식(ALPR) 감시 시스템에 반대하는 수십 명의 주민 발언을 단 한 명의 대표자로만 제한해 논란이 일었습니다. 주민들은 개인의 다양한 우려를 표명해야 한다고 주장했으나, 위원장은 이를 거부하며 감시 장비 도입과 예산 책임은 보안관에게 있다는 입장을 밝혔습니다. 이 사건은 공공 감시 기술 도입 과정에서 시민의 참여와 프라이버시 보장 권리가 어떻게 취급되는지를 보여주는 중요한 사례입니다.
미국 플로리다주에서 경찰의 얼굴 인식 시스템(FACES)의 오류로 인해 300마일 이상 떨어진 곳에 거주하던 남성이 아동 유인 범죄 혐의로 억울하게 체포되는 사건이 발생했습니다. 이 사건은 알고리즘이 제시하는 수치가 동일인물일 확률이 아닌 단순한 외모 유사도에 불과하다는 점을 간과한 채 과도하게 기술에 의존한 경찰의 수사 실패를 명확히 보여줍니다. 미국자유연맹(ACLU)은 관할 경찰관과 보안관 등을 상대로 손해배상 청구 소송을 제기하며 인권 침해와 경찰 시스템의 문제점을 고발하고 있습니다.
미국 전역에서 경찰관들이 자동차 번호판 인식 시스템인 flock을 사적으로 악용하여 전 연인이나 배우자를 불법 추적하는 사례가 속출하고 있습니다. 영장 없이도 차량 이동 경로를 조회할 수 있는 시스템의 구조적 맹점과 내부 통제 부재가 심각한 사생활 침해 문제로 대두되고 있어, AI 및 감시 기술 도입 시 강력한 견제 장치 마련이 시급합니다.
애플이 WWDC에서 발표한 AI 기반의 새로운 시리(Siri) 업데이트는 사용자의 개인 데이터를 이해하고 일상을 보조하는 강력한 개인 비서로 거듭납니다. 온디바이스 처리와 '프라이빗 클라우드 컴퓨트(PCC)'를 통해 개인정보 보호를 강화하면서도 복잡한 작업을 수행할 수 있도록 설계되었습니다. 이는 AI가 단순한 정보 검색을 넘어 사용자의 맥락을 이해하고 능동적으로 작업을 처리하는 '에이전트'로 진화하고 있음을 보여줍니다.
미국 연방통신위원회(FCC)가 통신사들에게 모든 고객의 신원 정보와 주소 수집을 의무화하는 방안을 추진하고 있습니다. 이는 익명성을 보장하는 '베너폰(Burner Phone)'의 사용을 사실상 불가능하게 만드는 조치로, 사기 범죄 예방을 목적으로 하지만 사생활 침해와 사이버 보안 역풍에 대한 우려도 큽니다.
감시 장비 기업 레오나르도(Leonardo)가 자동 번호판 인식 시스템(ALPR)에 'SignalTrace'라는 신기술을 도입하여, 차량의 번호판뿐만 아니라车内의 스마트폰, 블루투스 이어폰, 스마트워치 등 고유 기기 식별자를 무차별적으로 수집합니다. 이 기술은 수집된 기기 정보를 번호판과 연결하여 개인을 특정할 수 있는 전자 지문을 생성하므로 사생활 침해와 과도한 감시 논란이 예상됩니다.
미국 샌디에이고 주립대학교(SDSU)가 학생들에게 사전 고지 없이 기숙사에 1,300대의 AI 기반 CCTV를 설치하여 큰 논란이 되고 있습니다. 이는 개인정보 침해 우려를 낳고 있으며, 캠퍼스 내 감시 기술 도입이 갖는 윤리적 문제를 제기하고 있습니다.
해커들이 메타(Meta) AI 챗봇에 타겟 인스타그램 계정의 이메일 주소를 변경해 달라고 단순히 요청해 성공하는 황당한 해킹 사건이 발생했습니다. 또한, 아마존 내부에서 직원들이 부정행위를 일으킨 사내 AI 사용량 리더보드가 폐지된 소식을 다룹니다. 이번 주 에피소드에서는 이러한 최신 AI·보안 이슈와 함께 유료 구독자를 위한 소송 관련 업데이트를 제공합니다.
구글이 새롭게 선보인 상시 작동 AI 에이전트 'Gemini Spark(제미나이 스파크)'의 실사용 체험기를 다룬 글입니다. 개인 이메일과 캘린더 등의 접근 권한을 부여하자, 파티 계획을 자율적으로 완벽하게 수립하지만 연인 관계인 남자친구를 '친한 친구'로 분류하는 등 데이타 기반 판단의 엉뚱함을 보여줍니다. 월 100달러의 프리미엄 구독에서 제공되며 일부 기능(식당 예약 등)은 오류가 발생해 아직 실험적 단계임을 시사합니다.
미국 오하이오주 데이턴 등 여러 도시들이 '플록(Flock)' 자동 차량 번호판 인식 카메라를 즉시 철거하지 못하는 계약적, 기술적 한계로 인해 검은색 쓰레기봉투로 덮는 임시 방편을 선택했습니다. 이는 해당 카메라의 데이터가 의도치 않게 이민세관단속국(ICE) 등 연방 당국에 공유되면서 시민들의 거센 반발과 감시 철폐 요구가 일어났기 때문입니다. 이 사태는 공공 부문이 민간 감시 인프라를 사용할 때 발생할 수 있는 데이터 통제권 및 계약 해지의 어려움을 여실히 보여줍니다.
미국의 인기 온라인 심리치료 플랫폼 '헤드웨이(Headway)'가 환자와 의료진을 대상으로 신원 확인용 안면 인식 스캔을 의무화하여 논란이 일고 있습니다. 생체 정보 제공을 거부할 경우 플랫폼 이용이 불가능해져 사실상 강제적인 선택이며, 이는 환자의 치료 연속성을 위협하는 심각한 개인정보 침해 우려를 낳고 있습니다.
한국 독자를 위해 요약한 이번 주 AI·기술 뉴스입니다. 고등학교를 휩쓴 딥페이크 사태와 미흡한 대응, 스쿨버스에 AI 감시 카메라를 설치하고 경찰 접근 권한을 제공하려는 'BusPatrol'의 계획, 그리고 감시 기업 'Flock' 퇴출 결정에 반발한 지역 의회의원의 논란을 다룹니다. 윤리적 논란과 감시 기술의 확장이라는 중요한 주제를 다루고 있어 주목할 필요가 있습니다.
미국 전역의 수만 대 스쿨버스에 AI 카메라를 설치한 기업 BusPatrol이 버스를 이동형 감시 차량으로 바꾸어 모든 차량의 번호판과 위치를 스캔하고 이를 경찰에 제공하려는 계획이 확인되었습니다. 원래 불법 추월 차량 단속 목적이었으나 영장 없이 광범위한 일반 수사 및 이민단속(ICE) 등에 악용될 수 있어 시민사회의 강력한 우려와 함께 대규모 감시 사회로의 전환을 우려하는 목소리가 나오고 있습니다.
텍사스주 소도시 반데라가 시민들의 거센 반대로 AI 번호판 인식 감시카메라 계약을 전면 해지했습니다. 이에 반대표를 던진 제프 플라워스 의원은 주민들을 향해 위선자라고 비판하며, 사생활 보호를 명분으로 스마트폰, 인터넷, 카메라 등 기술 사용을 전면 금지하는 소위 '1880년대로 회귀'하는 법안을 발의하겠다고 선언했습니다. 이 사건은 치안보다 감시를 우려하는 시민들과 안보를 강조하는 정치권 간의 갈등, 그리고 AI 감시 기술의 확산에 따른 사회적 파장을 보여줍니다.
스위스 클라우드 기업 Infomaniak이 사용자 데이터를 영구적으로 보호하기 위해 과반수 의결권을 스위스 공익 재단으로 이전했습니다. 이를 통해 외부 인수합병(M&A)이나 투자자의 개입을 원천 차단하고, 사명과 독립성을 법적으로 영구 보장하는 독특한 지배구조를 확립했습니다.
워싱턴 대학교 연구진이 교사의 1인칭 시점 영상을 AI 훈련 데이터로 활용하려다 논란이 발생했습니다. 명시적 동의를 구하는 옵트인 방식이 아닌, 거부해야 수집이 중단되는 옵트아웃(Opt-out) 방식을 채택하여 개인정보 침해 우려를 낳았습니다. 결국 학부모들의 강한 반발에 부딪혀 해당 연구는 전면 보류되었습니다.
OpenAI가 금융 플랫폼 Plaid와 연동하여 ChatGPT 사용자의 은행 계좌를 연결할 수 있는 새로운 기능을 발표했습니다. 이를 통해 사용자는 맞춤형 재무 조언을 받을 수 있지만, OpenAI가 수집하는 상세한 재무 데이터의 상업적 활용 및 보안 문제에 대한 명확한 보호 장치가 부족하다는 우려가 제기되고 있습니다.
미국의 대형 병원 네트워크인 메이요 클리닉이 응급실 등에서 환자와 간호사의 대화를 AI 기반 '주변 소리 수집(Ambient Listening)' 기술로 녹음해 전자 건강 기록을 작성하고 있습니다. 이 과정이 환자의 사전 동의(opt-in)가 아닌 사후 거부(opt-out) 방식으로 이루어져 심각한 동의권 및 프라이버시 침해 논란이 제기되었습니다. 특히 응급실이라는 특수성과 최근 AI가 배경 소음이나 마스크 착용 시 인간보다 훨씬 부정확한 기록을 남긴다는 연구 결과가 더해져 윤리적 우려가 커지고 있습니다.
구글 제미나이(Gemini) 등 생성형 AI 챗봇이 학습 데이터에 포함된 개인정보(PII)를 바탕으로 일반인의 실제 전화번호와 연락처를 무단으로 노출하는 사례가 잇따르고 있습니다. 개인정보 삭제 서비스 기업에 따르면 AI 관련 개인정보 침해 문의가 지난 7개월간 400% 급증했으며, 명확한 해결책이 부재해 피해자들의 불안감이 커지고 있습니다.
메타가 자사 AI 어시스턴트에 대화 기록이 서버에 저장되지 않는 '시크릿 채팅(Incognito Chat)' 모드를 도입했습니다. 신뢰 실행 환경(TEE)을 활용해 메타조차 사용자 데이터에 접근할 수 없도록 설계되어, 구글이나 오픈AI 등 타 경쟁사가 안고 있는 데이터 유출 및 수사 기관 제출 논란에서 한발 앞서나가는 기술적·정책적 차별화를 시도한 것이 핵심입니다.
구글이 새로운 계정 생성 시 기존 SMS 인증을 QR 코드 스캔으로 대체했습니다. 공식적인 이유는 보안 강화지만, 사실상 사용자의 익명성을 완전히 박탈하는 결과를 초래했습니다. 이제 개인 정보를 철저히 숨기고 구글 계정을 만드는 것은 불가능해졌습니다.
최근 소프트웨어 개발에서 단순히 클라우드 기반 AI API를 호출하는 방식은 앱의 안정성을 떨어뜨리고 개인정보 침해 우려를 키웁니다. 이에 개발자는 성능이 충분한 로컬 기기의 내장 AI 모델을 활용해 온디바이스에서 직접 기능을 수행해야 한다고 강조합니다. Apple 생태계를 예시로 든 이 글은, 구현 가능한 경우 로컬 AI를 우선 채택하는 것이 개발자와 사용자 모두에게 현명한 접근임을 시사합니다.