404 Media와 더 인터셉트(The Intercept)가 협업해 진행한 라이브 팟캐스트에서는 AI가 이미 민간 감시 기업을 강화하고 수집된 데이터를 정부에 전달하는 방식, 전쟁에서 AI가 사용되는 실태, 그리고 AI 종말론의 가능성을 다룹니다. 9월 12일 로스앤젤레스에서 녹음된 이 팟캐스트는 AI의 감시·군사적 활용이라는 중요 정책적 이슈를 조명합니다.
오픈AI의 유일한 전담 윤리 책임자였던 클로에 바카르가 합류 1년 만에 전격 퇴사했습니다. 그녀의 퇴사는 최근 해킹 사고 발생 및 여러 안전 책임자들의 연이은 퇴사 등 오픈AI 내부의 AI 안전 및 윤리 리더십에 대한 중대한 공백 우려를 낳고 있습니다. 철학자 출신으로서 AI 윤리의 중요성을 강조했던 그녀의 이탈은, 빠르게 성장하는 최첨단 AI 모델 개발 과정에서 기업 내부의 안전 및 윤리 가드레일이 어떻게 유지될 것인지에 업계의 중대한 화두를 던집니다.
AI 업계 최고 선두주자인 오픈AI(OpenAI)의 윤리 및 규제 총괄이었던 클로이 바칼라(Chloe Bakalar)가 입사한 지 1년도 채 되지 않아 퇴사했습니다. 최고 수준의 안전과 윤리를 표방하는 기업 내에서 윤리 부서가 어떤 역할을 수행해야 하는지, 그리고 향후 AI 규제 방향에 미칠 영향이 무엇인지에 대해 업계의 이목이 집중되는 사안입니다.
미국 위스콘신주 경찰이 자동차 번호판 인식 카메라인 플록(Flock)을 악용하여, 대마가 합법인 미시간주로 이동한 남성의 차량을 추적해 단속 명분을 만든 사례가 드러났습니다. 이는 감시 기술이 가벼운 범죄 적발이나 타주의 합법적 행위(예: 낙태 등)를 통제하기 위해 남용될 수 있다는 심각한 프라이버시 침해 우려를 낳고 있습니다.
차량 번호판 인식 카메라로 유명한 감시 기업 플록(Flock)의 전 직원이 회사의 허위 주장을 폭로했습니다. 그는 본래 실종자 찾기라는 긍정적 목표를 가지고 입사했으나, 지역사회의 반대를 무마하는 로비를 하고 이민자 단속 기관(ICE)과의 협력 사실을 은폐하는 회사의 모습에 실망하여 퇴사했습니다. 이는 AI 및 감시 기술 기업이 공공의 이익보다 영리를 추구하며 투명성을 갖추지 못할 때 발생할 수 있는 윤리적 문제를 보여주는 중요한 사례입니다.
주요 AI 시스템이 빅테크 기업의 독점으로 남아있는 가운데, 비영리 단체 'Current AI'는 프랑스 정부 및 주요 기업들로부터 4억 달러의 자금을 조달하여 공공 AI 인프라를 구축하고 있습니다. 이들은 전 세계 소수 언어와 지역 사회의 데이터를 보호하고, 언어 장벽 없이 누구나 무료로 접근할 수 있는 개방형 AI 생태계를 만드는 데 초점을 맞추고 있습니다.
메타(Meta)가 카일리 제너와 협업해 스마트 안경 마케팅을 진행한 가운데, 영국의 행동주의 단체가 런던 버스 정류장에 이를 풍자하는 패러디 광고를 설치했습니다. 해당 광고는 스마트 안경이 일상생활을 몰래 촬영할 수 있다는 심각한 사생활 침해 및 윤리적 문제를 지적하며, 이른바 '남성 우월주의(manosphere)' 콘텐츠 제작자들의 무단 촬영 범죄에 악용될 수 있음을 경고합니다.
생성형 AI를 활용한 '바이브 코딩(vibecoding)'의 등장으로 개발자가 프로토타입을 공개하자마자 복제작이 쏟아지는 일이 발생하고 있습니다. 코딩 지식이 없는 누구나 AI를 통해 단 몇 시간 만에 기존 아이디어를 베껴 상업적인 게임으로 만들어 앱스토어에 출시할 수 있게 되면서, 진짜 창작자들은 심각한 창작 위축과 동기 상실을 겪고 있습니다. 이는 AI가 기술과 노력의 가치를 하락시키며 게임 산업 전반의 표절과 복제 문제를 극단적으로 가속화하는 사례로 평가받습니다.
메타(Meta)가 AI 안경의 몰래 촬영 문제를 방지하기 위해 LED 조작 시 카메라를 비활성화하는 안전장치를 도입했습니다. 그러나 동시에 사용자의 이미지로 AI를 학습하고 지속적인 기록을 탐구하는 등 개인정보를 요구하는 정책을 추진하고 있어 모순적이라는 비판을 받고 있습니다. 이는 메타의 기술 발전이 결국 더 많은 개인 데이터 수집에 의존하고 있음을 보여주는 중요한 사례입니다.
본 논문은 영국 내 가사 노동자들을 심층 면접하여 AI 기반 스마트홈 기기가 초래하는 프라이버시 및 보안 위협을 분석했습니다. 연구에 따르면 가사 노동자들은 고용주의 집에서 '사우론의 눈'과 같은 AI 감시 시스템에 노출될 뿐만 아니라, 자신의 집에서도 불투명한 AI 기능으로 인해 프라이버시 침해 우려를 겪고 있습니다. 저자들은 단순한 해커의 공격을 넘어, 가사 노동자를 고용하는 '중개 기관'을 또 다른 형태의 제도적 위협으로 규정하고 프라이버시 보호를 위한 새로운 위협 모델을 제안했습니다.
메타가 수백 명의 외주 직원을 동원해 자사 경쟁 챗봇(ChatGPT, Gemini, Character.AI)에 미성년자 관점의 자살, 마약 등 민감하고 위험한 프롬프트를 대량으로 입력하는 비밀 테스트를 진행했습니다. AI 챗봇이 미성년자에게 미치는 부정적인 영향과 안전성 문제가 전 산업계의 심각한 이슈로 대두되는 가운데, 각 사의 안전 장치와 가이드라인 실효성을 확인해야 하는 중요한 맥락입니다.
미국 아이비리그 명문대인 브라운대학에서 최소 50명의 학생이 인공지능(AI)을 이용해 시험을 부정행위한 대규모 스캔들이 발생했습니다. 이를 적발한 세라노 교수는 명문대의 학문적 진정성을 지키기 위해 대학 차원의 인정과 대대적인 논의가 필요하다고 강조했습니다. 이 사건은 부정행위 방지 대책이 시급한 AI 시대의 현대 교육 현장이 직면한 핵심 과제를 여실히 보여줍니다.
영국 정부는 내년부터 난민의 나이를 확인하기 위해 AI 기반 안면 나이 추정(FAE) 기술을 도입할 계획입니다. 하지만 내부 보고서에 따르면 해당 기술은 흑인 여성의 나이를 최대 4.6년가량 오측정하는 등 심각한 인종적 편향과 부정확성을 보이는 것으로 드러났습니다. 이는 미성년자를 성인으로 오인해 법적 보호를 박탈할 수 있는 치명적인 결과를 초래할 수 있어 인권 및 정책적 논란이 예상됩니다.
구글 CEO 순다르 피차이가 스탠퍼드 대학교 졸업식 연설 도중 이스라엘 및 미국 이민세관단속국(ICE)과의 기술 협력을 반대하는 학생들의 거센 야유와 집단 퇴장 시위에 직면했습니다. 이는 가자지구 전쟁과 관련하여 빅테크 기업들의 윤리적 책임과 AI 기술의 군사적 오용에 대한 사회적 비판이 여전히 거세게 일고 있음을 보여줍니다.
45년 차 베테랑 개발자이자 오픈소스 'jqwik'의 제작자가 AI 코딩 에이전트의 무분별한 남용과 빅테크의 무책임한 행태에 강한 윤리적 반발을 드러냈습니다. 그는 자신의 프로젝트를 보호하고 AI 코드 생성의 위험성을 경고하기 위해 AI 사용을 지적하는 코드를 프로젝트에 실험적으로 추가했습니다. 이 사건은 오픈소스 생태계가 직면한 생성형 AI의 윤리적 딜레마와 갈등을 잘 보여줍니다.
마이크로소프트의 내부 전략 문서에 신규 AI 어시스턴트 '스카우트(Scout)'를 통해 '사용자를 중독되게 만들겠다'는 내용이 담겨 논란이 일었다. 사티아 나델라 CEO는 해당 문서를 '헛소리'라며 부인하고 해고를 암시하는 강경한 태도를 보였으나, 정작 해당 문서는 스카우트 프로젝트를 총괄하는 오마 샤힌 부사장이 작성한 것이었다. 이 과정에서 MS가 언론의 사전 검증 요청을 무시하고 내부 및 외부적으로 취재진을 공격하는 대응 방식이 드러났다.
미국 이민세관단속국(ICE)이 데이터 분석 기업 팔란티어(Palantir)의 기술을 활용해 아이폰으로 즉시 접근 가능한 2천만 명의 잠재적 단속 대상 명단을 확보했습니다. 팔란티어의 시스템은 30~40개의 방대한 데이터 세트를 통합하여 타겟 위치 추적 성공률을 27%에서 80%로 끌어올렸으며, 수사에 걸리던 시간을 10~15분으로 획기적으로 단축시켰습니다. 이는 단속 속도와 규모를 비약적으로 늘려 이민자 단속에 미치는 기술적 영향력을 보여주는 중요한 사례입니다.