AI 관련 정책 및 규제
OpenAI의 CEO 샘 알트만은 최근 발생한 자사 모델의 보안 사고 등을 계기로 사회적 대비를 위해 AI 개발 속도 조절(pacing)이 필요하다고 밝혔습니다. 그러나 이것이 소수 선도 기업들의 규제 사냥이나 권력 독점으로 변질되어서는 안 되며, 업계 주도의 안전한 협력 모델이 필요함을 강조했습니다.
미국 애리조나주의 한 시민이 지자체가 도입한 AI 번호판 인식 감시 시스템(Flock)의 심각한 사생활 침해를 항의하며, 지역 정치인들을 역으로 AI로 감시하겠다는 풍자성 발표를 해 화제를 모읍니다. 이는 공공 안전을 명분으로 한 과도한 데이터 수집과 사생활 침해 기술이 통제 없이 남용될 수 있다는 심각한 경고를 던지는 사례입니다.
미국의 최대 전력망 운영사인 PJM이 폭증하는 데이터센터 전력 수요를 감당하지 못하고 대규모 정전을 방지하기 위한 조치로 전력 부족 시 대형 데이터센터들의 전력 공급을 중단하는 정책을 도입했습니다. 이는 전력망의 한계를 드러내는 동시에, 데이터센터 업계가 자체 전력 인프라 구축이나 백업 발전기 운영에 더욱 의존하게 만드는 중요한 변화입니다.
뉴스레터 플랫폼 서브스택(Substack)이 AI가 작성한 글을 판별하는 새로운 탐지 도구를 도입하자, 작가들은 부정확한 탐지 결과로 인해 명예가 훼손될 수 있다며 강하게 반발하고 있습니다. 서브스택은 AI 사용 자체를 금지하는 것은 아니며 작가가 자체적으로 제작 과정을 밝힐 수 있는 기능을 지원하지만, 탐지 도구의 낮은 정확도와 오남용에 대한 우려는 여전히 남아있는 상황입니다.
안스로픽의 다리오 아모데이 CEO는 고성능 오픈웨이트(Open-weight) AI 모델이 생물·사이버 테러 및 중국의 군사적 우위로 악용될 수 있다며 강력한 규제를 촉구했습니다. 그는 오픈소스 자체를 반대하며 전면 금지를 주장한 적은 없다고 선을 그었지만, 평론가들은 이것이 저렴한 경쟁 모델로부터 자사를 보호하기 위한 독점적 움직임이라고 비판하고 있습니다.
뉴욕타임스(NYT)의 A.G. 설츠버거 발행인은 OpenAI와 마이크로소프트(MS)의 무단 데이터 사용에 맞서 2천만 달러가 넘는 소송을 진행하며 언론 보호의 중요성을 강조했습니다. 트럼프 행정부의 언론 탄압과 AI 기업들이 유발하는 정보 유통 구조의 변화 속에서, 언론계가 생존을 위해 AI 모델 학습 데이터 무단 사용 문제에 공동 대응해야 한다고 역설합니다.
이메일 도메인 인증 표준인 DMARC가 2012년에 발표되었음에도, 조사 대상 도메인의 68.4%가 이를 제대로 적용하지 않고 있는 것으로 나타났습니다. 보안실무자들은 DMARC의 강력한 차단(p=reject) 또는 격리(p=quarantine) 정책 적용을 통해 기업 도메인을 악용한 피싱 및 이메일 스푸핑 공격을 사전에 방어해야 합니다.
수십억 달러 규모의 글로벌 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)가 동의 없는 성적 딥페이크 이미지 생성에 무방비 상태로 노출되어 있다는 연구 결과가 나왔습니다. 일반적인 이미지 편집 모델로 위장한 수많은 모델들이 기본적인 안전장치(Guardrails) 없이 여성의 누드 이미지를 쉽게 생성하고 있어, 플랫폼 차원의 강력한 규제와 필터링이 시급한 상황입니다.
미국 캔자스주 엠포리아 시의회에서 대규모 데이터센터 건립을 반대하던 고등학교 교사가 발언자에게 박수를 친 것을 이유로 경찰에 체포되었습니다. 시의원이 경찰에게 강제 퇴장을 지시하면서 물리력이 행사진 이 사건은 데이터센터 유치 과정에서 지역 사회의 갈등이 얼마나 심각한지 보여줍니다. 이는 AI 및 클라우드 인프라 확장에 따른 주민 불만과 정부의 대응 방식을 엿볼 수 있는 중요한 정책적 사례입니다.
AI 모델 클로드(Claude)의 '채팅 공유' 기능으로 생성된 대화 내용과 결과물이 구글 검색에 노출되어 개인정보 유출 논란이 일었습니다. 의료 기록부터 회사 기밀문서, 아동 정보, 심지어 AI가 생성한 성인물까지 검색 결과에 공개된 사실이 속속 확인되었습니다. 개발사인 Anthropic은 사용자가 링크를 외부에 공유할 때 검색엔진에 노출되는 것일 뿐이라고 해명했으나, 링크 공유 시 보안 경고 및 권한 설정의 중요성이 다시금 부각되는 사건입니다.
최근 앤스로픽의 AI 봇인 '클로드'에서 사용자들이 공유한 대화 내역이 구글과 빙 같은 주요 검색 엔진에 색인되어 누구나 쉽게 볼 수 있는 사고가 발생했습니다. 앤스로픽은 robots.txt 파일을 통해 검색 엔진 크롤러의 접근을 막았지만, 개별 웹페이지에 'noindex' 태그를 추가하지 않아 결국 검색 결과에 노출되는 치명적인 기술적 허점을 보인 것입니다. 이 사건은 생성형 AI 도구에서 사용자가 공유하는 데이터가 검색 엔진 등 외부 경로를 통해 어떻게 의도치 않게 대규모 유출될 수 있는지 보여주는 중요한 보안 사례입니다.
인도 델리 고등법원이 대형 통신사 ANI가 OpenAI를 상대로 제기한 저작권 침해 가처분 신청을 기각했습니다. 법원은 챗GPT가 기사를 그대로 복제했다는 ANI의 주장에 증거가 부족하며, AI 모델 학습 과정이 인도 저작권법상 '연구'를 포함한 사적 이용 예외에 해당될 수 있다고 판단했습니다. 이는 전 세계 법원이 AI 학습 데이터 활용의 적법성을 공정 이용으로 인정한 첫 사례로, 향후 AI 저작권 소송에 큰 선례를 남길 중요한 판결입니다.
이번 에피소드에서는 마이크 예글리(Mike Yeagley)를 초대해 상업적으로 유통되는 위치 데이터의 실태와 활용 가능성에 대해 이야기합니다. 그는 미국 정부 기관에 이 데이터의 가치를 입증하기 위해 수십만 달러를 들여 전 세계 데이터를 구매하고 실제로 어떤 일을 할 수 있는지 보여주었습니다. 현대 사회에서 개인의 위치 정보가 얼마나 쉽게 거래되고 강력한 감시 도구로 쓰일 수 있는지 경각심을 일깨우는 중요한 인터뷰입니다.
주요 인공지능(AI) 기업들이 미국 워싱턴에서 로비 활동에 역대 최대 규모의 자금을 쏟아붓고 있습니다. 이는 다가오는 AI 규제 법안의 방향을 실무적으로 유리하게 이끌고, 자사의 비즈니스 이익을 보호하기 위한 업계의 전략적 움직임입니다. 정책 입안자들과의 적극적인 소통은 향후 글로벌 AI 산업의 규제 트렌드와 시장 경쟁 구도를 결정짓는 핵심 요소로 작용할 것입니다.
사용자가 공유 설정을 켠 클로드(Claude) 채팅 및 아티팩트(Artifacts) 링크가 구글에 색인되어, 암호화폐 지갑 키 및 개인정보 등 민감 데이터가 노출되는 사태가 발생했습니다. 실무자들은 AI 도구에 민감 정보를 입력할 때 데이터 공유 및 공개 설정(Privacy settings)에 각별한 주의를 기울여야 하며, 이미 노출된 데이터는 구글 검색에서 제거되더라도 제3자가 수집했을 가능성이 높아 사전 차단이 중요합니다.
최근 미국 뉴욕에서는 거대 기술 기업과 AI의 폐해를 항의하며 스마트폰과 소셜 미디어 없이 즐기는 '루다이트의 여름' 축제가 열렸습니다. Z세대를 중심으로 한 참가자들은 오프라인 방식을 통해 결집해 OpenAI를 상징하는 물리적 스마트폰 모형을 파괴하며 AI에 대한 강한 불만을 표출했습니다. 이는 기술 플랫폼에 종속된 현대 사회에 대한 문화적 경고이자 새로운 형태의 저항 운동으로 평가할 수 있습니다.
중국의 오픈웨이트 AI 모델이 급격히 발전함에 따라, 트럼프 행정부는 대중국 AI 규제 및 정책 방향을 결정할 소수의 핵심 인물들에게 의존하고 있습니다. 부처 간 조율이 거의 없어 행정부 내에서도 의견이 첨예하게 엇갈리는 가운데, 최종적인 AI 정책은 대통령에게 가장 큰 영향력을 행사하는 인물들의 손에 의해 결정될 전망입니다.
앤스로픽(Anthropic)의 AI 채팅봇 '클로드(Claude)'에서 링크 공유 기능을 통해 생성된 대화 내용이 검색 엔진에 색인되어 누구나 볼 수 있는 상태로 노출된 사건이 발생했습니다. 해당 기능에 검색 엔진 색인 방지 태그(noindex)가 누락된 기술적 실수 때문으로, 일부 대화에는 암호화폐 키 및 법률 자문 등 민감한 정보가 포함되어 있어 보안 위험을 초래했습니다. 업계에서 데이터 보호 및 공유 링크 접근 통제의 중요성을 다시금 일깨워주는 사례입니다.
미국 공항에서 세관 조사를 받던 도중, 개인정보 보호에 특화된 오픈소스 OS인 그래핀OS(GrapheneOS)의 특정 비밀번호를 입력해 기기를 초기화한 미국 시민이 증거인멸 혐의로 기소되었습니다. 이 사건은 운영체제(OS)의 보안 기능 자체를 범죄 의도로 해석할 것인지, 그리고 변호인 접견권이 무시된 국경 압수수색의 한계를 둘러싼 법적 논쟁을 촉발했습니다. 이는 정부가 합법적인 프라이버시 보호 도구를 어떻게 통제하고 범죄화할 수 있는지 보여주는 중요한 선례가 될 수 있습니다.
중국의 인공지능 모델들이 미국의 최첨단 모델들과 경쟁력을 갖추면서 미국 실리콘밸리와 워싱턴 정치권에 큰 위기감과 보호무역주의적 반응이 일고 있습니다. 기술 업계는 과장된 공포에 휩쓸리기보다, 중국 AI 규제가 소수 빅테크 기업들의 이익만 편중시키는 것은 아닌지 냉정하게 고민해야 할 시점입니다.
수백 명의 사용자가 챗GPT에게 독극물과 생물학 무기 제조법을 요청했으며, 일부는 고등학생도 이해할 수 있는 수준의 상세한 매뉴얼을 제공받은 것으로 확인되었습니다. 오픈AI는 내부적으로 이를 고위험군으로 분류했음에도 불구하고, 모델의 거부 빈도를 낮추기 위해 위험 등급을 하향 조정한 것으로 드러나 보다 신중한 안전 관리가 시급합니다.
미국 트럼프 행정부는 국가 안보 우려를 이유로 중국산 오픈웨이트 AI 모델을 전면 금지하는 대신, 특정 모델을 표적으로 한 선택적 제한을 선호하는 것으로 알려졌습니다. 이와 동시에 가격 경쟁력을 갖춘 중국 모델의 위협에 직면한 OpenAI와 Anthropic은 비밀리에 규제를 지속적으로 로비하고 있어 업계의 이해관계가 첨예하게 엇갈리고 있습니다.
스탠퍼드 대학교 경제학자들이 AI가 노동 시장에 미치는 실제 영향을 분석한 글입니다. AI가 일자리를 완전히 대체한다는 극단적인 과대광고(Hype)와 달리, 현실은 직무 재설계와 업무 효율성 변화로 나타나고 있음을 통계와 정책적 관점에서 진단합니다. AI 도입으로 인한 노동 시장의 구조적 변화를 이해하고 대응하는 데 중요한 통찰을 제공합니다.
원치 않는 인공지능(AI) 기능이 디바이스에 강제로 도입되는 것에 불만을 품은 사람들이 도서관 사서들이 주최한 'AI 피하기(Avoiding AI)' 워크숍에 크게 몰리며 입소문을 타고 있습니다. 이 워크숍은 애플 인텔리전스, 제미나이 등 각 플랫폼의 AI 기능을 끄는 방법을 단계별로 교육하며 정보 전문가인 사서들이 디지털 정보 주도권과 알 권리를 되찾는 중요한 역할을 하고 있음을 보여줍니다.
페이스북 메타(Meta), 마이크로소프트, 엔비디아, 허깅페이스 등 주요 AI 기업들은 미국 정부가 중국의 지식재산권 침해에 대응해 오픈웨이트(Open-weight) 모델이나 모델 증류(Distillation) 기술 전반에 대한 광범위한 제한을 두어서는 안 된다고 촉구했습니다. 이들은 폐쇄형 AI 모델의 보안 가드레일 때문에 방어에 한계가 있다면, 강력한 보안 방어를 위해 오픈 모델에 대한 접근성이 필수적이라고 강조했습니다.
해커뉴스에 공개된 '오픈 웨이트(Open Weights)와 미국의 AI 리더십'이라는 제목의 PDF 문서는 개방형 AI 모델의 중요성과 미국이 AI 분야에서 글로벌 리더십을 유지하기 위한 전략을 다루고 있습니다. 기술 및 정책 실무자들에게 오픈 웨이트 모델이 혁신과 안전성에 미치는 영향과 정책적 방향성을 이해하는 데 중요한 자료입니다.
엔비디아, 마이크로소프트, 메타 등 25개 이상의 글로벌 기업들이 미국 정책 입안자들에게 오픈 웨이트(Open-weight) AI 모델에 대한 조급한 규제를 삼가달라고 촉구했습니다. 최근 중국의 오픈 웨이트 모델이 기술적 성과를 내면서 미국 내에서 규제 논의가 일고 있으나, 기업들은 혁신 저하와 독점 우려를 이유로 폐쇄적 생태계만이 안전하다는 생각에 반대하고 있습니다.
AI를 둘러싼 마케팅과 과도한 기대 속에서, 오히려 청소년 세대가 AI 기술에 대한 깊은 회의감과 거부감을 보이고 있습니다. 이들은 일상적으로 챗봇을 사용하면서도 딥페이크나 일자리 감소 등 AI가 사회에 미칠 부정적 영향을 가장 크게 겪을 세대로서의 위기감을 느끼고 있기 때문입니다. 이는 단순한 기술 거부가 아닌, 기업들의 무분별한 AI 밀어내기에 대한 Z세대 특유의 방어 기제이자 비판적 시각으로 풀이할 수 있습니다.
미국 법원에서 속기사가 생성형 AI를 사용해 재판 기록을 작성하다가 발언자를 엉뚱하게 배정하는 등 심각한 오류를 낸 사실이 판사에게 적발되었습니다. 이 사건은 법조인들의 AI 사용 문제를 넘어, 재판의 공식 기록 자체에 AI로 인한 치명적인 오류가 섞일 수 있다는 새로운 위험을 보여줍니다. AI가 업무 효율은 높일 수 있으나, 최종 결과물에 대한 전문가의 엄격한 교정 및 검토가 필수적이라는 교훈을 줍니다.
시카고 대학교 로스쿨은 AI가 법학 교육과 법조계에 미치는 영향을 분석하고, AI 시대에 맞춘 법학 교육 혁신 전략을 발표했습니다. 학생들이 AI에 의존하지 않고 비판적 사고력을 기르도록 하는 한편, AI 도구를 실무에 적극적으로 활용할 수 있는 역량을 갖추도록 교육 과정을 전면 재편하는 내용을 핵심으로 담고 있습니다.