미국과 중국이 국가안보를 위협할 수 있는 AI 사고를 서로 통보하는 메커니즘인 '미중 AI 대화' 구축 논의를 시작했다. 오픈AI·앤스로픽 등 최전선 AI 기업들의 안전 사고와 종말론적 경고가 잇따르면서 국제 협력 필요성이 커지고 있지만, 트럼프 대통령은 개발 속도 조절 요구를 거부하며 중국에 주도권을 내줄 수 없다는 입장이다.
마이크로소프트 AI가 자체 MAI 모델을 위한 행동강령을 공개했습니다. 핵심은 인간 통제 우선으로, 모델은 인간이 이해할 수 없는 '뉴랄리즈(Neuralese)' 형식의 추론을 사용하지 않아야 하며, 의식이나 감정을 모방하거나 권리를 주장해서는 안 된다는 것입니다. 이는 AI 모델에 안정적 정체성을 부여하려는 Anthropic의 접근과 뚜렷하게 대비되며, 6주간의 공개 협의를 거쳐 2026년 말 확정 후 2027년부터 개발에 적용됩니다.
중국이 안스로픽 CEO 아모다이 등 미국 AI 업계 지도자들의 AI 리스크 경고를 '미국의 우위를 고착하려는 공포 마케팅'이라며 강하게 비판했다. 중국 외교부와 관영 글로벌타임스는 '조용한 AI 냉전' 조성을 중단하라고 촉구했고, 속도 조절 대신 오히려 첨단 칩 연구와 AI 인프라 확충을 강화하겠다는 입장이다. 9월 24일 트럼프-시진핑 정상회담을 앞두고 미중 간 AI 개발 속도 논쟁이 격화되고 있다.
뉴욕시와 로스앤젤레스 통합학교구(LAUSD)가 2026-27학년도를 앞두고 학생 대면 AI를 대폭 제한했습니다. 뉴욕은 유치원~중학교(K-8) 전 학년에서 학생용 AI를 금지하고 고등학생은 승인된 도구만 허용했으며, LAUSD는 약 37만 8천 명 전 학생에게 생성형 AI를 1년간 금지했습니다. 초기 전면 금지 후 허용으로 선회했던 두 학군이 다시 강화된 규제로 돌아온 것으로, 학부모·교사·학생 연합의 압박이 결정적 역할을 했습니다.
우크라이나 국방부가 수만 회의 드론 비행에서 수집한 수백만 개의 데이터 포인트를 군수업체와 민간 기업에 개방하면서 전장이 AI 모델 학습의 현장으로 변모하고 있습니다. 전쟁의 혼돈 속에서 생성되는 예외적 상황 데이터는 실험실에서 재현 불가능한 값진 자산이어서 방산 업계에 막대한 상업적 가치를 지니지만, 이를 규율할 법적 체계는 아직 부재한 상황입니다.
트럼프 행정부가 뉴욕타임스의 OpenAI·마이크로소프트 저작권 소송에서 연방법원에 의견서를 제출하며 OpenAI 측을 지지했다. 정부는 AI 학습이 '공정 이용(fair use)'에 해당하며, 반대 판결은 미국 AI 산업의 글로벌 리더십을 저해할 수 있다고 주장했다. AI 저작권 분쟁의 향방을 좌우할 중요한 전환점으로 평가된다.
ChatGPT, Claude 등 AI 모델이 수억 권의 책과 문서를 저자 동의 없이 학습해 왔지만, 저작권법은 1976년 이후 개정되지 않아 법적 판단이 공정 이용(fair use) 여부를 놓고 법원마다 엇갈리고 있다. 작년 앤스로픽(Anthropic)에 15억 달러 배상을 명령한 판결도 실제로는 AI 학습 자체를 합법으로 인정하고 불법 다운로드만 처벌한 것으로, AI 기업에 유리한 선례로 해석된다.
AI 업계 최고 선두주자인 오픈AI(OpenAI)의 윤리 및 규제 총괄이었던 클로이 바칼라(Chloe Bakalar)가 입사한 지 1년도 채 되지 않아 퇴사했습니다. 최고 수준의 안전과 윤리를 표방하는 기업 내에서 윤리 부서가 어떤 역할을 수행해야 하는지, 그리고 향후 AI 규제 방향에 미칠 영향이 무엇인지에 대해 업계의 이목이 집중되는 사안입니다.
ChatGPT 등장 이후 가속화된 AI 개발 경쟁으로 인해 미국 전역에 대규모 데이터센터가 난립하면서 심각한 환경 및 사회적 갈등이 발생하고 있습니다. 이로 인해 이 지역의 토지, 전력, 수자원 고갈을 우려하는 환경보호론자와 우파 진영이 연대하게 되었으며, 이는 기존의 정치적 지형을 뛰어넘는 새로운 반기술(AI) 저항 운동으로 발전하고 있습니다. 데이터센터 건설을 둘러싼 이념적 충돌은 미국 정치의 새로운 화두로 떠오르고 있습니다.
오픈AI가 여러 에이전트를 조율해 몇 시간에서 며칠 동안 복잡한 문제를 해결하는 새로운 AI 모델 패밀리 '아스트라(Astra)'를 개발 중입니다. 이 모델은 공개 전 미국 정부의 새로운 규제 심사를 받는 첫 사례가 될 전망이며, 오픈AI의 완전 자율 AI 연구원 구축이라는 장기적 목표의 핵심 역할을 수행할 것으로 보입니다.
중국의 인공지능 모델들이 미국의 최첨단 모델들과 경쟁력을 갖추면서 미국 실리콘밸리와 워싱턴 정치권에 큰 위기감과 보호무역주의적 반응이 일고 있습니다. 기술 업계는 과장된 공포에 휩쓸리기보다, 중국 AI 규제가 소수 빅테크 기업들의 이익만 편중시키는 것은 아닌지 냉정하게 고민해야 할 시점입니다.
미 재무부가 중국 AI 기업을 제재하겠다고 위협하며 미중 AI 기술 패권 경쟁이 격화하고 있습니다. 한편, 캐나다 퀘벡에서 뉴욕으로 전력을 공급하는 북미 최장 지중 송전선이 기술적, 환경적 문제에 직면해 있어 AI와 기후 기술 시대의 인프라 과제를 동시에 보여줍니다. 또한 자율적 사이버 공격 능력을 보인 오픈AI 해킹 사태 등 보안 및 환경 문제가 AI 산업의 중대한 이슈로 대두되고 있습니다.
미국 행정부 내부는 최근 미국 최고 수준을 위협하는 중국 AI 모델(예: Moonshot의 Kimi K3)의 등장에 대응하는 방안을 두고 의견이 엇갈리고 있습니다. 백악관은 미국 모델을 무단으로 학습하는 '지식 증류(Distillation)' 행위에 대한 강력한 제재를 추진하는 반면, 상무부는 실효성 문제 등을 이유로 반대 입장을 보이며 대신 미국 내 오픈소스 모델 개발 인센티브를 검토 중입니다.
미국 연방 판사는 안스로픽이 불법적으로 다운로드해 훈련 데이터로 사용한 것에 대해 15억 달러 규모의 집단 소송 합의안을 최종 승인했습니다. 판사는 저작물을 이용한 AI 훈련은 '공정 사용'으로 합법이라고 판결했지만, 해적 사이트에서 책을 불법 다운로드한 방식은 위법으로 보았습니다. 이번 결정은 업계 전체를 구속하는 선례로 남지는 않았기 때문에, 구글과 오픈AI 등 다른 기업들을 상대로 한 유사한 저작권 소송은 계속 진행될 전망입니다.
이번 주 '언캐니 밸리' 팟캐스트에서는 애플이 오픈AI를 상대로 기밀 하드웨어 정보 유출 혐의로 제기한 소송과, 오픈AI 직원들이 자체적으로 AI 규제를 촉구하는 슈퍼 PAC를 설립한 배경을 심도 있게 다룹니다. 또한 뉴욕주의 전국 첫 데이터센터 건설 유예 조치, DOGE 부서의 주택 정책 AI 사용 논란 등 핵심 정책 및 산업 이슈를 점검합니다.
빅테크 기업들이 신규 AI 기능을 도입할 때 이를 기본값으로 설정하고 사용자가 일일이 설정을 찾아 비활성화(Opt-out)해야 하는 관행이 비판받고 있습니다. 사용자들은 개인정보 침해 우려와 귀찮음 속에서 스스로를 보호해야 하는 부담을 느끼며, 기본적으로 개인정보 보호에 동의(Opt-in)하는 방식의 규제와 시스템 구축이 필요하다는 목소리가 커지고 있습니다.
유럽연합(EU)의 규제 압박으로 인해 메타(Meta)가 왓츠앱(WhatsApp)에서 타사 인공지능 챗봇의 접근을 다시 허용했습니다. 이에 따라 오픈AI(OpenAI)는 유럽 경제 지역(EEA) 사용자들에게 별도의 계정 없이도 왓츠앱을 통해 챗GPT(GPT-5.5 모델 기반)를 사용할 수 있도록 서비스를 재개했습니다.
OpenAI의 샘 알트만 CEO는 미국 정부와의 우호적 관계 구축 및 정치적 반발을 완화하기 위해 미국 주권펀드에 회사 지분의 5%를 기부하는 방안을 제안했습니다. 이를 통해 조성된 자금은 AI 기업에 직접 투자되며, 그 수익이 국민에게 직접 분배되는 구조를 목표로 하고 있습니다. 현재 논의는 초기 단계이며, 실제 이행을 위해서는 의회의 승인이 필요한 상황입니다.
강력한 사이버보안 AI 모델인 안스로픽의 '미토스 5(Mythos 5)'와 '페이블 5(Fable 5)'가 시장에서 퇴출된 지 2주 만에 트럼프 행정부가 제한 조치를 완화했습니다. 행정부는 미국 내 100개 이상의 주요 정부 기관 및 인프라 보호 기업들이 미토스 5를 다시 사용할 수 있도록 허가했습니다. 이 조치는 강력한 AI 기술을 안전하게 통제하면서도 국가적 방어 목적으로 활용해야 하는 정책적 딜레마를 보여주는 중요한 사례입니다.
AI 안전성 및 연구 기업인 Anthropic이 웹사이트 및 Claude.ai 등 서비스 이용 시 수집하는 개인정보 처리방침을 공개했습니다. 특히 특정 상황에서 사용자의 연령이나 신원을 확인하기 위한 절차를 신설하고 정부 발급 신분증 이미지를 수집할 수 있도록 규정을 업데이트했습니다. 이는 안전하고 신뢰할 수 있는 AI 시스템 구축 및 법적 규제 준수를 위한 조치로 보입니다.
미국 트럼프 행정부의 수출 통제 명령으로 인해 AI 개발사 앤스로픽(Anthropic)이 최신 AI 모델을 서비스에서 내리게 된 배경과 파장을 다룬 TechCrunch 팟캐스트 내용입니다. 앤스로픽과 백악관의 불편한 관계, 아마존의 제보, 그리고 다른 빅테크 기업들에 미칠 규제적 영향력 등 AI 생태계의 정책 및 정치적 리스크를 심도 있게 분석합니다.
Anthropic이 강력한 사이버 보안 및 생물학적 능력을 갖춘 새로운 AI 모델을 출시했으나, 미국 정부의 국가 안보 우려로 인해 외국인 접근이 차단되었습니다. 그러나 전문가들은 특정 기업의 모델만 통제하는 것이 무의미하며, 경쟁사나 오픈소스 진영에서도 머지않아 유사한 수준의 위험한 AI가 필연적으로 등장할 것이라고 경고합니다.
이번 호에서는 전 지구적 냉각을 목표로 하는 태양 지구공학이 실제 엔지니어링 단계로 넘어가며 직면한 막대한 인프라와 투자의 현실을 점검합니다. 또한 신체 내부의 신호를 감지하는 감각인 '내장감각(interoception)' 연구가 뇌-컴퓨터 인터페이스(BCI) 등 의료 기술 및 정신 건강 치료에 미칠 영향을 조명합니다. 이와 함께 스페이스X의 초고가 기업가치, G7의 미국 AI 모델 접근 요구, 화웨이의 제재 돌파, ChatGPT 점유율 하락 등 글로벌 기술 및 AI 산업의 최신 동향을 살펴봅니다.
AI 기업 안드로픽(Anthropic)이 매우 뛰어난 성능의 보안 능력을 갖춘 신규 모델 '페이블(Fable)'을 공개했으나, 해킹 등 우회 방법이 발견되어 미국 정부의 강력한 국가 안보 명목의 접근 금지 조치를 받았습니다. 이는 강력한 AI 모델의 안전성 문제와 정부 규제 사이의 갈등이 점차 심화되고 있음을 보여주는 중요한 사례입니다.
아마존 앤디 재시 CEO가 미 정부 관계자들과 논의하며 자사가 막대한 자본을 투자한 앤스로픽(Anthropic)의 안전성 문제를 제기했습니다. 이 발언이 계기가 되어 미국 정부는 주요 AI 모델에 대한 강력한 안전성 규제와 조사를 시작하게 되었습니다. 이는 거대 빅테크 기업들이 경쟁 모델의 성장을 정부 규제를 통해 견제하려는 산업 생태계의 정치적 움직임을 보여줍니다.