영국 정부는 성인이 미성년자로 위장하는 것을 막기 위해 내년부터 국경에서 AI 기반 연령 추정 기술을 도입할 예정입니다. 영국 내무부는 시스템 악용을 방지하는 데 이 기술이 효과적일 것이라 보지만, 인권 단체들은 오류 가능성이 높아 취약한 아동의 보호 권리를 침해할 수 있다고 우려하며 도입을 반대하고 있습니다.
OpenAI와 Anthropic의 최고경영자들이 AI가 화이트칼라 일자리를 대량으로 없앨 것이라는 기존의 극단적인 전망에서 한 발 물러서며, 오히려 생산성을 높이는 도구라는 입장으로 입장을 선회했습니다. 이는 양사가 수조 원 규모의 기업공개(IPO)를 앞두고 있는 시점과 맞물려 비판을 피하기 위한 태도 변화로 해석되기도 합니다. 현재 연구 결과에 따르면 AI가 직접적으로 대규모 일자리를 파괴했다는 명확한 증거는 아직 나타나지 않고 있습니다.
교황 레오 14세의 첫 AI 칙서 발표에 앤스로픽(Anthropic)의 공동 창립자인 크리스토퍼 올라가 참석하여 가톨릭교회와 실리콘밸리 간의 전례 없는 연합을 시사했습니다. 이는 바티칸이 기술적 윤리를 넘어 인류의 미래를 논의하기 위해 '안전과 정렬(Alignment)'을 핵심 가치로 삼는 앤스로픽을 핵심 대화 파트너로 삼았음을 의미합니다. 이번 행사는 AI 기술의 통제권과 철학적 해석 가능성에 대한 심도 있는 논의가 종교계와 산업계 사이에서 본격적으로 이루어지고 있음을 보여줍니다.
교황 레오 14세는 첫 회칙을 통해 AI가 단순한 기술을 넘어 현대 사회의 보이지 않는 인프라가 되었으며, 이로 인해 권력과 자원이 소수에게 집중되고 있다고 지적했습니다. 기술 통제를 의미하는 '기술의 무장 해제'를 촉구하며 AI가 인간의 존엄성을 해치거나 진실을 왜곡하는 지배 도구로 전락하지 않도록 투명성과 공정한 경쟁을 보장해야 한다고 강조했습니다.
AI로 인한 일자리 대체 불안과 데이터센터 항의 시위가 확산되자, 미국 법 집행 기관이 '반기술 폭력 극단주의'라는 새로운 감시 대상을 지정했습니다. 와이어드(WIRED)가 입수한 비공개 보고서들에 따르면, 행정부의 AI 융성 정책에 반대하는 광범위한 계층의 발언과 집회를 범죄화하고 감시하는 방향으로 국내 감시 체계가 재편되고 있습니다.
미국 트럼프 행정부의 탄압에 맞서 기술 연구진들이 혁신적인 소송을 제기하며 온라인 안전과 표현의 자유를 사수하려 하고 있습니다. 또한, 기후 기술 기업들은 탈탄소화 지원이 줄어드는 환경 속에서도 살아남기 위해 핵심 광물 생산 등으로 비즈니스 모델을 전환하고 있습니다.
해커뉴스에 따르면 최고 수준의 AI 기업인 앤스로픽(Anthropic)이 기업공개(IPO)를 준비 중이며, 이로 인해 업계 내 우려의 목소리가 커지고 있습니다. 본문은 이와 별개로 중국의 어둠의 시장(Shadow market)에서 클로드(Claude), 제미나이(Gemini), GPT 등 최신 프론티어 모델(API)에 접근할 수 있는 실태를 조명합니다. 실무자들은 핵심 AI 기업의 상장이 미칠 영향과 차단된 국가에서의 비공식 API 유통 구조를 주목할 필요가 있습니다.
교황 레오 14세가 AI 시대의 인간 존엄성 보전을 다룬 첫 회칙 '마그니피카 휴마니타스(Magnifica humanitas)'를 발표합니다. 발표 행사에는 AI 안전성 기업인 앤스로픽(Anthropic)의 공동창업자 크리스토퍼 올라(Christopher Olah)가 발표자로 참석하여 AI계와 종교계의 주목을 받고 있습니다.
교황 레오 14세가 인공지능 시대의 인간 존엄성 보호를 다룬 첫 회칙 'Magnifica Humanitas'를 직접 발표합니다. AI 안전성 및 해석 가능성 연구를 이끄는 앤스로픽(Anthropic)의 공동창립자 크리스토퍼 올라(Christopher Olah)가 기조연설자로 초청되어 강력한 AI 시스템의 통제와 신뢰에 대한 논의가 촉발될 전망입니다. 이 회칙은 AI의 군사적 사용을 규탄하고 노동자 권리에 미치는 부정적 영향을 경고하는 등 교회의 강력한 공식 입장을 제시한다는 점에서 중요한 의미를 갖습니다.
웹 서핑을 하며 인터넷을 구성하는 물리적 인프라(케이블, 데이터센터 부지 등)에 대해 얼마나 자주 생각하시나요? 이번 팟캐스트 에피소드에서는 인터넷 인프라, AI, 디지털 노동을 연구하는 버트 패리스(Britt Paris) 럿거스 대학교 교수를 만나, 빅테크 기업 독점이 아닌 사용자 중심의 공공재로서 인터넷 인프라를 상상하는 방법과 실제 사례를 논의합니다. 또한, 교육자와 지역 사회가 주도하는 데이터 권리와 네트워크 자율성 회복에 대한 중요한 통찰을 제공합니다.
오픈AI와 몰타 정부는 전 세계 최초로 전 국민을 대상으로 ChatGPT Plus를 무료로 제공하는 파트너십을 체결했습니다. 몰타 국민들은 국립대학이 개발한 AI 리터러시 교육을 이수한 후 1년간 ChatGPT Plus를 무료로 사용할 수 있습니다. 이번 협력은 AI를 국가적 인프라로 격상시켜 전 국민의 AI 활용 능력을 높이고, 국가 차원의 전략적 AI 도입을 앞당긴다는 점에서 큰 의미를 갖습니다.
앤스로픽은 정책 보고서를 통해 미국이 중국에 앞선 AI 컴퓨팅 파워 우위를 지키지 못하면 글로벌 AI 시대의 패권이 독재 국가로 넘어갈 것이라고 경고했습니다. 중국 기업들의 반도체 밀수, 해외 데이터센터를 통한 접근, 그리고 대규모 가짜 계정을 활용한 미국 AI 모델 기술 탈취(증류 공격)를 심각한 문제로 지적했습니다. 미국이 2028년까지 이러한 허점을 막아 모델 지능에서 1~2년의 우위를 확보하지 못하면 중국이 추격해 보안 및 안전 기준이 붕괴될 것이라고 역설했습니다.
최근 Anthropic과 OpenAI가 고성능 사이버보안 모델을 극소수의 선별된 기업에만 배포하면서, 최첨단(Frontier) AI가 보안 및 경제적 이유로 대중에게 공개되지 않을 것이라는 전망이 힘을 얻고 있습니다. 미국 정부의 국가 안보 차원의 규제 움직임과 맞물려, 향후 AI 생태계는 소수의 특권을 가진 미국 기업 중심으로 재편될 구조적 조짐을 보이고 있습니다.
최근 소프트웨어 개발 조직에서 AI 도입을 강요하며 토큰 사용량을 평가 지표로 삼는 '토큰맥싱(Tokenmaxxing)' 현상을 비판합니다. 저자는 AI 도구 사용을 강제하지 않되, 생성된 코드를 완벽히 이해하고 도구가 사라져도 업무를 수행할 수 있어야 한다는 명확한 팀 AI 정책을 제안합니다. 이는 가장 중요한 목표가 유행을 따르는 것이 아니라 고객을 돕는 것임을 강조한 실무적인 가이드입니다.
이번 주 주요 AI·기술 뉴스를 다루는 팟캐스트 에피소드입니다. 미국 보안업체 Flock이 영업 목적으로 어린이 체육관의 CCTV 영상에 무단으로 접근해 파문이 일었으며, 이외에도 학계의 권위 있는 학술지 '네이처(Nature)'가 교육 분야 ChatGPT의 혜택을 다룬 논문을 취소한 이유와 중국 정부의 압력으로 세계 최대 디지털 인권 회의가 취소된 사태 등을 심층적으로 다룹니다.
AI 업계의 거장 일론 머스크와 샘 알트만 간의 이정표적 법적 다툼이 본격화되는 가운데, AI가 민주주의를 약화시킬지 강화할지는 현재의 설계 선택에 달려 있습니다. 또한 전방위로 과학 연구를 수행하는 '인공 과학자'의 등장은 연구 패러다임을 재편할 잠재력을 지녔으며, 최근 미 국방부의 대규모 AI 도입과 중국의 AI 인력 대체 해고 금지 판결 등 기술과 정책의 교차점에서 중요한 이슈가 쏟아지고 있습니다.
일론 머스크가 오픈AI 소송 재판 전 그렉 브록맨에게 합의를 제안하며, 거절 시 샘 알트만과 그를 미국에서 가장 미움받는 사람으로 만들겠다는 협박성 문자를 보냈습니다. 오픈AI는 이 소송이 AI 안전에 대한 우려가 아닌 단순한 이익 쟁취와 경쟁사 견제용이라고 주장하며 맞소송을 제기했습니다.
오픈AI의 샘 알트만은 경쟁사인 앤스로픽이 보안 도구인 '미토스(Mythos)'의 접근을 제한한 것을 두고 '공포 마케팅'이라며 비판했지만, 자사의 경쟁 도구인 '사이버(Cyber)' 역시 승인된 보안 전문가에게만 제공하기로 했습니다. 악의적인 악용을 우려해 접근을 통제하는 조치지만, 알트만의 이중적인 태도에 비판이 제기되는 맥락입니다.
일론 머스크와 샘 알트만 간의 OpenAI 설립 목적과 비영리 법인 전환을 둘러싼 법적 공방이 배심원 재판으로 시작되며 AI 업계 전반에 큰 파장이 예상됩니다. 또한 메타의 최근 해고 사태를 통해 AI가 실제 인간의 일자리를 대체하고 있는지에 대한 실질적인 논의가 이루어지며, 미국 법무부(DOJ) 내 투표권 담당 부서가 무력화된 WIRED의 보도도 함께 조명됩니다.
로봇 공학 기업들이 실생활 데이터 확보에 사활을 걸고 있는 가운데, 일상적인 인간의 행동이 휴머노이드 훈련 데이터로 수집되는 현상이 가속화되고 있습니다. 또한 AI 빅테크들의 막대한 인프라 투자, 오픈AI의 방향성 논란, 그리고 자율주행 및 챗봇의 부작용 등 AI 산업 전반의 핵심 이슈와 정책적 동향을 짚어볼 수 있습니다.
프로그래밍 언어 Zig 프로젝트는 코드뿐만 아니라 이슈와 코멘트까지 LLM 사용을 전면 금지하는 엄격한 정책을 고수하고 있습니다. 이는 단순히 완벽한 코드를 얻는 것보다 기여자 개개인의 성장에 투자하는 것이 장기적인 프로젝트 성공에 유리하기 때문입니다. AI가 작성한 PR은 리뷰 과정에서 기여자를 육성할 수 없다는 점에서 핵심 취지와 정면으로 위배됩니다.
최근 AI 기업들이 자사 기술이 너무 위험하다며 종말론적 공포를 조장하는 것은, 과장된 마케팅을 통해 기술의 잠재력을 부풀리고 주가를 높이며 규제 기관을 배제하려는 전략이라는 비판을 받고 있습니다. 에든버러 대학교 교수는 이러한 위협이 마치 초자연적인 것처럼 묘사될 때 대중은 무력감을 느끼고 결국 해당 기업들에게만 의존하게 만든다고 지적했습니다. 결국 이는 현재 AI가 사회에 미치는 실질적인 피해로부터 대중의 시선을 돌리기 위한 '공포 마케팅'이라는 것입니다.
앤스로픽이 미 국방부의 무제한적인 AI 사용 요구를 거절하며 법적 분쟁에 휘말린 가운데, 구글이 해당 빈자리를 노려 미 국방부와 보안망 AI 접근권 확대 계약을 체결했습니다. 오픈AI와 xAI에 이어 구글까지 미 군사 및 감시 목적의 AI 활용에 사실상 문을 열어준 셈입니다. 이는 AI 기업들의 윤리적 가이드라인과 정부 및 군사 계약 사이에서 벌어지는 갈등의 핵심적인 사례로 평가됩니다.
구글이 미 국방부와 체결한 비밀 계약에 따라, 국방부는 합법적인 목적이라면 구글의 AI 모델을 제한 없이 활용할 수 있게 되었습니다. 이는 AI를 반인도적이거나 해로운 방식으로 사용해서는 안 된다는 내부 직원들의 우려와 반발이 제기된 지 하루 만에 알려진 소식입니다. 계약서에는 인간의 통제를 전제로 한 대량 감시 및 자율 무기 사용 금지 조항이 명시되어 있으나, 구글이 정부의 결정에 대해 거부권을 행사할 수 없도록 명시되어 있어 실효성에 대한 의문이 제기됩니다.
오픈AI의 샘 알트만 CEO는 AI의 힘을 소수가 아닌 대중에게 분산시키겠다는 취지의 5대 원칙(민주화, 사용자 자율성, 보편적 번영, 회복 탄력성, 적응성)을 발표했습니다. 이 원칙들은 막대한 인프라 투자와 데이터센터 구축 등 오픈AI의 최근 공격적인 비즈니스 결정들을 정당화하는 논리적 기반을 제공합니다. 또한 최근 불거진 미 국방부 계약 및 정부와의 협력에 대한 비판에 대한 간접적인 해명의 성격도 띠고 있습니다.
중국 국가발개위는 메타가 완료한 AI 스타트업 '마누스(Manus)'의 20억 달러 규모 인수를 전면 취소하라고 명령했습니다. 메타가 이미 해당 기술을 자사 제품에 통합한 상태라 거래를 원상 복구하는 것은 매우 복잡하며, 제3자 매각이나 기존 투자자에게 되파는 방안이 거론되고 있습니다. 이번 조치는 중국이 자국 기술 유출을 막겠다는 의지의 표명인 동시에, 다가오는 시진핑-트럼프 정상회담을 앞두고 협상 카드로 활용하려는 의도로 분석됩니다.
캐나다 텀블러 릿지(Tumbler Ridge)에서 대량 총기 난사 사건이 발생한 가운데, 사건 발생 전 용의자의 ChatGPT 계정에서 총기 폭력 시나리오를 감지하고도 경찰에 신고하지 않았던 OpenAI의 샘 알트만 CEO가 공식 사과문을 발표했습니다. 알트만은 유족과 지역사회에 깊은 사과를 표하며 재발 방지를 위해 안전 프로토콜을 개선하고 당국과 적극 협력하겠다고 밝혔습니다.
아랍에미리트(UAE)는 2년 내에 모든 정부 부처와 서비스, 업무의 50%를 스스로 분석하고 판단 및 행동하는 '자치형 AI(Agentic AI)'로 운영하겠다는 세계 최대 규모의 야심 찬 계획을 발표했습니다. 이를 통해 행정 서비스의 효율화와 의사결정 속도 향상을 꾀하며, 모든 연방 공무원이 AI와 협업할 수 있도록 교육할 계획입니다. 단, 민주적 견제와 언론 자유가 제한적인 국가에서 자율적 AI 시스템이 오류나 편향성을 확대하고 대규모 감시로 이어질 수 있다는 윤리적 우려도 함께 제기되고 있습니다.
생성형 AI가 정교한 피싱과 딥페이크 등 사이버 범죄를 더 빠르고 쉽게 만들고 있어 기업들의 대응이 어려워지고 있습니다. 또한, 의료 현장에 다양한 AI 도구가 도입되고 있으나 실제 환자의 건강 결과 개선으로 이어지는지에 대한 검증은 아직 부족한 상태입니다. 이 외에도 딥시크(DeepSeek)의 새로운 오픈소스 모델 공개, 무료 고급 AI 서비스의 유료화 전환, 미-중 간 AI 기술 도난 갈등 등 기술계의 주요 이슈가 맞물리고 있습니다.
이번 주 WIRED의 'Uncanny Valley' 팟캐스트에서는 팀 쿡 애플 CEO 물러남과 함께 열리는 애플의 새로운 장, 스페이스X와 AI 코딩 도구 커서(Cursor)의 600억 달러 규모의 놀라운 거래, 그리고 팔란티어가 온라인에 게시해 논란이 된 22개조 성명(Manifesto)을 집중 분석합니다. 또한 일부 지지자들이 트럼프와 점차 거리를 두고 있는 MAGA 진영의 정치적 변화와 AI로 생성된 가짜 여성을 이용해 극우 지지자들을 속인 사기 범죄에 대해 다룹니다.