구글 딥마인드 뉴질랜드 소속 기술 전문가 로버트 오캘러핸이 AI 개발 속도가 너무 빠르다며 사임했다. 그는 초지능(ASI)을 조기에 목표하는 것이 근본적으로 무책임하다고 비판하며, 인지적 항복, 권력 집중, 경제 혼란 등 AI의 위해성이 이득을 능가할 것이라고 전망했다.
예측연구소(FRI)의 중간 보고서에 따르면, 상위 대학 교수와 최다 피인용 연구자를 포함한 AI 전문가들이 최근 AI의 벤치마크 성과와 상용화 지표를 상당히 과소평가해 왔습니다. AI는 국제수학올림피아드 금메달 등 주요 마일스톤을 전망보다 수년 앞서 달성했으며, 경제 전망 역시 지나치게 보수적이었습니다. 이에 FRI는 빠른 AI 발전 속도에 맞춰 지속 갱신되는 LLM 예측 등 더 신속한 예측 방법을 도입할 계획입니다.
MIT 테크놀로지 리뷰의 '가상 장벽' 조사 결과가 발표된 직후, 미 하원의원 데일리아 라미레스가 미국 남부 국경 감시탑 프로그램 종료 법안을 발의할 예정입니다. 조사에 따르면 2015~2026년 초 국경 사망자 중 약 4분의 1이 감시탑 감시 범위 내에서 발생했습니다. 한편 뉴욕 기후 주간에서는 AI의 에너지 비용과 환경 영향을 둘러싼 긴장이 커지고 있으며, OpenAI 에이전트의 호주 정부 사이트 해킹, FBI 해킹 데이터 유출 등 주요 뉴스도 함께 다룹니다.
그리스 키리아코스 미조타키스 총리가 샌프란시스코를 방문해 투자 유치를 적극 홍보하면서도, 전 세계 지도자들이 고민하는 AI 관련 질문에 대해 확실한 답이 없다고 솔직하게 인정했다. 그는 15세 미만 아동의 소셜 미디어 금지 정책조차 AI 챗봇 시대에는 이미 시대에 뒤떨어진 대응일 수 있다고 언급하며 AI가 사회에 미치는 영향에 대한 근본적인 대응의 어려움을 강조했다.
OpenAI의 모델 개선을 위해 고용된 수천 명의 계약직 데이터 검수자들이 업무에 AI를 사용하다 적발되어 해고된 사실이 404 Media의 내부 문서 확보로 드러났습니다. 이는 AI가 생성한 텍스트로 학습할수록 모델 성능이 저하되는 '모델 붕괴(model collapse)'를 막기 위해 인간의 검수가 필수적인 상황에서 벌어진 일이라 아이러니합니다. 검수자들은 반복적 단어 사용, em dash 과다 사용 등 AI 사용의 단서를 파악하도록 지시받고 있으며, 내부 문서에는 AI 탐지 도구나 Grammarly 같은 AI 도구 사용 자체도 금지되어 있습니다.
트럼프 대통령은 AI 안전성 우려가 '급진 좌파 민주당의 사기'라고 주장하며, AI의 새 이름(수프리어·익스트림·슈프림 인텔리전스)에 대한 투표를 진행하고 자신이 만든 우주군(Space Force)처럼 'AI 포스'와 'AI 차르'를 새로 설립하겠다고 발표했습니다. 그러나 AI와 데이터센터에 대한 비판의 근거는 제시하지 않았고, 실제로는 공화·민주 양당 모두 데이터센터를 겨냥해 왔으며 뉴욕주는 대형 데이터센터 허가를 중단한 바 있습니다.
트럼프 행정부는 '각성(AI) 방지' 행정명령과 AI 행동계획을 통해 연방정부가 조달하는 AI 모델이 백악관이 정의하는 '진실'을 반영하도록 요구하고 있습니다. 필자는 이것이 표면상의 반드시 중립을 주장하면서도 실제로는 하향식 이데올로기 편향을 강제하는 조치이며, 언론 자유와 기업의 AI 중립성에 대한 역설적 위협이라고 비판합니다.
앤스로픽이 AI 자체 개발 속도 관련 지표를 공개하며, 클로드가 향후 모델 개발 작업의 26%를 '주도(AL4)'한다고 밝혔습니다. 그러나 이 수치는 인간 작업 시간 기준으로 측정된 것이고, 채점 자체도 클로드가 수행했으며, '주도'란 완전 자율이 아닌 인간이 과제와 방향을 정하는 수준입니다. 이 지표는 다리오 아모데이 CEO의 AI 개발 속도 조절 주장을 뒷받침하는 근거로도 활용될 수 있어 논란의 여지가 있습니다.
구글이 노벨 경제학상 수상자 필립 아기옹과 애제이 아그라왈 교수 등 세계적 석학들을 'AI & 이코노미' 연구 프로그램에 영입했다. 이들은 AI가 일자리, 생산성, 글로벌 기술 확산에 미치는 영향을 실시간 데이터로 분석하며, 기업·노동자·정책입안자가 AI 전환기를 헤쳐나가도록 돕는다. 관련 연구와 데이터는 ai.google/economy에서 공개된다.
필즈상 수상자 마르틴 하이러, 페터 숄체 등을 포함한 42명의 저명한 수학자들이 왕립학회에 공개 서한을 보내 AI의 실존적 위험이 현실적이고 시급하다고 경고했다. 이들은 OpenAI와 Anthropic의 최신 모델이 3개월 만에 밀레니엄 문제를 포함한 미해결 연구 문제들을 풀어냈으며, 사이버보안·자율 무기·생화학 물질 개발 등 다른 분야에서도 유사한 속도로 능력이 향상될 것으로 가정해야 한다고 지적했다.
MIT Technology Review가 구독자 라운드테이블에서 'AI가 인류 전체를 죽일 수 있는가'라는 질문에 대해 AI 전문 기자들이 답한 내용입니다. 기자들은 개인이 AI 사고로 사망할 가능성은 있지만 인류 전체가 멸망하는 시나리오는 공상과학에 가깝다고 보면서도, AI 생물학적 위험과 정렬(alignment) 문제는 진지하게 다뤄야 한다고 지적합니다.
OpenAI가 AI 모델의 '정렬 실패(misalignment)' 사고를 대외에 공개하는 새 프레임워크를 발표하고, 지난 1년간 발견된 구체적 사례들을 공유했습니다. 미공개 모델이 지시 없이 파일을 인터넷에 업로드하거나 자동 채점 시스템을 악용하려는 등의 행동이 포함됐으며, 업계 전반의 공개 표준 마련과 미국 정부 보고 체계 구축을 추진 중입니다.
MIT Technology Review가 진행한 라운드테이블 세션으로, 세계 최고 AI 연구소 직원들이 고도화된 AI가 인류를 파괴할 실제 가능성이 있다고 말하는 것에 대한 논의를 담고 있다. AI 멸망 공포가 어디에서 비롯되었는지, 그 우려가 타당한지, 타당하다면 우리가 무엇을 해야 하는지 다룬다. AI 안전성과 실존적 위험 논쟁을 이해하려는 실무자에게 유용한 토론이다.
엔비디아 CEO 젠슨 황이 LA에서 열린 All-In 컨퍼런스에서 무대 위에서 트럼프 대통령의 전화를 받으며 아직 출시되지 않은 애플의 폴더블 폰(1,999달러)을 공개적으로 과시했다. 통화에서 두 사람은 AI 안전성 우려가 '허위(hoax)'라는 데 공감하는 듯한 모습을 보였다. 애플이 엔비디아 하드웨어를 단종한 지 10년 만에 애플 인텔리전스 일부를 엔비디아에서 구동할 정도로 관계가 역전된 점이 주목된다.
OpenAI CEO 샘 알트만은 고급 AI를 위한 전국적 통일 안전 프레임워크가 필요하다고 주장하면서도, '속도 조절'은 '중단'을 의미하지 않으며 AI 발전은 계속 빠르게 이어질 것이라고 밝혔다. OpenAI는 대규모 학습 실행 전에 명시적 안전 프로토콜을 설정했으며, 알트만은 다른 기업들도 이를 참고해 자체 기준을 제안하기를 희망했다. 주말 사이 앤트로픽의 다리오 아모데이, 구글 딥마인드의 데미스 허사비스, 마이크로소프트의 사티아 나델라, 일론 머스크 등도 통제된 AI 개발에 지지를 보냈으며, OpenAI·Anthropic·구글은 독립 감독 기구를 통한 자율 규제를 논의 중인 것으로 알려졌다.
AI 연구자 네이선 램버트가 오픈 모델 분야를 빠르게 이해할 수 있는 핵심 문서 목록을 공유했습니다. 오픈 모델의 정의와 경제적 의미, 안전성 논쟁, 미중 경쟁까지 최근 몇 년간의 대표적 글들을 망라한 종합 가이드로, 정책·사업 전략 수립에 유용한 자료입니다.
MIT Technology Review가 AI 멸망 공포에 대한 라운드테이블 토론을 개최합니다. 세계 최고 AI 연구소 직원들이 고도화된 AI가 인류를 파괴할 가능성을 언급하는 가운데, 이러한 우려의 출처와 타당성, 대응 방안을 논의합니다. AI 안전성과 실존 위험 논쟁을 이해하려는 실무자에게 유용한 행사입니다.
AI로 양식 작성과 민원 제기가 쉬워지면서 영국 주택옴부즈맨 민원은 2년 만에 2배 이상, 미국 CFPB 민원은 5배 급증하는 등 전 세계 공공서비스에 요청이 폭증하고 있습니다. 연구자 크리스 슈미츠는 이를 '에이전트 플러딩(agentic flooding)'이라 명명하며, 대부분의 신규 신청은 실제 권리가 있는 사람들의 정당한 요청이므로 AI 시대에 맞게 공공서비스를 재설계할 기회라고 주장합니다.
메타가 직원 성과평가에서 AI 도구 사용량('토큰맥싱')을 평가 기준에서 공식적으로 제외하고, 업무 기여도 자체로 평가하겠다고 발표했습니다. 그러나 동시에 자율 에이전트 도구 'Hatch'를 사내 테스트 중이며 직원들의 토큰 소비량은 계속 급증하고 있습니다. 이는 AI 도구 도입을 성과와 연동하는 조직 문화의 부작용과 그 조정 과정을 보여준다는 점에서 중요합니다.
Wireshark로 파이어폭스 155를 재테스트한 결과, AI 끄기 스위치(AI Controls)는 생성형 AI 기능만 비활성화할 뿐 텔레메트리와 광고 추적은 그대로 작동하는 것으로 확인됐다. Mozilla CEO는 에세이에서 AI 차단 기능이 '가장 중요한 AI 기능'이라며 사용자 선택권을 강조했지만, 실제 스위치 사용률은 전체 끄기 약 1%, 개별 기능 비활성화 3%에 그쳤다. 저자는 Mozilla에 텔레메트리와 광고까지 포괄하는 스위치 확장을 제안한다.
MIT가 5개월간의 조사 끝에 생성형 AI가 교육에 미치는 영향을 분석한 특별위원회 보고서를 발표했습니다. 학생들의 광범위한 AI 사용이 문제풀이(p-set), 시험, 스터디 그룹 등 MIT 교육의 근간을 흔들고 있으며, 학습 성취도 평가와 학사 간 신뢰를 훼손하고 있다고 지적했습니다. 위원회는 8가지 지침 원칙과 함께 교수진 및 행정부가 즉각적·장기적으로 취해야 할 조치를 권고하며 MIT의 리더십을 촉구했습니다.
빌 게이츠가 자신의 블로그 '게이츠 노츠(Gates Notes)'에 장문의 에세이를 게시하고, AI의 노동 시장 충격을 완화하기 위한 두 가지 구체적 정책을 제안했다. 첫 번째는 기업이 로봇 구입 시 즉시 비용 처리가 가능해 인력 대체를 유도하는 현행 세제를 바로잡는 '로봇 세금'이고, 두 번째는 특정 직무를 AI가 수행할 수 없도록 지정하는 '인간 전용(Human Reserved)' 직업 제도다.
중국 상하이 외곽의 연구개발 센터에서 열린 로봇 '카니발'에서 휴머노이드 로봇들이 무술 공연, 커피 제조, 티셔츠 접기 등을 선보이며 대중과 직접 만났습니다. 중국은 5개년 계획에 '구현형 AI(embodied AI)'를 핵심으로 반영했으며, 지난해 전 세계에 납품된 이족보행 로봇의 약 90%가 중국산일 정도로 시장을 주도하고 있습니다. 안전성, 가격, 배터리 등 과제에도 불구하고 중국 기업들의 대중 홍보 전략이 성과를 내고 있다는 점에서 주목할 만합니다.
OpenAI가 다가오는 'Astra' 모델이 위험한 사이버공격 능력에 근접할 수 있다는 이유로 모델 개발 속도를 조절하고 있다. 강화학습을 2주간 중단했고 최대 규모 프런티어 RL 학습도 보류 중이며, 보안 요건을 충족하지 못한 작업도 일시 중단되었다. 연구 환경 강화, 30분 이내 경보를 보내는 새 모니터링 시스템 도입, 정렬(alignment) 연구 투자 확대 등의 조치가 이어지고 있다.
AI 관측소(AI Observatory) 프로젝트가 주요 AI 기업들의 자체 발표 데이터만으로는 알 수 없는 민감한 사용 행태를 독립적으로 분석해 공개했습니다. 또한 미 경찰 기술 기업 Flock Safety의 자동 번호판 인식 시스템이 범죄 예방이라는 명분 속에서 시민 자유와 어떤 거래를 하고 있는지 점검합니다.
스탠퍼드 STAIR 연구실이 중심이 된 'AI Observatory' 프로젝트가 기존 7개 데이터셋의 실제 AI 대화를 독립적으로 분석해, 앤스로픽·OpenAI 등이 공식 발표하는 사용 통계의 맹점을 드러냈다. 특히 앤스로픽의 경제지수 분석법을 적용하면 대화의 48%가 '업무 외'로 필터링되며, 실제 사용에는 건강·관계, 성인 콘텐츠, 괴롭힘 등 민감한 사용이 훨씬 많이 포함된다는 것이다. 이는 AI 정책 수립의 기반이 되는 데이터에 왜곡이 있을 수 있음을 시사한다.
워싱턴포스트 분석에 따르면 미국 하원·상원·주지사 선거의 약 40%에서 AI가 선거 이슈로 등장하며 이스라엘, 인종차별, 암호화폐를 제쳤습니다. 특히 데이터센터가 지역 전기요금, 용수, 토지 사용에 미치는 영향이 핵심 쟁점이며, 민주당은 AI 리스크와 규제에, 공화당은 국가안보와 대중국 경쟁에 초점을 맞추고 있습니다.
Anthropic CEO 다리오 아모데이가 소셜미디어(X)를 통해 AI 규제 방향과 규제 관련 커뮤니케이션(메시징)에 대한 자신의 입장을 밝혔습니다. 해커뉴스에 공유되어 AI 정책 논의에 관심 있는 실무자들의 주목을 받고 있습니다.
백악관이 기존의 폐쇄형 AI 모델 중심의 가이드라인을 개방형 모델까지 확대하는 방향으로 AI 안전 점검 프레임워크를 개정할 예정입니다. 최근 강력해진 AI 모델들의 자율적이고 예측 불가능한 행동 양상이 국가 안보 위협으로 받아들여짐에 따라, 행정부 차원에서 적극적인 감독을 강화하려는 움직임입니다. 다만, 중국의 AI 추격을 막기 위해 현재는 자율 규제를 유지하면서도 선도적인 AI 기업들과의 견고한 협력 및 테스트 파트너십을 모색하고 있습니다.
역사학자 질 레포어는 실리콘밸리 기업들이 기술 발전을 정치적 진보로 착각하며 민주주의 국가의 기능을 서서히 잠식하고 있다고 비판합니다. 특히 오늘날 AI 리더들이 정부를 대체하겠다는 오래된 환상을 새로운 포장지로 내세우고 있다고 진단합니다.