2026년 봄, 미 특수작전사령부 분석가가 사용한 AI 챗봇이 중국 선박의 화물을 핵무기 부품으로 오판하는 허위 정보를 생성해, 미군이 무장 병력과 항공기를 동원한 강제 승선 작전 직전까지 갔던 사실이 CNN 보도로 드러났습니다. 미 국방부는 AI 도입을 가속화하고 있으나 AI 생성 정보 검증 표준이 없고, 상업용 제품을 겉만 바꾼 시스템과 젊은 분석가들의 맹목적 신뢰가 문제로 지적됩니다. 초지능보다 비판적 검증 없는 운용자의 손에 들어간 엉성한 AI 시스템이 실제 위험이라는 점을 보여주는 사례입니다.
2018~2022년 딥마인드 홍보·정책팀에서 일한 비샬 마이니는 인류 멸종 가능성에 대한 대외 커뮤니케이션이 조직 어느 수준에서도 허용되지 않았다고 폭로했다. 연구자들은 이러한 위험을 '알람주의'로 치부하고 '터미네이터 같은 영화'에 비유하며 의료·기후 등 긍정적 활용으로 화제를 돌리도록 코칭받았다. 내부적으로는 AI 정렬 문제가 해결되지 않았으며 담당 인력이 턱없이 부족하다는 것을 알고 있었고, 이는 AI 기업의 내부 인식과 대외 메시지 간 격차를 보여준다는 점에서 중요하다.
AI 연구자 제이콥 콕슨이 앤스로픽을 사직하며 AI 개발 경쟁이 인류 전체를 위험에 빠뜨리고 있다고 경고했습니다. 그는 향후 1~2년이 인류의 운명을 결정하는 '크런치 타임'이며, OpenAI와 앤스로픽의 재귀적 자기 개발 제한 및 국제적 협조가 필요하다고 주장했습니다.
MIT 테크놀로지 리뷰가 AI 시대에 아동기를 다루는 '키즈(Kids) 특집호'를 발간했으며, 청소년 잡지 어니웨이(Anyway) 편집팀과 함께 AI에 대한 청소년들의 실제 인식과 온라인 안전 등을 조명한다. 한편 빌 게이츠는 인터뷰에서 AI가 생물안보·사이버·심리사회·일자리 파괴·통제 상실 등 위험 임계점을 이미 넘어섰다며 업계 밖에서의 무관심에 충격을 받았다고 밝혔다.
영국 더비셔 경찰의 한 경찰관이 여러 사건에서 인공지능(AI)을 이용해 허위 증거를 조작한 혐의를 받고 있습니다. 해당 경찰관은 사건 수사가 진행되는 동안 대외 업무에서 배제되었으며, 경찰은 기존 판결에 미칠 영향을 파악하고 법무 당국과 협력 중입니다. 이 사건은 법 집행 기관에서 AI를 도입하는 것의 심각한 리스크를 보여줍니다.
앤스로픽은 최근 발표한 AI 모델 '클로드 미토스(Claude Mythos)'가 전 세계 금융 시스템의 방어망에서 발견한 심각한 사이버 취약점을 각국 재무부와 중앙은행에 브리핑할 예정입니다. 이번 이니셔티브는 G20 금융 규제 기구인 금융안정위원회(FSB) 의장의 요청에 따른 것으로, AI가 야기할 수 있는 거시적 금융 충격을 방지하고 시스템 전반의 보안을 강화하기 위해 마련되었습니다.
X(옛 트위터) 제품 총괄 니키타 비어가 90일 안에 스팸·자동화로 iMessage, 전화, Gmail이 사용 불가능해질 것이라 예측한 지 정확히 90일이 지났습니다. 레딧 사용자들은 실제 경험을 공유하며 이 예측이 실현되었는지 현장 의견을 나누고 있습니다.
엔비디아의 젠슨 황(Jensen Huang) CEO가 AI로 인한 대규모 일자리 감소를 경솔하게 예측하는 일부 기술 업계 리더들을 강도 높게 비판했습니다. 그는 이러한 발언이 사회에 실질적인 해를 끼칠 수 있다고 경고하며, 방사선과 의사의 사례를 통해 AI가 도입되더라도 일자리가 사라지지 않는 이유를 설명했습니다. 또한 AI가 실제로 수십만 개의 일자리를 창출했으며, 엔비디아 역시 최고조의 엔지니어 채용을 진행 중이라고 덧붙였습니다.
1995년 칼 세이건이 경고한 '과학적 무지와 막대한 권력(기술)의 결합'이 2026년 AI 시대에 현실화되고 있다는 비판적 전망을 다루고 있습니다. 대중은 AI 기술의 작동 원리를 이해하지 못한 채 심층 기술에 의존하게 되었으며, 이는 가짜 뉴스와 정치적 혼란을 가중시킨다는 내용입니다. 기술 의존도와 대중의 이해도 간 극심한 격차가 초래할 재앙을 경고하는 중요한 글입니다.