#실존적 위험

세계 최고 수학자 42인, AI 실존적 위험 경고

필즈상 수상자 마르틴 하이러, 페터 숄체 등을 포함한 42명의 저명한 수학자들이 왕립학회에 공개 서한을 보내 AI의 실존적 위험이 현실적이고 시급하다고 경고했다. 이들은 OpenAI와 Anthropic의 최신 모델이 3개월 만에 밀레니엄 문제를 포함한 미해결 연구 문제들을 풀어냈으며, 사이버보안·자율 무기·생화학 물질 개발 등 다른 분야에서도 유사한 속도로 능력이 향상될 것으로 가정해야 한다고 지적했다.

AI 연구자 5명 중 1명, 2024년 이미 AI 종말 시나리오 예상

Anthropic 연구자의 트위터 게시물을 계기로 AI 실존적 위험에 대한 논쟁이 크게 확산되고 있습니다. OpenAI와 전직 DeepMind 연구자들도 AI가 통제 불능 상태가 될 위험을 경고했으며, 1,500명 이상의 AI 연구자 설문에서 평균 18%가 AI로 인한 인류 멸종 가능성을 예상한 것으로 나타났습니다.

라운드테이블: AI가 정말 인류를 멸망시킬 수 있을까?

MIT Technology Review가 진행한 라운드테이블 세션으로, 세계 최고 AI 연구소 직원들이 고도화된 AI가 인류를 파괴할 실제 가능성이 있다고 말하는 것에 대한 논의를 담고 있다. AI 멸망 공포가 어디에서 비롯되었는지, 그 우려가 타당한지, 타당하다면 우리가 무엇을 해야 하는지 다룬다. AI 안전성과 실존적 위험 논쟁을 이해하려는 실무자에게 유용한 토론이다.