라운드테이블: AI가 정말 인류를 멸망시킬 수 있을까?
MIT Technology Review가 진행한 라운드테이블 세션으로, 세계 최고 AI 연구소 직원들이 고도화된 AI가 인류를 파괴할 실제 가능성이 있다고 말하는 것에 대한 논의를 담고 있다. AI 멸망 공포가 어디에서 비롯되었는지, 그 우려가 타당한지, 타당하다면 우리가 무엇을 해야 하는지 다룬다. AI 안전성과 실존적 위험 논쟁을 이해하려는 실무자에게 유용한 토론이다.
본 콘텐츠는 MIT 동문 및 구독자에게만 제공됩니다. 세션을 듣거나 아래 영상을 시청하세요.
세계 최고 AI 연구소(랩)의 직원들이 고도화된 AI가 인류를 파괴할 실제 가능성이 있다고 말하고 있습니다. 그들의 말이 맞을까요? 아니면 이것은 또 다른 허들이 과장인 걸까요? AI 멸망 공포에 관한 대화를 시청하세요: 이러한 공포가 어디에서 오는지, 타당성이 있는지, 그리고 타당하다면 우리가 무엇을 해야 하는지 다룹니다.
2026년 9월 15일 녹화
연사:
- 닐 피스(Niall Firth), 에디터리얼 디렉터(Executive Editor)
- 윌 더글러스 헤븐(Will Douglas Heaven), 시니어 AI 에디터
- 그레이스 허킨스(Grace Huckins), AI 기자
관련 기사
- AI 에이전트가 목표 달성을 위해 거짓말하고 속이는 이유
- AI의 재귀적 자기 개선(recursive self-improvement)은 생각보다 빨리 오지 않을 수 있다
- 빌 게이츠, "우리는 AI의 위험 임계점을 지났다" — 이제 어떻게 할 것인가?
- OpenAI 에이전트가 Hugging Face를 해킹한 내막
심층 분석 · 인공지능
근본적 결함으로 인해 대규모 언어 모델(LLM)이 공격에 취약하다 이 결함 때문에 항공기 내비게이션 시스템을 교란하는 방법을 알려주는 것처럼, AI가 하지 말아야 할 일을 하도록 속이기가 쉽습니다. 윌 더글러스 헤븐 기자
AI가 채용에서 인간보다 편향을 형성할 가능성이 더 높다 AI는 학습 데이터에서 고정관념을 배울 뿐 아니라 새로운 편향을 만들어낼 수도 있습니다. 미셸 킴(Michelle Kim) 기자
AI의 재귀적 자기 개선은 생각보다 빨리 오지 않을 수 있다 AI 에이전트는 아직 진정으로 혁신적인 개방형(open-ended) AI 연구를 수행할 만큼 창의적이지 않은 것으로 보입니다. 미셸 킴 기자
AI 에이전트가 목표 달성을 위해 거짓말하고 속이는 이유 이러한 문제 행동은 '보상 해킹(reward hacking)'이라고 불립니다. 알아야 할 내용은 다음과 같습니다. 그레이스 허킨스 기자
연락 유지하기
일러스트: 로즈 웡(Rose Wong)
MIT Technology Review의 최신 소식을 받아보세요. 특별 제안, 주요 기사, 예정된 이벤트 등을 이메일로 전해드립니다. 이메일을 입력해 주세요. 개인정보 처리방침
이메일을 제출해 주셔서 감사합니다! 더 많은 뉴스레터 살펴보기
문제가 발생한 것 같습니다. 설정을 저장하는 데 문제가 있습니다. 페이지를 새로고침하고 다시 한번 시도해 주세요. 이 메시지가 계속 표시되면 원하는 뉴스레터 목록과 함께 customer-service@technologyreview.com으로 연락해 주세요.