#구글딥마인드

AI의 사고 과정 공개는 안전성 이점이지만, 그 투명성은 사라지고 있다

Google DeepMind 연구진은 AI 모델이 추론 과정을 자연어로 공개하는 '사고 연쇄(CoT)'가 기만 행위나 위험한 계획을 탐지할 수 있는 핵심 안전 도구라고 강조했습니다. 그러나 OpenAI의 GPT-6 Astra 시스템 카드는 CoT 모니터링 가능성이 크게 감소했음을 보고했으며, 미래 모델은 인간이 읽을 수 없는 방식으로 사고할 수 있다고 경고했습니다.

언어 모델은 불가능, 세계 모델이 과학 혁명을 이끌 것이다

구글 딥마인드의 톰 자하비(Tom Zahavy)는 언어 모델이 귀납과 연역은 잘 수행하지만, 완전히 새로운 가설을 만들어내는 '가추(Abduction)' 능력이 부족하다고 지적합니다. 특히 그는 수학적 계산이 아닌 신체적 감각을 기반으로 한 사고의 도약이 필요하며, 이는 언어 모델의 한계를 넘어 '세계 모델(World models)'만이 달성할 수 있다고 주장합니다.