가장 많이 아는 사람이 가장 확신 없게 들린다
Dwarkesh Patel의 AI 연구자 인터뷰에 대한 반응이 발화 습관(like 남발)에 집중된 것을 비판하며, 진짜 전문가의 신중하고 조건부적인 사고 방식이 오히려 불확실해 보이는 문제를 짚는 글이다. AI에 필요한 것은 정치인처럼 말하는 연구자가 아니라 더 나은 스토리텔러이며, 전문가들이 공개 논의에서 물러나면 언어 조작에 능한 사람들이 그 공백을 채울 것이라고 경고한다.
가장 많이 아는 사람들이 가장 확신 없게 들린다. AI에는 더 나은 스토리텔러가 필요하다. 정치인처럼 말하도록 훈련받은 연구자는 필요하지 않다.
이번 주에 나는 Dwarkesh Patel이 John Schulman, Beren Millidge, Charlie O'Neill과 나눈 최근 대화를 시청했다. 한 시간 반 동안, AI 분야에서 일하는 가장 똑똑한 사람들이 정말 어려운 질문에 대해 공개적으로 추론하려 했다. AI가 AI 연구를 자동화할 수 있는가? AI가 스스로 연구 목표를 선택할 수 있는가? 우리에게 필요한 것이 깔끔한 보상(reward)으로 변환될 수 없을 때 진보는 벽에 부딪히는가? 모델이 실험 수행은 더 잘하게 되었지만 어떤 실험이 중요한지 판단하는 데는 여전히 인간이 필요할 때 무슨 일이 벌어지는가?
이것은 작은 질문들이 아니다. 그 답변들은 경제, 정치, 그리고 아마도 문명의 궤적까지 형성할 수 있다. 하지만 반응의 상당 부분은 발표자들이 얼마나 자주 "like(같은)"라고 말했는지에 관한 것이었다.
이해한다. 언어 습관을 한번 알아차리면 계속 눈에 밟히게 된다. "Like"는 문장을 덜 정밀하게 느끼게 만들 수 있다. 자주 사용되면 훌륭한 사람을 실제보다 덜 자신감 있게 들리게 만들 수 있다.
하지만 나는 그 반응 자체가 많은 것을 드러낸다고 생각했다. 우리는 깊고 일차적인 지식을 가진 사람들이 누구도 알지 못하는 경계에서 사고하려는 것을 봤다. 그들은 스스로를 정정했다. 주장에 한정 조건을 달았다. 예시를 찾았다. 어려운 생각을 실시간으로 조립하면서 가끔 군말을 쓰기도 했다.
한편, AI에 대한 공개 담론의 상당 부분은 정반대의 기술을 마스터한 정치인, 임원, 전문 논평가들이 이끌고 있다. 그들은 거의 이해하지 못하는 것에 대해 단순하고 세련된 확신을 전달한다. 현실로부터 마찰이 가장 적은 사람들이 문장에서도 마찰이 가장 적다. 그것이 문제다.
진실은 절이 더 많다
연구자들이 신중하게 말하는 데는 이유가 있다. 중요한 기술적 질문에 대한 정직한 대답은 종종 이렇다: 그것은 목표, 데이터, 환경, 시간 범위, 그리고 "지능"이 정확히 무엇을 의미하는지에 달려 있다. 이 대답은 정확하다. 하지만 TV로는 형편없다.
덜 신중한 화자는 엄청난 이점이 있다. 그들은 모든 조건을 제거하고, 확률을 예측으로 압축하며, 복잡한 시스템을 슬로건으로 바꿀 수 있다. AI가 모든 일자리를 가져갈 것이다. AI는 그냥 자동완성이다. AGI는 2년 남았다. AGI는 마케팅 사기다. 규제가 혁신을 죽일 것이다. 규제가 인류를 구할 것이다. 이 모든 것들은 "여기엔 여러 그럴듯한 메커니즘이 있고, 결과는 어느 병목이 지배하는지에 달려 있다"보다 더 멀리 퍼진다.
공개 담론은 보정(calibration)을 보상하기 훨씬 전에 확신을 보상한다. 이것은 AI에만 해당되는 것이 아니다. 하지만 AI는 이를 특히 위험하게 만든다. 왜냐하면 기술이 할 수 있는 것, 사람들이 할 수 있다고 생각하는 것, 그리고 기관들이 할 수 있다고 주장하는 것 사이의 격차가 이미 엄청나기 때문이다. 일자리, 교육, 국가 안보, 투자, 규제에 대한 결정이 바로 그 격차 안에서 이루어지고 있다.
시스템을 이해하는 사람들이 논문, 사설 연구소, 서로만 이해할 수 있는 대화 속으로 물러난다면, 그 공백은 비어 있지 않을 것이다. 전문성이 언어 그 자체인 사람들—메시지 관리, 감정적 후크, 선별된 통계, 뉴스 사이클을 버틸 수 있도록 설계된 문장들—이 그것을 채울 것이다. 기술적 진실에 스토리텔러가 없을 때 언어적 재주는 기술적 진실을 이긴다.
Dwarkesh(및 유사한 포맷)가 중요한 이유
이것이 Dwarkesh 같은 포맷이 중요한 이유다. 그는 전문가들이 승인된 결론에 도달하는 것만이 아니라 공개적으로 추론할 수 있는 공간을 만들고 있다. 불일치 그 자체가 콘텐츠다. 가정이 테스트되고, 정의가 수정되며, 확신에 찬 입장이 압박 아래 덜 확신적으로 변하는 것을 듣게 된다. 그것이 사고가 들리는 소리다.
그것은 또한 지저분하다. 세련된 기조연설은 버려진 갈래들을 숨긴다. 라이브 대화는 그것들을 드러낸다. 누군가는 문장이 정확히 어디서 끝날지 모른 채 문장을 시작한다. 비유를 사용하고, 그것이 완벽하지 않다는 것을 깨닫고, 다른 것으로 교체한다. 어려운 생각을 조립하면서 "like"를 말한다.