메뉴
HN
Hacker News • 6일 전

가장 많이 아는 사람이 가장 확신 없게 들린다

IMP
7/10
핵심 요약

Dwarkesh Patel의 AI 연구자 인터뷰에 대한 반응이 발화 습관(like 남발)에 집중된 것을 비판하며, 진짜 전문가의 신중하고 조건부적인 사고 방식이 오히려 불확실해 보이는 문제를 짚는 글이다. AI에 필요한 것은 정치인처럼 말하는 연구자가 아니라 더 나은 스토리텔러이며, 전문가들이 공개 논의에서 물러나면 언어 조작에 능한 사람들이 그 공백을 채울 것이라고 경고한다.

번역된 본문

가장 많이 아는 사람들이 가장 확신 없게 들린다. AI에는 더 나은 스토리텔러가 필요하다. 정치인처럼 말하도록 훈련받은 연구자는 필요하지 않다.

이번 주에 나는 Dwarkesh Patel이 John Schulman, Beren Millidge, Charlie O'Neill과 나눈 최근 대화를 시청했다. 한 시간 반 동안, AI 분야에서 일하는 가장 똑똑한 사람들이 정말 어려운 질문에 대해 공개적으로 추론하려 했다. AI가 AI 연구를 자동화할 수 있는가? AI가 스스로 연구 목표를 선택할 수 있는가? 우리에게 필요한 것이 깔끔한 보상(reward)으로 변환될 수 없을 때 진보는 벽에 부딪히는가? 모델이 실험 수행은 더 잘하게 되었지만 어떤 실험이 중요한지 판단하는 데는 여전히 인간이 필요할 때 무슨 일이 벌어지는가?

이것은 작은 질문들이 아니다. 그 답변들은 경제, 정치, 그리고 아마도 문명의 궤적까지 형성할 수 있다. 하지만 반응의 상당 부분은 발표자들이 얼마나 자주 "like(같은)"라고 말했는지에 관한 것이었다.

이해한다. 언어 습관을 한번 알아차리면 계속 눈에 밟히게 된다. "Like"는 문장을 덜 정밀하게 느끼게 만들 수 있다. 자주 사용되면 훌륭한 사람을 실제보다 덜 자신감 있게 들리게 만들 수 있다.

하지만 나는 그 반응 자체가 많은 것을 드러낸다고 생각했다. 우리는 깊고 일차적인 지식을 가진 사람들이 누구도 알지 못하는 경계에서 사고하려는 것을 봤다. 그들은 스스로를 정정했다. 주장에 한정 조건을 달았다. 예시를 찾았다. 어려운 생각을 실시간으로 조립하면서 가끔 군말을 쓰기도 했다.

한편, AI에 대한 공개 담론의 상당 부분은 정반대의 기술을 마스터한 정치인, 임원, 전문 논평가들이 이끌고 있다. 그들은 거의 이해하지 못하는 것에 대해 단순하고 세련된 확신을 전달한다. 현실로부터 마찰이 가장 적은 사람들이 문장에서도 마찰이 가장 적다. 그것이 문제다.

진실은 절이 더 많다

연구자들이 신중하게 말하는 데는 이유가 있다. 중요한 기술적 질문에 대한 정직한 대답은 종종 이렇다: 그것은 목표, 데이터, 환경, 시간 범위, 그리고 "지능"이 정확히 무엇을 의미하는지에 달려 있다. 이 대답은 정확하다. 하지만 TV로는 형편없다.

덜 신중한 화자는 엄청난 이점이 있다. 그들은 모든 조건을 제거하고, 확률을 예측으로 압축하며, 복잡한 시스템을 슬로건으로 바꿀 수 있다. AI가 모든 일자리를 가져갈 것이다. AI는 그냥 자동완성이다. AGI는 2년 남았다. AGI는 마케팅 사기다. 규제가 혁신을 죽일 것이다. 규제가 인류를 구할 것이다. 이 모든 것들은 "여기엔 여러 그럴듯한 메커니즘이 있고, 결과는 어느 병목이 지배하는지에 달려 있다"보다 더 멀리 퍼진다.

공개 담론은 보정(calibration)을 보상하기 훨씬 전에 확신을 보상한다. 이것은 AI에만 해당되는 것이 아니다. 하지만 AI는 이를 특히 위험하게 만든다. 왜냐하면 기술이 할 수 있는 것, 사람들이 할 수 있다고 생각하는 것, 그리고 기관들이 할 수 있다고 주장하는 것 사이의 격차가 이미 엄청나기 때문이다. 일자리, 교육, 국가 안보, 투자, 규제에 대한 결정이 바로 그 격차 안에서 이루어지고 있다.

시스템을 이해하는 사람들이 논문, 사설 연구소, 서로만 이해할 수 있는 대화 속으로 물러난다면, 그 공백은 비어 있지 않을 것이다. 전문성이 언어 그 자체인 사람들—메시지 관리, 감정적 후크, 선별된 통계, 뉴스 사이클을 버틸 수 있도록 설계된 문장들—이 그것을 채울 것이다. 기술적 진실에 스토리텔러가 없을 때 언어적 재주는 기술적 진실을 이긴다.

Dwarkesh(및 유사한 포맷)가 중요한 이유

이것이 Dwarkesh 같은 포맷이 중요한 이유다. 그는 전문가들이 승인된 결론에 도달하는 것만이 아니라 공개적으로 추론할 수 있는 공간을 만들고 있다. 불일치 그 자체가 콘텐츠다. 가정이 테스트되고, 정의가 수정되며, 확신에 찬 입장이 압박 아래 덜 확신적으로 변하는 것을 듣게 된다. 그것이 사고가 들리는 소리다.

그것은 또한 지저분하다. 세련된 기조연설은 버려진 갈래들을 숨긴다. 라이브 대화는 그것들을 드러낸다. 누군가는 문장이 정확히 어디서 끝날지 모른 채 문장을 시작한다. 비유를 사용하고, 그것이 완벽하지 않다는 것을 깨닫고, 다른 것으로 교체한다. 어려운 생각을 조립하면서 "like"를 말한다.

원문 보기
원문 보기 (영어)
The people who know the most often sound the least certain AI needs better storytellers. It does not need its researchers trained to sound like politicians. Vrash Sep 19, 2026 Share I watched Dwarkesh Patel’s recent conversation with John Schulman, Beren Millidge and Charlie O’Neill this week. For an hour and a half, some of the smartest people working in AI tried to reason, in public, about genuinely difficult questions. Can AI automate AI research? Can it choose its own research objectives? Does progress hit a wall when the thing we need cannot be turned into a clean reward? What happens when models become better at running experiments but humans are still needed to decide which experiments matter? These are not small questions. The answers could shape the economy, politics and quite possibly the trajectory of civilisation. But a noticeable share of the reaction was about how often the speakers said “like”. I get it. Once you notice a verbal tic, it can become impossible to stop noticing it. “Like” can make a sentence feel less precise. Used often enough, it can make a brilliant person sound less confident than they are. But I also found the reaction revealing. We had people with deep, first-hand knowledge trying to think at the edge of what anyone knows. They corrected themselves. They qualified claims. They searched for examples. They occasionally reached for a filler word while assembling a difficult thought in real time. Meanwhile, much of the public conversation about AI is being led by politicians, executives, and professional commentators who have mastered the opposite skill: delivering simple, polished certainty about things they barely understand. The people with the least friction from reality often have the least friction in their sentences. That is a problem. Truth has more clauses Researchers hedge for a reason. The honest answer to an important technical question is often: it depends on the objective, the data, the environment, the time horizon and what exactly you mean by “intelligence”. That answer is accurate. It is also terrible television. The less careful speaker has an enormous advantage. They can remove every condition, compress a probability into a prediction and turn a complicated system into a slogan. AI will take every job. AI is just autocomplete. AGI is two years away. AGI is a marketing scam. Regulation will kill innovation. Regulation will save humanity. All of these travel further than: “There are several plausible mechanisms here, and the result depends on which bottleneck dominates.” Public discourse rewards confidence long before it rewards calibration. This is not unique to AI. But AI makes it unusually dangerous because the gap between what the technology can do, what people think it can do, and what institutions claim it can do is already enormous. Decisions about jobs, education, national security, investment, and regulation are being made inside that gap. If the people who understand the systems retreat into papers, private labs, and conversations legible only to one another, the vacuum will not remain empty. It will be filled by people whose expertise is language itself: message discipline, emotional hooks, selective statistics, and sentences engineered to survive a news cycle. Language hijinks beat technical truth when technical truth has no storyteller. Why Dwarkesh (and other similar formats) matter This is why formats like Dwarkesh’s matter. He is creating space for experts to reason in public, not merely arrive at an approved conclusion. The disagreement is the content. You hear assumptions being tested, definitions being repaired, and confident positions becoming less confident under pressure. That is what thinking sounds like. It is also messy. A polished keynote hides the discarded branches. A live conversation exposes them. Someone begins a sentence before they know exactly where it will end. They use an analogy, realise it is imperfect, and replace it. They say “like” while searching for the bridge between an intuition and a claim. We should want more of this, not less. But the criticism cannot simply be dismissed either. If experts want to influence public understanding, being correct is not enough. An idea that cannot escape the room loses to a worse idea that can. It is also why I really love the new whiteboard formats. A whiteboard makes the construction of an idea visible. You watch someone draw the model, notice where it does not quite work, erase part of it, and try again. It turns expertise from a polished answer into a process the rest of us can follow. The answer is not to turn researchers into politicians. It is to help technical people carry more of their intelligence across the gap. I have had to learn this the hard way. Speaking when your brain is running ahead of your mouth I am a neurodivergent (AuDHD) builder turned CEO. My brain tends to branch. While I am explaining one idea, I can see three qualifications, two exceptions , 4 steps ahead, and an adjacent problem that suddenly feels important, whilst trying to solve a different problem in my head. If I try to say all of them, the main point disappears. If I suppress them all, I worry that I am being inaccurate. Sales makes this especially unforgiving. A customer does not experience the internal sophistication of your mental model. They experience the sentence that arrives. Over time, I have found a few things that make speaking easier without forcing me to pretend the world is simpler than it is. 1. Practise the ELI5/10/15 version Simple language is not evidence of simple thinking. It is usually evidence that someone has done the compression work. I practise explaining ideas as if the listener were five, then ten, then an intelligent adult outside the field. GPT is useful here, not as a ghostwriter, but as a sparring partner. Ask it: Which words in this explanation require prior knowledge? Explain my idea back to me as if you were a customer hearing it for the first time. What is the one sentence they are likely to remember? If the simple version changes the meaning, it is too simple. If it preserves the mechanism, you have probably found the idea. 2. Use the Obama pause Silence feels much longer to the speaker than it does to the audience. When I need to think, my instinct is to keep the audio channel occupied: “like”, “um”, “sort of”, “you know”. Barack Obama often did something more effective. He paused. A pause can feel authoritative because it signals that the next sentence is being chosen rather than spilled. More importantly, it gives your working memory a moment to catch up. You do not need to eliminate every filler word. Just replace some of them with air. 3. Give people one story to carry People rarely repeat your framework accurately. They repeat the story that made the framework make sense. The simplest story structure I know is: A person wanted something. Something got in the way. Something changed. That is enough. In sales, I try not to begin with the architecture of the product. I begin with the customer who was losing leads after 6pm, the employee who came in each morning to a pile of callbacks, and what changed when those conversations were handled immediately. The technology can follow. The story gives it somewhere to land. 4. Put the claim before the caveat Experts often lead with everything that could make them wrong. “I have not looked at all the data, and there are several possible explanations, but perhaps…” By the time the claim arrives, the room has mentally left. Try reversing the order: “The bottleneck is evaluation. There are two cases where that may not hold.” The uncertainty is still there. It is simply attached to a legible position. This matters because non-experts will not hedge on your behalf. If you bury your conclusion under seven qualifications, someone with less knowledge will state a worse conclusion in eight words and own the conversation. Be assertive where the evidence allows it. Hedge wh