AI 10분만 써도 뇌가 게을러진다
카네기멜론, MIT 등 공동 연구에 따르면 단 10분의 AI 챗봇 사용도 인간의 문제 해결 능력과 끈기를 저하시킬 수 있습니다. 연구진은 AI가 즉각적인 생산성은 높일 수 있으나, 장기적인 기초 학습 능력을 잠식할 수 있다고 경고하며 사용자가 스스로 사고하도록 돕는 AI 설계의 필요성을 강조했습니다.
카네기멜론, MIT, 옥스퍼드, UCLA 연구진의 새로운 연구에 따르면, 단 10분이라도 AI 챗봇을 사용하면 사람의 사고力和 문제 해결 능력에 충격적으로 부정적인 영향을 미칠 수 있는 것으로 나타났습니다.
연구진은 온라인 플랫폼을 통해 참가자들에게 간단한 분수 계산과 독해 등 다양한 문제를 주고 그에 대한 대가를 지불하는 실험을 진행했습니다. 연구진은 수백 명의 사람을 대상으로 세 차례의 실험을 실시했습니다. 일부 참가자에게는 문제를 스스로 해결할 수 있는 AI 어시스턴트에 접근할 수 있는 권한이 주어졌습니다.
이 AI 도우미가 갑자기 사라졌을 때, 이들은 문제를 포기하거나 엉뚱한 대답을 할 확률이 훨씬 높았습니다. 이 연구는 AI의 광범위한 사용이 기초적인 문제 해결 기술의 개발을 희생시키면서 생산성을 높일 수 있음을 시사합니다.
이 연구에 참여한 MIT의 미키엘 바커(Michiel Bakker) 조교수는 “교육이나 직장에서 AI를 금지해야 한다는 것이 결론이 아니다”라고 말합니다. 그는 “AI는 분명히 사람들이 당장 더 나은 성과를 내도록 도울 수 있으며, 그것은 가치가 있다. 하지만 AI가 어떤 종류의 도움을 제공하는지, 그리고 언제 제공하는지에 대해 더 신중해야 한다”고 덧붙였습니다.
최근 필자는 헝클어진 머리와 활짝 웃는 미소를 지닌 바커를 MIT 캠퍼스에서 만났습니다. 네덜란드 출신인 그는 이전에 런던의 구글 딥마인드(Google DeepMind)에서 일했습니다. 그는 AI가 시간이 지남에 따라 인간을 어떻게 무력화할 수 있는지에 대한 잘 알려진 에세이가 이 기술이 이미 사람들의 능력을 어떻게 잠식하고 있는지 생각하게 만들었다고 말했습니다. 이 에세이는 다소 우울한 읽을거리인데, 왜냐하면 그것이 인간의 무력화를 불가피한 것으로 암시하기 때문입니다. 그렇긴 하지만, AI가 사람들 자신의 정신적 능력을 개발하도록 돕는 방법을 알아내는 것 역시 모델을 인간의 가치와 일치시키는 방법의 일부가 되어야 할지도 모릅니다.
바커는 “이것은 근본적으로 인지적인 질문, 즉 끈기, 학습, 그리고 사람들이 어려움에 어떻게 대처하는지에 대한 것입니다. 우리는 장기적인 인간과 AI의 상호작용에 대한 이러한 광범위한 우려를 제어된 실험 환경에서 연구하고자 했습니다.”라고 말합니다.
바커는 사람이 문제 해결에 끈기를 가지려는 의지가 새로운 기술을 습득하는 데 결정적이며, 장기적인 학습 능력을 예측하는 지표이기도 하다는 점에서 결과로 나온 연구가 특히 우려스럽다고 말합니다. 바커는 AI 도구의 작동 방식을 재고해야 할 필요가 있을 것이라고 말합니다. 훌륭한 인간 교사처럼, 모델이 때로는 문제를 대신 해결해 주는 것보다 사람의 학습을 우선시해야 한다는 것입니다.
바커는 “직접적인 정답을 주는 시스템은 사용자를 지도하고 코칭하거나 도전 과제를 던져주는 시스템과 장기적인 효과에서 매우 다를 수 있습니다.”라고 말합니다. 하지만 그는 이러한 '가부장적'인 접근 방식의 균형을 맞추는 것이 까다로울 수 있다고 인정합니다.
AI 기업들 역시 자사 모델이 사용자에게 미칠 수 있는 더 미묘한 영향에 대해 이미 고려하고 있습니다. 일부 모델의 아부(sycophancy) 현상, 즉 사용자의 의견에 동의하고 비위를 맞추려는 경향은 오픈AI(OpenAI)가 최신 GPT 출시 때마다 줄이려고 노력해 온 부분입니다.
이러한 도구들이 사용자가 기대한 대로 작동하지 않을 때 AI를 과도하게 믿는 것은 특히 문제가 될 수 있습니다. 에이전트(Agentic) AI 시스템은 복잡한 작업을 독립적으로 수행하고 기이한 오류를 발생시킬 수 있기 때문에 특히 예측 불가능합니다. 이는 클로드 코드(Claude Code)와 코덱스(Codex)가 자신들이 만들어낸 버그를 수정해야 할지도 모르는 코더들의 기술에 어떤 영향을 미치고 있는지 궁금하게 만듭니다.
최근 필자 자신도 비판적 사고를 AI에 떠넘기는 것의 위험성을 뼈저리게 겪었습니다. 필자는 매일 OpenClaw(내부에 Codex가 탑재됨)를 일상적인 도우미로 사용해 왔으며, 이것이 리눅스 환경의 구성 문제를 해결하는 데 놀라울 정도로 뛰어나다는 것을 발견했습니다. 그러나 최근 Wi-Fi 연결이 계속 끊어진 후, AI 어시스턴트는 Wi-Fi 카드와 통신하는 드라이버를 조정하기 위해 일련의 명령을 실행할 것을 제안했습니다. 그 결과, 무슨 짓을 해도 부팅이 되지 않는 컴퓨터가 되어버렸습니다. 어쩌면 단순히 나를 위해 문제를 해결하려고 하기보다는, OpenClaw가 잠시 멈춰서 내가 스스로 문제를 해결하는 방법을 가르쳐 주었어야 할지도 모릅니다. 그랬다면 필자의 컴퓨터는 물론 필자의 뇌까지도 더 뛰어났을 것입니다.