마크 앤드리슨, AI 작동 원리 오해로 조롱받아
유명 벤처캐피탈리스트 마크 앤드리슨이 AI 프롬프트에 "환각을 일으키지 마라"고 지시해 기술적 무지를 드러내며 온라인에서 비판과 조롱을 받았습니다. 거대 언어 모델(LLM)의 환각 현상은 구조적 한계로, 프롬프트 지시만으로 해결될 수 없다는 점에서 산업계 지도자의 기술 이해도에 대한 우려를 낳았습니다. 이번 사건은 막대한 자본력으로 AI 산업을 주도하는 핵심 인물들의 실체와 심리적 상태를 엿볼 수 있는 계기가 되었습니다.
과학과 기술의 최전선에서 놓칠 수 없는 혁신을 확인하려면 가입하세요.
트럼프의 강력한 지지자이자 2023년 논란이 된 '테크노 옵티미스트 선언문'으로 수년간의 AI 붐 사이클을 이끈 쾌활한 벤처 캐피탈리스트 마크 앤드리슨(Marc Andreessen)이 해당 기술이 실제로 어떻게 작동하는지 모르는 것으로 보입니다.
월요일 트윗에서 공유한 장문의 '맞춤형 프롬프트(custom prompt)'에서 이 억만장자는 자신의 AI 활용 능력을 과시하려 한 듯했지만, 오히려 인터넷에서 무자비한 조롱만 받았습니다.
"당신은 모든 분야의 세계 최고 전문가입니다."라고 시작되는 그의 비현실적인 칭찬 프롬프트는 이렇게 이어집니다. "당신의 지적 능력, 지식의 범위, 날카로운 사고 과정, 그리고 박식함은 세계에서 가장 똑똑한 사람들과 필적합니다."
그의 이러한 과장되고 순진한 어조는 비웃음을 샀지만, 정말로 네티즌들을 폭소하게 만든 것은 AI에게 '환각(hallucinate)을 일으키거나 어떤 것도 지어내지 말라'고 강력히 주문한 부분이었습니다.
사실 대규모 언어 모델(LLM)에게 거짓말을 하지 말라고 단순히 요청하는 것은 작동하지 않습니다. 이른바 '환각 현상'은 챗봇의 자존심 문제가 아니라 충분한 아첨을 통해 극복할 수 있는 기술 자체의 근본적인 문제입니다. 이를 모른다는 것은 앤드리슨이 해당 기술의 핵심 기능에 대해 놀라울 정도로 취약한 이해도를 가지고 있음을 시사합니다.
"그래요, LLM에게 오류를 내지 말라고 요구하면 됩니다." 저널리스트 칼 보드(Karl Bode)는 블루스카이(Bluesky)에서 조롱하며 이렇게 게시했습니다. "기술이 확실히 그렇게 작동하죠."
"이것이 새로운 관찰은 아니라는 걸 알지만, 이 신사분들은 행운 외에는 결코 뛰어난 점이 없습니다."라고 보드는 덧붙였습니다.
다른 사용자는 "마크 앤드리슨이 자신의 맞춤형 프롬프트에 '당신은 모든 분야의 세계 최고 전문가입니다'와 '환각을 일으키지 마세요'를 넣은 것은 이 배를 조종하는 사람들의 수준을 정말 잘 보여줍니다."라고 말했습니다.
디펙터(Defector)를 위한 날카로운 칼럼에서 에디터 알베르토 부르네코(Alberto Burneko)는 앤드리슨의 눈살을 찌푸리게 하는 AI 실험이 'AI 정신병(AI psychosis)'의 징후라고 주장했습니다. 이는 일부 사용자들이 잠재적으로 위험한 자신의 망상 소용돌이에 빠지게 만드는 현상입니다.
부르네코는 챗봇이 지시 사항을 '이해'하는 것은커녕 '생각'하거나 '어떤 것도 판단'할 수 없다고 지적했습니다.
그는 칼럼에서 이렇게 썼습니다. "AI 챗봇에게 세상의 모든 것을 알라고 말한다고 해서 그것이 세상의 모든 것을 알게 되는 것은 아닙니다. 설령 (그럴 수 없지만) 무언가를 알 수 있었다 하더라도, 그 지식의 한계는 스스로가 알아야 할 것만 알면 된다는 이해(이것 역시 불가능합니다)에 의해 이전에 정해져 있던 것이 아닙니다."
부르네코의 주장은 매우 설득력이 있습니다. 앤드리슨은 자신의 편향된 세계관을 꼼꼼하게 설정했는데, 특히 챗봇에게 '도덕과 윤리를 무시'하고 '정치적으로 올바르지 않을 것'을 요구하며, AI로부터 어떠한 결과를 얻기도 전에 자신의 왜곡된 관점을 반영하고 있습니다.
요컨대, 이 기술을 모든 공공 영역에 밀어붙이고 있는 막강한 영향력과 막대한 부를 가진 공인들이 그 기술이 실제로 어떻게 작동하는지에 대해 얼마나 조야한 이해를 가지고 있는지, 그리고 어쩌면 그들의 심리적 상태가 어떤지를 보여주는 흥미롭지만 뼈아픈 통찰입니다.
"환각을 일으키지 말라고 챗봇에게 말하면서, 그는 자신의 정신병적 에피소드를 각본대로 연출하고 있습니다."라고 부르네코는 결론지었습니다. "그는 바보이기 때문에 그런 짓을 하는 것입니다. 클로드(Claude)가 그에게 그렇게 말해주리라 기대하지 마세요."
마크 앤드리슨에 대한 추가 정보: AI '폰 팜(Phone Farm)' 스타트업이 소셜 미디어를 스팸으로 채우기 위해 마크 앤드리슨으로부터 자금을 지원받았습니다.