교황 레오, 톨킨을 빌려 테크 엘리트들에게 일침
교황 레오 14세가 첫 회칙을 통해 인공지능 시대의 인간 존엄성 경고와 함께 톨킨의 반권주의적 메시지를 강조했습니다. 특히 일론 머스크와 피터 틸 같은 테크 엘리트들의 권력 남용과 반대 해석을 간접적으로 비판한 것이 주목받고 있습니다. AI가 인류를 위한 도구가 아닌 착취와 통제의 수단으로 변질될 수 있다는 우려의 목소리입니다.
교황 레오 14세가 월요일에 발표한 첫 회칙(영적 지침을 위한 교황 서한)인 'Magnifica humanitas'에서 잘 알려진 성인들과 전임 교황들을 인용한 것은 놀라운 일이 아니었습니다. 하지만 많은 독자들의 눈길을 즉각적으로 사로잡은 이름은 하이 판타지 문학의 대명사인 '반지의 제왕'의 가톨릭 작가, J.R.R. 톨킨이었습니다.
레오 교황의 서한은 가톨릭 교회 지도자로서 그의 첫 해 주요 주제였던 '인공지능 시대에 인간을 보호하는 것'에 초점을 맞추고 있습니다. 그는 전임자인 프란치스코 교황의 견해를 빌려 '창조물을 착취의 대상으로, 인간을 끊임없이 효율성을 추구하는 시스템의 단순한 톱니바퀴로 전락시킬 수 있는' 기술관료적 패러다임의 지배력 확대에 대해 경고합니다. 그는 또다시 AI의 부상을 18세기 중반부터 20세기 초까지 이어진 산업혁명에 비유하며, 1891년 자신의 회칙에서 기술적 격변과 맹렬히 팽창하는 자본주의 제국의 시대에 노동자의 권리와 존엄성의 중요성을 주장했던 동명의 선대 교황 레오 13세의 가르침을 암시합니다.
이 장문의 텍스트는 AI에 대한 회의론자로서의 레오 교황의 입장을 더욱 확고히 합니다. 특히 피터 틸과 일론 머스크 같은 우파 억만장자들이 미들어스 신화를 거꾸로 해석해 온 점(이는 오랫동안 다른 반지의 제왕 팬들의 조롱을 받아왔습니다)을 고려할 때, 톨킨에 대한 언급은 매우 시의적절합니다. 누군가는 레오 교황이 이들을 트롤링하는 것 아닌가 생각할 수도 있습니다. (바티칸은 이에 대한 코멘트 요청에 즉각 답하지 않았습니다.)
분명히 교황은 인간의 능력을 뛰어넘는 범용 인공지능(AGI) 개발을 향해 경쟁하는 테크 올리가르크들의 동기에 대해 우려하고 있습니다. 그들이 정말로 이 도구를 질병을 치료하고 기후 변화를 해결하는 데 사용할 꿈을 꾸고 있는 것일까요, 아니면 무한한 이익과 문화적 지배력을 위한 엔진을 구축하고 있는 것일까요?
레오 교황이 이러한 어두운 세력에 맞서는 우리 각자의 책임에 대해 이야기할 때, 그는 톨킨의 유명한 마법사 간달프의 통찰을 빌려옵니다. "우리의 역할은 세상의 모든 파도를 지배하는 것이 아닙니다. 우리에게 주어진 시대를 돕기 위해 우리 안에 있는 것을 행하고, 우리가 아는 들판에서 악을 뿌리 뽑아 우리 뒤에 살아갈 사람들이 경작할 깨끗한 땅을 갖도록 하는 것입니다."
이 가르침은 머스크와 틸이 톨킨의 걸작에서 명백히 보고 있는 것과는 한참 거리가 멉니다. 틸은 자신의 데이터 분석 회사 '팔란티르(Palantir)'의 이름을 사가(Saga)에서 배신자 마법사 사루만이 첩보 장치로 사용한 수정구에서 따왔습니다. 또한 그는 자신의 벤처 캐피탈 회사인 파운더스 펀드를 '절대반지(the precious)'라고 부르는 것으로 알려져 있는데, 이는 전체주의적 권력의 마법적 수단인 절대반지를 향해 집착하는 왜곡되고 탐욕스러운 캐릭터 골룸이 그것을 부르는 호칭입니다.
톨킨(또는 그의 작품 각색판)을 접하는 거의 모든 사람은 그가 그러한 권력의 부패 효과에 대해 글을 쓰고 있었다는 것을 알 수 있습니다. 소설에서 통치하려는 유혹은 필연적으로 그 유혹에 굴복하는 자들을 파멸시킵니다. 그럼에도 틸은 악당들과 마찬가지로 권위주의적 통제와 전지전능함의 가능성을 즐기는 것처럼 보입니다.
머스크는 자신의 입장에서 톨킨의 서사시가 반이민, '장벽을 건설하라'는 우화로 읽힐 수 있다고 암시했습니다. 그는 지난 10월 X(옛 트위터)에 "톨킨이 호빗들에 대해 쓸 때, 그는 먼 곳에서 일어나는 끔찍한 일들을 깨닫지 못하는 영국 시골의 선량한 사람들을 가리켰다"고 게시했습니다. "그들은 평화와 고요 속에서 자신의 삶을 살 수 있었지만, 그것은 곤도르의 강인한 사람들이 그들을 보호했기 때문이다." 그는 이 정확하지 않은 '반지의 제왕'의 회상을 이슬람혐오주의 극우 영국 선동가 토미 로빈슨을 옹호하기 위해 제시했습니다.
사실 톨킨의 약탈 군대가 땅을 약탈하는 묘사는 군사화와 산업화의 공포에서 영감을 받았습니다. 이 두 가지 현상은 톨킨 세대의 영국인들이 매우 익숙했던 것들입니다. 제1차 세계대전에서 그가 겪은 기계화된 공포에 대한 경험은 사루만의 죽음의 캠페인에 결정적인 영감이 된 것으로 널리 이해되고 있으며, 사루만의 캠페인은 주로 (원문이 여기서 끊어짐) 기계화된 산업 파괴에 의존했습니다.