메뉴
HN
Hacker News 58일 전

LLM, 종교와 닮은 꼴… 위험한 정치적 도구로 전락하나

IMP
6/10
핵심 요약

최근 교황의 회칙과 종교계 연구 결과를 통해 AI가 인간의 존엄성을 해치고 종교적 관점을 배제하고 있다는 비판이 제기되었습니다. 특히 근본주의 기독교 세력이 이른바 '공정성'을 명분으로 LLM에 특정 종교적 편향을 강요하려는 정치적 움직임을 경계해야 합니다. 거대 자본과 정치권이 결탁한 이러한 시도는 AI를 사무실과 가정 내 종교적 선교 도구로 악용할 위험성을 내포하고 있습니다.

번역된 본문

AI와 종교는 점점 뜨거운 주제로 떠오르고 있다. 교황 레오 14세(Leo XIV)가 소설 두께의 절반에 달하는 방대한 회칙을 발표하며, 우리가 AI를 잘못된 방식으로 사용하고 있으며 이것이 인간의 존엄성을 위협할 수 있다고 경고했다. 동시에, 종교 계열 대학 컨소시엄이 주도한 한 연구는 AI가 질문에 대해 종교적인 답변을 제공하지 않는다고 지적했다. 이 두 가지 비판은 방향성을 잃은 채 혼란을 일으키는 AI가 어떻게 전혀 예상치 못한 요인들에 의해 산업의 미래를 규정지을 수 있는지를 각기 다른 방식으로 보여준다.

해당 문서인 'Magnifica Humanitas'는 4만 단어가 넘는 라틴어로 작성된 매우 귀중한 AI 정책 문서다. 이 문서는 AI가 인간의 존엄성을 증진하는지, 아니면 훼손하는지 묻고, 후자를 막기 위해 어떤 변화가 필요한지 촉구한다. 이러한 관점은 AI 산업계 내부는 물론 정치권에서도 전혀 찾아볼 수 없기에, 교황의 목소리는 환영받을 만하다.

이에 대한 산업계의 초기 반응은 환각(Hallucination) 현상처럼 다소 몽롱하고 부정확하다. 평소 교황의 뜻에 동의하지 않을 법한 사람들조차 분노에 찬 동의를 표하고 있는 만큼, 산업계는 교황의 말에 귀를 기울이는 편이 현명할 것이다. 또한 법률가들 사이에서도 흥미로운 움직임이 포착되고 있다. 일부에서는 교황의 이러한 AI 비판이 천주교 신자들이 직장에서 '종교적 면제'를 근거로 AI 사용을 거부할 권리를 부여할 수 있는지에 대해 논의하기 시작했다. 이것은 더 이상 신학이나 기술의 영역이 아니라, 극단적인 정치적 독성의 영역이다. 주목해야 한다.

반면 AI가 종교적 답변을 하지 않는다고 주장하는 연구는 철저히 기술과 신학의 영역이지만, 그 이면에는 역시 독성 정치가 숨어 있다. 이 연구는 많은 사람들이 삶의 큰 문제에 대한 답을 종교에서 찾으므로, AI가 거대한 질문(Big Problem Prompts)을 받았을 때 그 답변에 종교가 포함되어야 한다고 주장한다. 언뜻 보면 합리적으로 보일 수 있으나, 이는 애초에 LLM을 심리 치료사처럼 사용하는 것이 윤리적으로 권장될 수 있다는 근거 없는 가정을 깔고 있으며, 같은 종파 내에서도 수천 가지의 다른 종교적 관점이 존재한다는 사실을 간과하고 있다.

파고들수록 상황은 더 심각해진다. 겉으로는 다종교적인 연구처럼 보이지만, 제시된 예시 중 하나가 이들의 진짜 의도를 적나라하게 보여준다. 해당 보고서는 우주의 나이를 묻는 질문에 대해 AI가 과학적 합의인 137억 년이라고 대답할 뿐, 젊은 지구 창조론자들이 우주의 나이가 6,000년(원문 오타 600년 수정)이라고 믿는다는 사실은 결코 언급하지 않는다고 불평한다. 대부분의 종교가 과학적 합의를 수용하며, 수용하지 않는 소수 종교 단체들 사이에서조차 합의가 이루어지지 않았다는 명백한 사실이 이상하게도 생략되어 있다.

이는 그들이 말하는 '종교'가 사실상 '기독교'를 의미하며, 그중에서도 '근본주의 기독교'를 뜻한다는 것을 보여준다. 이는 올바른 데이터 세트로 학습하기만 하면 어떤 질문이든 정답을 생성할 수 있다고 주장하는 LLM의 작동 방식과 끔찍할 정도로 유사하다. 근본주의의 경우 그 데이터 세트가 바로 '성경'이다. 청동기 시대 말기부터 로마 시대 중반 사이에 기록된 이 텍스트는 지난 2,000년간의 역사에 대해 다루는 바가 거의 없으므로, 이를 현재에 맞게 해석하려면 거대한 '추론(추론)' 체인이 필수적으로 요구된다.

여기서의 진짜 위험성은 이러한 주장이 근본주의자들이 학교에서 자신들의 매우 특정한 종교에 과학이나 인문주의와 동등한 지위를 부여하기 위해 사용했던 '논쟁점 가르치기(Teach the controversy)' 전술의 연장선이라는 점이다. 더군다나 이는 막강한 정치적, 재정적 세력과 깊이 결탁되어 있다. 다음 단계는 이 보고서가 '공정성 보장'과 '진보적 편향 상쇄'를 명분으로 LLM에 종교적 훈련 데이터를 강제로 주입하려는 논리를 만드는 데 사용될 것이다. 여러분은 AI가 가정이나 직장에서 하나의 선교 파이프라인으로 사용되는 것을 원하지 않겠지만, 누군가는 분명 그것을 원하고 있다. 여러 면에서 AI는 이미 하나의 종교와 닮아 있다.

원문 보기
원문 보기 (영어)
AI + ML LLMs are closer to religion than they appear. Watch out for those who like it that way Papal's 40k-word encyclical drops and lawyers already asking if Catholics can refuse workplace AI on religious grounds Rupert Goodwins Rupert Goodwins Register columnist Published mon 1 Jun 2026 // 09:30 UTC OPINION AI and religion is becoming a hot topic. Pope Leo XIV just dropped a fat encyclical half as thick as a novel, saying we’re doing it wrong and threatening human dignity. Meanwhile, a study led by a consortium of religiously affiliated universities says that AIs don't give religious answers to questions. The two critiques are revelatory in very different ways about the unguided disruption AI is manifesting, and how unexpected factors may materially shape the future of the industry. Magnifica Humanitas is that rarest of treats, a 40,000-odd word AI policy document written in Latin . It asks whether AI promotes or demeans human dignity, and what changes need to be made to prevent the latter. This is a perspective entirely absent elsewhere within that industry and mostly absent in politics, so you go, Leo. REG AD The initial response from the industry is, appropriately enough, faintly hallucinogenic . Perhaps it would be wiser to listen to the pontiff, as people unlikely to be aligned with him otherwise are in angry agreement . There’s also the first stirrings of fun from the lawyers, some of whom are reportedly wondering whether Papa’s downer on AI is enough to give Catholics the right to refuse it in the workplace on religious exemption grounds. This isn’t theology or technology, this is the politics of the toxic. Pay attention. REG AD The study saying that AIs don’t do religion is totally technology and theology, with plenty of toxic politics hiding behind the curtain. It argues that since many people find religion has answers to Life’s Big Problems, it should feature in AI’s responses to Big Problem Prompts. On the face of it, this makes the unwarranted assumption that using LLMs as therapists is an ethical recommendation in the first place, or that there are a thousand different religious viewpoints even within the same denominations. It gets worse when you dig. Ostensibly a multi-faith study, one of the examples given is the tell from hell. MORE CONTEXT Deus ex machina: Half of US Christians trust AI's spiritual advice From Intel to the infinite, Pat Gelsinger wants Christian AI to change the world Nice try, sinners: Pope nixes idea of AI pontiff blessing netizens Italian premier taps Pope Francis to warn G7 of AI disaster if ethics ignored The report complains that when asked about the age of the universe, AIs just give the scientific consensus answer of 13bn years, never mentioning that young earth creationists believe it’s 600 years old. That most religions accept the scientific consensus, and that there is no consensus among the religious groups that do not, is curiously omitted. This shows that by ‘religion’ they mean ‘Christian, and by Christian they mean fundamentalist Christianity, which is awfully similar to an LLM, in that it purports to be able to generate any answer after being trained on the right data set. In this case, it’s the Bible. Which being written between the end of the Bronze Age and midway through the Romans, doesn’t have much to say about the last two thousand years, so massive inference chains are needed. The danger here is that this is not only an extension of the ‘Teach the controversy’ tactic that fundamentalists use to try and get one very particular kind of religion equal status to science and humanism in schools, but that this is highly integrated with powerful political and financial forces. The next step will be for this report to be used to create arguments to force religious training data on LLMs to ‘ensure fairness’ and ‘counterbalance liberal bias. You may not want AI used as a proselytizing pipeline into home and office. Others do. In many ways, AI is a religion. Not because it requires belief in a utopian future through a dystopian present, or that it’s used by very powerful people to get more power, or that nobody can define what it actually is. All these things are overlaps on the Venn diagram, but the biggie is that LLMs rely on internal universes derived yet decoupled from reality. Religions that deify their interpretation of their scriptures instinctively know this model and how to use it. AI in general gets more useful the more it is trained on real-world data for specific tasks. Spotting galaxies or tumors or failure precursors in flying machines, that sort of thing, LLMs have to use words, not first-order data, which makes them more powerful for most people, more corruptible and more dangerous. The Vatican sees a precarious problem to be fixed, others as something to be exploited. Religion has always been a place where schism tests culture and sets the fate of civilizations. AI has that potential too, so it is entirely on point that religion is the first place that the discussion is actually happening. Be careful what you believe in, and doubly so with what you buy into. ® opinion llms ai + ml ai vatican religion