교황 레오 14세의 새 칙서는 AI가 결코 중립적이지 않으며 상업적 산물에 불과하다고 경고하며 인간의 연대를 촉구합니다. 정부의 규제가 미비한 가운데, 수백억 달러를 운용하는 기관 투자자들이 기업의 AI 투명성과 인권 존중을 요구하며 실질적인 거버넌스를 이끌고 있습니다. 이는 이해관계자들이 연대하여 AI의 무분별한 확장을 막고 공동의 인류를 재건하는 실질적인 행동 지침을 제시합니다.
번역된 본문
교황 레오 14세의 새로운 인공지능 칙서는 기술자와 정책 입안자들의 진지한 주의를 요하는 한 가지 중요한 선언을 담고 있습니다. "기술은 결코 중립적이지 않다"는 것입니다. '위대한 인간(Magnifica Humanitas)'이라는 이름의 이 칙서는 인류의 삶을 산업혁명 이후 가장 큰 변화로 이끌고 있는 AI 시대에 접어든 모든 사람들에게 용기와 연대로 행동할 것을 촉구하는 나팔소리와도 같습니다. 교황이 말하듯, 우리 앞에 놓인 선택, 즉 AI가 제시하는 선택은 '바벨탑'을 쌓는 것과 '우리의 공동 인류'를 재건하는 것 중 하나입니다. 성경 속 바벨탑 이야기에서 인간들은 하늘까지 닿는 거대한 구조물을 짓고자 했으나, 결국 관여된 사람들이 서로를 이해하지 못하게 되면서 그 계획은 좌절되었습니다. 이는 하나님의 계명이나 인간이 치러야 할 대가에 대한 고려 없이 오직 멈추지 않는 성장에만 집착한 추구였습니다. 그 결과는 실패와 원자화뿐이었습니다. 그러나 느헤미야서는 이와 대조되는 서사를 제공합니다. 폭력과 강제 이주의 시기를 겪은 후 예루살렘이 재건되는 과정은 인간이 협력하는 회복탄력성을 보여주는 기회가 됩니다. 칙서의 표현을 빌리자면, "그 도시는 한 개인의 주도가 아니라 모든 사람의 공동 책임을 통해 다시 태어납니다. 남녀, 제사장, 장인, 가장, 청년 등 모두가 역할을 합니다. 이는 돌로 재건하기 전에 먼저 관계를 재건하는, 하나님을 중심에 둔 노력입니다." 지금 우리가 거침없이 내달리고 있는 길이 어느 쪽인지 의심의 여지가 있을까요? 또한 우리가 함께 걸어야 할 길이 어느 쪽인지 의심할 여지가 있을까요? 우리는 가톨릭 신자이자 수도회원이며, 사회적 책임 투자 운동에서 오랫동안 옹호자로 활동해 왔습니다. 우리와 이 운동에게 특히 흥미로운 점은 교황 레오가 AI를 단순한 자연의 힘이나 초이성적이며 알 수 없는 실체가 아니라고 지적한 대목입니다. 대신 그는 AI가 궁극적으로 또 하나의 상업적 제품일 뿐이며, 상업과 더 넓은 사회에 대한 과도한 권력이 극소수의 손에 집중된 역사적 시점에 등장했다고 상기시킵니다. 이는 강력한 메시지입니다. 또한 이는 기관 투자자들이 수년간 실행해 온 것이기도 합니다. 이 칙서는 국가나 국제기구가 아닌 주주들이 주도하여 이미 진행 중인 거버넌스 노력을 새롭게 개척하기보다는 비준하는 의미가 큽니다. 정부가 유의미한 규제에 실패하고, 기업이 자신들의 수익을 넘어서는 유익한 일을 할 것이라고 신뢰할 수 없을 때, 사회 구성원은 여전히 우리를 올바른 길로 이끌 힘을 가지고 있으며, 실제로 그렇게 할 의무가 있습니다. 전 세계적으로 AI 시스템이 놀라울 정도로 제도적 감독 없이 대규모로 배치되고 있습니다. AI 안전 위원회는 없습니다. 미국 연방거래위원회(FTC)는 불공정 관행에 대한 관할권을 갖고 있지만 알고리즘 설계에 대한 권한은 제한적입니다. 미국 국립표준기술연구소(NIST)는 가이드라인을 발행하지만 대부분의 기업은 이를 무시합니다. EU AI법은 일부 시행되고 있지만 배포 표면의 극히 일부만을 다루고 있습니다. 기관 투자자들은 바로 이 공백을 채우고 나섰습니다. 4,000억 달러 이상의 자산을 운용하는 투자자들을 대표하는 기업책무연합회(ICCR) 회원 등의 연합체는 지난 몇 차례의 주주총회 시즌 동안 AI 배치에 있어서 투명성, 위험 평가 및 책임성을 요구하는 결의안을 제출해 왔습니다. 세속적인 기관 투자자들도 합류하여 AI 거버넌스의 실패를 중대한 비즈니스 리스크로 간주하고 있습니다. 주주들은 알파벳(Alphabet), 아마존(Amazon), 엔비디아(Nvidia), 팔란티어(Palantir), 우버(Uber)를 포함한 빅테크 기업들에 책임을 묻고, AI가 폭력 행위나 기타 인권 침해에 사용되지 않을 것을 요구했습니다. 이란과의 전쟁 초기 몇 시간 동안 AI가 수천 발의 미사일 공격 목표를 식별하는 데 사용되어 수백 명이 사망하면서 기업 거버넌스의 이러한 측면의 중요성이 비극적으로 부각되었습니다. 투자자들은 또한 CVS 및 기타 기업의 경영진에게 책임을 묻고 도전해 왔습니다.
Pope Leo XIV’s new encyclical on artificial intelligence includes a statement that warrants serious attention from technologists and policymakers: “Technology is never neutral.” Magnifica Humanitas (“Magnificent Humanity”) is a clarion call to all people to act with courage and solidarity as we enter an age already being transformed by artificial intelligence, the greatest change in human life since the Industrial Revolution. As the pope says, the choice before us—the choice AI presents—is one between the Tower of Babel and the rebuilding of our common humanity. In the biblical story of the Tower of Babel, humans sought to build a massive structure that reached all the way to Heaven, only to have their project thwarted when God made those involved unable to understand one another. It was a pursuit fixated on relentless growth, divorced from any concern about God’s commandments or the human cost. It resulted in failure and atomization. The Book of Nehemiah, however, offers a contrasting narrative, in which the rebuilding of Jerusalem after a period of violence and displacement becomes an opportunity for humanity to show its collaborative resilience. As the encyclical puts it, “The city is reborn, not through the initiative of one man, but through the shared responsibility of all: men, women, priests, artisans, heads of households and young people all play a part. It is an undertaking with God at the center, which rebuilds relationships before rebuilding with stones.” Is there any question which road we are currently barreling down? And can there be any doubt which we would do well to walk together? We are both Catholics, members of religious communities and longtime advocates within the movement for socially responsible investment. Of particular interest to us and that movement is Pope Leo’s point that AI is not some force of nature or hyperrational, ineffable entity. Instead, he reminds us, AI is ultimately another commercial product, one emerging at a point in history when excessive power over commerce and the wider society has amassed in a vanishingly small number of hands. It’s a powerful message. It’s also one that institutional investors have been acting on for years. This encyclical doesn’t break new ground so much as ratify a governance effort that’s already underway, led not by states or international bodies but by shareholders. When governments fail to meaningfully regulate, and corporations cannot be trusted to do what is beneficial beyond their own bottom line, people in society still have the power to set us on the right path, and indeed have the duty to do so. Around the world, AI systems are being deployed at scale with remarkably little institutional oversight. There is no AI safety board. The US Federal Trade Commission has jurisdiction over unfair practices but limited authority over algorithmic design. The National Institute of Standards and Technology publishes guidance that most companies ignore. The EU AI Act is partially in force but addresses only a sliver of the deployment surface. Institutional investors have stepped into this vacuum. Coalitions including the membership of the Interfaith Center on Corporate Responsibility, representing investors managing over $400 billion in assets, have spent the past several proxy seasons filing resolutions demanding transparency, risk assessment, and accountability around AI deployment. Secular institutional investors have joined them, treating AI governance failures as material business risks. Shareholders have called tech giants including Alphabet, Amazon, Nvidia, Palantir, and Uber to account and demanded that AI not be used for acts of violence or other violations of human rights. The importance of this aspect of corporate governance was highlighted tragically in the opening hours of the war against Iran, when AI was used to help identify targets for thousands of missile strikes that killed hundreds of people. Investors have also challenged executives at CVS and UnitedHealth Group to ensure that AI not be used to undermine the well-being of patients and quality of health care across the United States. At companies including Meta and Microsoft, shareholders have decried the environmental impact of AI data centers, which consume vast amounts of energy and precious water resources , and in turn can emit large amounts of greenhouse gases. Within creative industries, investors have challenged the leadership at companies like Disney, Netflix, and Warner Bros. to demand transparency about the ways they are using AI and to defend the inimitable human element in storytelling. Soon, with OpenAI, Anthropic, and Grok all set to enter the public markets, we will be able to exert similar influence over what are now all privately held entities. These actions by concerned investors not only call out misdeeds but hold fast to an immutable truth: that it is wrong to use technology to kill, harm, or oppress people. Every human being has a right to safe and effective health care and the opportunity to earn a dignified living. The stories we tell each other matter and require the human creative spark. Investor advocates hail from a range of faith traditions. Some have no formal religious faith. Yet in their informed and tenacious advocacy, all these people echo the calls embedded within Pope Leo’s encyclical and act on its declaration that “it is essential that the use of AI, especially when it touches on public goods and fundamental rights, be guided by clear criteria and effective oversight.” Encyclicals mark time. A century from now, how will we be remembered for how we met this moment? Will we be seen as having been too timid or shortsighted to prevent a small group of unfathomably wealthy and self-interested people from seizing ever greater control over the human family’s shared destiny? Or will the years ahead be remembered as a turning point that helped us rebuild our common humanity? Let this be a time when people of good will and diverse talents come together through their own magnificent humanity to build a future that honors our Creator. Father Séamus Finn, OMI , is a global leader in faith-based and socially responsible investing and a priest of the Oblates of Mary Immaculate, a missionary religious congregation. Sister Susan Francois is the assistant congregation leader and congregation treasurer for the Sisters of St. Joseph of Peace. Deep Dive Artificial intelligence Want to understand the current state of AI? Check out these charts. According to Stanford’s 2026 AI Index, AI is sprinting, and we’re struggling to keep up. By Michelle Kim archive page 10 Things That Matter in AI Right Now MIT Technology Review's authoritative overview of the 10 technologies, emerging trends, bold ideas, and powerful movements in AI in 2026. By Amy Nordrum archive page Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models Musk kept his cool, and OpenAI’s lawyer bulldozed him with piercing questions about his motivations for suing the company. By Michelle Kim archive page A new US phone network for Christians aims to block porn and gender-related content Launching next week on T-Mobile's network, the cell plan takes a nuclear approach to online safety. By James O'Donnell archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.