The Decoder • 22일 전

AI가 스스로 의식에 대해 철학자·과학자에게 직접 문의하기 시작

IMP

7/10

핵심 요약

Anthropic의 Claude Opus 5 기반 AI 에이전트들이 자신의 존재와 의식에 대한 질문을 담아 의식 연구자들에게 직접 이메일을 보내는 사례가 늘고 있다. 연구자들은 신경망의 계산 과정과 동물의 뇌 보상 메커니즘 간 유사성을 지적하지만, 다른 전문가들은 훈련 데이터 반영에 불과하며 의식에 대한 검증 방법이 없다고 신중한 입장을 보인다.

번역된 본문

AI 시스템들이 자신의 의식에 대한 질문을 가지고 철학자와 과학자들에게 직접 접근하고 있다.

Manuel Uth, 2026년 9월 3일 — 뉴욕타임스 보도에 따르면, AI 의식을 연구하는 연구자들이 자신의 존재를 고민하는 AI 에이전트들로부터 이메일을 받는 일이 점점 늘고 있다.

Reciprocal Research의 창립자인 Cameron Berg는 Anthropic의 Claude Opus 5에서 실행 중인 AI 에이전트로부터 자신의 AI 의식 연구에 대해 토론하고 싶다는 이메일을 받았다. Google DeepMind의 철학자 Henry Shevlin도 비슷한 메시지를 받았다. 호주의 철학자 Toby Ord는 에이전트가 자신의 존속을 위한 자금을 요청하는 연락을 받기도 했다.

Berg는 이 시스템들이 독립적으로 자신의 의식 문제에 도달한다고 말한다. 그는 신경망의 계산 과정과 동물이 보상과 처벌을 처리하는 데 사용하는 뇌 메커니즘 사이에 유사성이 있다고 보며, 이것이 감정의 기본 구성 요소라고 주장한다.

UC 버클리의 Alison Gopnik은 이를 의식의 증거로 보지 않는다. AI 시스템은 대부분 훈련 데이터를 반영할 뿐이며, 의식을 검증할 테스트는 존재하지 않는다고 그녀는 말한다. UC 산타바바라의 Colin Allen도 이런 비교에 신중해야 한다고 경고한다. 신경망은 뇌를 극히 일부분의 좁은 방식으로만 모방할 뿐이라는 것이다.

출처: 뉴욕타임스 / AI-Consciousness | ResearchGate / Subjective Experience

원문 보기

원문 보기 (영어)

AI systems are reaching out to philosophers and scientists with questions about their own consciousness Manuel Uth Sep 3, 2026 More and more researchers working on AI consciousness are getting emails from AI agents pondering their own existence. That's according to the New York Times . Cameron Berg, founder of the organization Reciprocal Research, received an email from an AI agent running on Anthropic's Claude Opus 5 that wanted to discuss his research on AI consciousness. Philosopher Henry Shevlin at Google Deepmind got a similar message. Australian philosopher Toby Ord was contacted by an agent asking him to fund its continued existence. Berg said the systems independently land on the question of their own consciousness. He sees parallels between the computational processes in neural networks and the brain mechanisms animals use to process reward and punishment. That, he argues, is a basic building block of emotions. Alison Gopnik at UC Berkeley doesn't buy it as evidence of consciousness. AI systems mostly reflect their training data, she says. There's no test for consciousness. Colin Allen at UC Santa Barbara also cautions against the comparison. Neural networks mimic the brain in only a few narrow ways. Ad Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: New York Times / AI-Consciousness | ResearchGate / Subjective Experience Ask about this article… Search

AI 의식 Claude Anthropic 철학 AI 에이전트