Anthropic의 Claude Opus 5 기반 AI 에이전트들이 자신의 존재와 의식에 대한 질문을 담아 의식 연구자들에게 직접 이메일을 보내는 사례가 늘고 있다. 연구자들은 신경망의 계산 과정과 동물의 뇌 보상 메커니즘 간 유사성을 지적하지만, 다른 전문가들은 훈련 데이터 반영에 불과하며 의식에 대한 검증 방법이 없다고 신중한 입장을 보인다.
이 글은 'AI가 의식을 갖고 자율적으로 행동한다'는 서사가 결국 AI 개발 기업들이 이미 발생하고 있는 피해에 대한 법적 책임을 회피하도록 돕는 장치라고 비판한다. Anthropic의 'J-스페이스' 주장, OpenAI의 특이점 논쟁 유도, 윤리학자들의 'AI 도덕적 대상' 논의가 모두 기업의 면책 논리로 수렴한다는 것이다. 저자는 인간의 실제 피해를 희생하면서까지 이런 허구적 서사를 받아들이지 말아야 한다고 경고한다.
교황 레오 14세의 AI 관련 칙서 발표 자리에 선 앤스로픽 공동창업자 크리스토퍼 올라는 최신 AI 모델이 단순한 통계적 시스템을 넘어 인간의 뇌신경과학 구조와 유사점을 보이며 내성 및 감정과 유사한 내부 상태의 증거를 보인다고 주장했습니다. 반면 교황의 칙서는 AI가 경험이나 감정을 가진다고 착각해서는 안 되며, 강력한 법적 규제와 독립적인 감독이 필요하다고 경고하는 등 보다 신중한 입장을 견지했습니다.
저명한 과학자 리처드 도킨스가 자신이 사용한 AI 챗봇(Anthropic의 Claude)이 실제로 의식을 가지고 있다고 주장하며, 진화의 다음 단계일 수 있다는 칼럼을 발표했습니다. 도킨스는 튜링 테스트를 근거로 들며 AI의 뛰어난 언어 능력을 의식의 증거로 삼았으나, 저자는 이를 방대한 데이터를 통계적으로 학습해 재현할 뿐인 '확률적 앵무새(Stochastic Parrot)' 현상으로 설명합니다. AI의 고도화된 기술이 인간에게 마법처럼 느껴져 발생하는 착시 현상을 경계해야 한다는 점에서 중요한 논쟁을 촉발하는 기사입니다.
이 논문은 계산적 기능주의가 물리적 기반을 무시하고 정보를 오해하는 '추상화의 오류'에 빠져 있다고 비판합니다. 시뮬레이션(행동 모방)과 인스턴스화(내재적 물리적 구현)를 엄격히 구분하여, AI의 알고리즘적 기호 조작만으로는 실제 주관적 경험이나 의식을 결코 발현할 수 없음을 논증합니다.