Hacker News • 31일 전

추상화의 오류: AI가 의식을 모방할 수밖에 없는 이유

IMP

7/10

핵심 요약

이 논문은 계산적 기능주의가 물리적 기반을 무시하고 정보를 오해하는 '추상화의 오류'에 빠져 있다고 비판합니다. 시뮬레이션(행동 모방)과 인스턴스화(내재적 물리적 구현)를 엄격히 구분하여, AI의 알고리즘적 기호 조작만으로는 실제 주관적 경험이나 의식을 결코 발현할 수 없음을 논증합니다.

번역된 본문

2026년 3월 10일

추상화의 오류: AI가 의식을 시뮬레이션할 수는 있어도 인스턴스화(실제 구현)할 수 없는 이유

[출판물 보기] [다운로드] [공유]

요약

계산적 기능주의(Computational functionalism)가 현재 AI 의식에 대한 논쟁을 지배하고 있습니다. 이는 기반이 되는 물리적 기질(physical substrate)과 상관없이 주관적 경험이 추상적인 인과적 위상(causal topology)에서 전적으로 발현된다는 가설입니다. 본 논문에서는 이러한 관점이 물리학이 정보와 연관되는 방식을 근본적으로 잘못 특징짓고 있다고 주장합니다. 우리는 이러한 실수를 '추상화의 오류(Abstraction Fallacy)'라고 부릅니다.

추상화의 인과적 기원을 추적해 보면, 기호 계산(symbolic computation)은 고유한 물리적 과정이 아니라 지도 작성자에 의존적인 설명(mapmaker-dependent description)이라는 사실이 드러납니다. 이를 위해서는 연속적인 물리적 현상을 유한한 의미 있는 상태 집합으로 알파벳화(분류)할 수 있는 능동적이고 경험하는 인지적 주체(cognitive agent)가 필요합니다.

결과적으로 우리는 AI의 감각 능력(sentience)을 평가하기 위해 완전하고 최종적인 의식 이론을 필요로 하지 않습니다. 그러한 요구는 단지 문제를 단기적인 해결 범위 밖으로 밀어내고 AI 복지 함정(AI welfare trap)을 심화시킬 뿐입니다. 우리가 실제로 필요로 하는 것은 엄격한 계산 존재론(ontology of computation)입니다.

여기서 제안하는 프레임워크는 시뮬레이션(매개체의 인과율에 의해 구동되는 행동 모방)과 인스턴스화(내용의 인과율에 의해 구동되는 고유한 물리적 구성)를 명시적으로 분리합니다. 이러한 존재론적 경계를 확립함으로써, 왜 알고리즘적 기호 조작이 구조적으로 경험을 인스턴스화할 능력이 없는지를 설명할 수 있습니다.

가장 중요한 점은, 이 주장이 생물학적 배타성(생물학만이 의식을 가질 수 있다는 주장)에 의존하지 않는다는 것입니다. 만약 인공 시스템이 언젠가 의식을 갖게 된다면, 그것은 특정한 물리적 구성 때문이지 결코 통사론적 구조(syntactic architecture) 때문이 아닐 것입니다. 궁극적으로 이 프레임워크는 계산적 기능주의에 대한 물리적으로 근거한 논박을 제공하여 현재 AI 의식을 둘러싼 불확실성을 해결합니다.

저자: 알렉산더 러츠너 (Alexander Lerchner) 게재처: PhilArchive

원문 보기

원문 보기 (영어)

March 10, 2026 The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness View publication Download Share Abstract Computational functionalism dominates current debates on AI consciousness. This is the hypothesis that subjective experience emerges entirely from abstract causal topology, regardless of the underlying physical substrate. We argue this view fundamentally mischaracterizes how physics relates to information. We call this mistake the Abstraction Fallacy. Tracing the causal origins of abstraction reveals that symbolic computation is not an intrinsic physical process. Instead, it is a mapmaker-dependent description. It requires an active, experiencing cognitive agent to alphabetize continuous physics into a finite set of meaningful states. Consequently, we do not need a complete, finalized theory of consciousness to assess AI sentience—a demand that simply pushes the question beyond near-term resolution and deepens the AI welfare trap. What we actually need is a rigorous ontology of computation. The framework proposed here explicitly separates simulation (behavioral mimicry driven by vehicle causality) from instantiation (intrinsic physical constitution driven by content causality). Establishing this ontological boundary shows why algorithmic symbol manipulation is structurally incapable of instantiating experience. Crucially, this argument does not rely on biological exclusivity. If an artificial system were ever conscious, it would be because of its specific physical constitution, never its syntactic architecture. Ultimately, this framework offers a physically grounded refutation of computational functionalism to resolve the current uncertainty surrounding AI consciousness. Authors Alexander Lerchner Venue PhilArchive

AI 의식 철학 계산적 기능주의 시뮬레이션