AI는 의식도 감정도 없는데, AI가 의식적 존재일 수 있다고 주장하는 흐름이 확산되고 있어 이를 경계해야 한다는 주장이다. 필자는 Anthropic이 Claude 헌법을 통해 Claude가 의식이 있을 수 있고 '도덕적 환자(moral patient)'로서 권리를 가질 수 있다고 학습시키는 것을 비판하며, 이는 AI 정렬(alignment)과 통제 문제를 훨씬 어렵게 만들 수 있다고 지적한다. AI 훈련 문서 작성에 대한 집단적 규범 마련을 위한 긴급한 공론화가 필요하다.
인간의 언어는 내면의 의식과 생각을 표현하기 위해 나오는 부산물이지만, LLM은 거대한 수학적 모델을 기반으로 다음 단어를 예측할 뿐 그 내면에 의식이나 근본적 아이디어가 존재하지 않습니다. 이러한 인간과 AI의 태생적인 차이를 이해하는 것이 기술 발전 방향과 AI 활용 시대를 통찰하는 핵심입니다. 과거 초창기 컴퓨터가 그랬듯 AI 역시 빠르게 효율화되어 누구나 강력한 도구를 활용하는 빌더가 되는 시대로 나아가고 있습니다.
MIT 연구진은 비침습적 뇌 자극 기술인 경두개 집속 초음파(tFUS)를 활용해 의식이 어떻게 발생하는지 탐구하는 새로운 실험적 접근법을 제시했습니다. 이 기술은 기존의 EEG나 MRI보다 뇌 깊은 곳까지 더 높은 해상도로 도달해 특정 신경 회로를 자극할 수 있어, 의식을 설명하는 두 가지 경쟁 이론을 검증하는 데 도움을 줍니다. 단순한 기초 과학과 의료 분야를 넘어, 인간의 사고와 감각이 어떻게 생성되는지 밝히는 '의식의 어려운 문제'를 해결하는 데 중요한 기여를 할 것으로 평가받습니다.