언어적 불가해성이 LLM 보안에 주는 시사점
이 논문은 LLM이 출력하는 언어(텍스트)가 모델 내부 계산을 신뢰성 있게 반영하지 못하는 '언어적 불가해성' 문제를 제기합니다. 사고의 흐름(chain-of-thought) 모니터링, 자기 비판, 활성화 탐침 등 모델의 언어적 자기 보고에 의존하는 보안 기법은 완전히 안전할 수 없으며, 대신 테인트 트래킹(taint tracking)과 강력한 가상화 등 모델의 언어 상태를 읽지 않는 샌드박스 격리 기법이 필수적이라고 주장합니다.