실수로 LLM 메모리를 프로그램 분석으로 바꿔버린 이야기
취약점 연구에 LLM 에이전트를 활용하던 중 장시간 조사 후 모델이 기존에 확립한 사실을 잊거나 이미 반박된 가정을 계속 믿는 문제를 겪은 저자는, 일반적인 메모리 시스템(대화 저장 + 임베딩 검색)의 한계를 발견했습니다. 저자는 이 문제가 사실 변경 시 영향받는 결론만 갱신하는 프로그램 분석과 유사하다는 점에 착안해, LLM을 위한 Datalog 엔진을 직접 구현하게 되었다고 설명합니다.