BL
r/LocalLLaMA • 44일 전
Qwen3.6, 사고 과정(CoT) 내에서 컨텍스트 유지
IMP 5/10
핵심 요약
새로운 AI 모델인 Qwen3.6이 추론 과정에서 설정된 정보를 기억하는 능력을 보여주고 있습니다. 사용자는 여러 차례 테스트를 통해 모델이 지정된 숫자를 실제 추론 단계에서 안정적으로 기억해냄을 확인했습니다. 다만 이 기능이 정상적으로 작동하려면 특정 플래그(`preserve_thinking: true`)를 설정해야 하는 중요한 조건이 있습니다.
번역된 본문
저는 이 모델을 여러 차례 반복해서 테스트해 보았습니다. 모델이 특정 숫자에 계속 집중하게 만드는 것은 때때로 어려울 수 있지만, 추론(Reasoning) 과정에서 해당 숫자가 선택되면 안정적으로 그 값을 기억했습니다. 이 기능이 실제로 작동하게 하려면 설정에 --chat-template-kwargs '{"preserve_thinking": true}'를 추가해야 합니다.
원문 보기 (영어)
I tested it in several iterations, and although it's sometimes hard to make the model stick to the number, it reliably remembered the number when it was chosen during reasoning. You have to add `--chat-template-kwargs '{"preserve_thinking": true}'` for this to actually work.