잠재 CoT 논리 해석을 동역학적 시스템으로 변환

은닉 추론의 해석성 문제

최근의 잠재적 추론 방법들은 기본적인 해석성 문제를 가지고 있다. 예를 들어, CODI와 COCONUT는 각 단계마다 은닉 공간에서 여러 후보 추적을 겹쳐서 유지한다. 이와는 대조적으로 명시적-CoT는 단일 투명한 추론 추적을 따른다. 이러한 문제는 추론의 과정과 결과를 이해하기 어렵게 만든다.

현재의 기계적 방법들은 압축, 단축 및 겹침을 보여주지만, 추론이 은닉 단계를 통해 어떻게 발전하는지 설명하지 않는다. 이는 추론의 동작을 이해하고 개선하는 데 어려움을 준다. 이러한 간격을 해결하기 위해, 우리는 은닉 토큰 시퀀스를 표현 공간에서 궤적으로 모델링하고, 추론의 진화를 특징짓기 위해 역학 시스템 분석을 적용했다.

동역학적 시스템으로의 변환

수치적 지표, 예를 들어 단계 간 변화, 방향 일관성 및 리아포프민감성과 함께, 질적 투영, 예를 들어 UMAP 및 DMD/PHATE를 사용하여, 우리는 은닉 CoT가 구조화된, 비 RANDOM 동역학을 보여주며 두 가지 DISTINCT 안정성 클래스가 있다. CODI는 안정적인 attractor로 행동한다, 반면 COCONUT는 불안정한 expanding 시스템으로 행동한다, 그리고 SIM-CoT supervision은 두 가지 행동을 강화한다만, underlying dynamics는 바뀌지 않는다.

이 프레임워크는 은닉 CoT 추론 동역학의 해석성을 향상시키고, 은닉 추론 성능을 개선하는 데 유용한 통찰력을 제공한다. 또한, Code와 Project page는 온라인에서 사용할 수 있어, 연구자들이 쉽게 이 프레임워크를 사용하고 확장할 수 있다.