언어 모델이 결정을 할 때? - 전제 언어화 결정을 위한 유한한 답변 이론

언어 모델이 결정을 할 때?

언어 모델은 최종 답변을 주기 전에 논리를 생성하지만,_VISIBLE 답변은 모델의 답변 선호도가 안정되기 시작한 시점을 드러내지 않는다. 본 연구에서는 이 질문을 다루기 위해 좁은 계산 가능한 객체로 _finite-answer preference stabilization_을 연구한다.

원문에서는 이 문제를 다루기 위해 _finite-answer preference stabilization_을 연구한다. 이는 언어 모델의 상태와 지정된 답변 구문화자에 대해 모델의 연속 확률을 유한 답변 집합으로 투영하는 것을 의미한다. 이 목표는 _parser-based answer onset_, _retrospective stabilization time_, _lead_을 정의할 수 있게 한다. 이 목표는 _greedy rollouts_ 또는 _learned probes_에 의존하지 않고, 두 가지 태스크에서 성공적으로 적용되었다.

해석

• 언어 모델의 답변 선호도가 안정되기 시작하는 시점을 측정할 수 있다.
• 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 최종 답변과 관련이 있다.
• 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 내부 상태에 의해 결정된다.

결과

• Qwen3-4B-Instruct 언어 모델의 경우, 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 최종 답변보다 앞서 있다.
• 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 내부 상태에 의해 결정된다.

제한

• 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 내부 상태에 의해 결정되지만, 모델의 내부 상태를 측정하는 것은 어렵다.
• 언어 모델의 답변 선호도가 안정되기 시작하는 시점은 모델의 최종 답변과 관련이 있지만, 모델의 최종 답변을 측정하는 것은 어렵다.