대규모 언어 모델의 논리적 성능 원인 탐구: RL vs SFT 훈련 모델의 수식 해결 능력
대규모 언어 모델을 이용한 강화 학습(RL) 훈련 모델이 수식 해결 능력에서 상위 성능을 나타내고 있는 것으로 알려져 있습니다. 하지만 이러한 훈련 모델의 내부적인 표현 차이점은 아직 명확하게 밝혀지지 않았습니다. 본 연구에서는 RL 훈련 모델의 내부 표현 차이점을 분석하여 RL 훈련 모델이 SFT 훈련 모델보다 더 우수한 수식 해결 능력을 보이는 원인을 탐구하였습니다.