대규모 언어 모델에서 구조적 추론을 위한 시각 그래프 scaffold

대규모 언어 모델(LLM)의 구조화된 추론을 향상시키기 위해 그래프를 사용하는 방법에 대해 연구한 논문이 있습니다. 일반적으로 그래프는 모델이 테스트 시에 제공받는 외부 지식의 형태로 사용되었습니다. 이 논문에서는 그래프가 대규모 언어 모델(LLM)에게 제공하는 가치가 단순히 정보를 제공하는 것에만 있지 않고, 추론을 조직하는 데에도 있음을 주장합니다. 사람들은 그래프 구조를 이용하여 생각을 나누고 합쳐 나가는 지도를 만들며, 이러한 지도를 사용하여 그래프가 대규모 언어 모델(LLM) 내부의 추론 도움으로 사용될 수 있는지 여부를 연구했습니다. 이 연구에서는 다단계 질문 답변 작업을 통해 그래프 구조가 학생 모델을 지시하는 데 사용되었습니다. 그래프 지도의 형태로 교사 모델이 제공하는 추론 트레이스 정보가 사용되었습니다. 실험 결과, 그래프 구조를 텍스트로 평평하게 만들면 직접적인 답변 힌트가 제거된 후 이익이 제한됩니다. 추론 효율성과 답변 품질이 크게 감소합니다. 이에 반해, 시각적 그래프 지도가 직접적인 답변 힌트가 없는 경우에도 효과적이었고, 감독 학습과 KL-기반 분산을 통해 fine-tuning을 하여도 이익이 지속되었습니다. 이러한 결과는 그래프가 대규모 언어 모델(LLM)에 대한 외부 지식 구조로만 연구되는 것이 아니라, 추론을 조직하는 데 사용되는 시각적 틀으로도 연구되어야 함을 뒷받침합니다.