그래프 증강 tree 검색 및 층별 월드 모델을 이용한 효율적인 agent 계획

대규모 언어 모델(LLM)-agent는 단계별 계획 작업에서 hứ부를 보여주었지만, 존재하는 접근법인 언어 에이전트 트리 서치(LATS)와 ReAct는 계획 중에 LLM 추론에 의존하여, 높은 컴퓨팅 비용과 확률적 행동을 초래한다. 우리는 GATS (그래프 증강 트리 서치)라는 계획 프레임워크를 제시한다. GATS는 체계적인 UCB1 기반 트리 서치와-layered 월드 모델을 결합하여, 추론 중 LLM 호출을 제거하면서, 우수한 계획 성능을 달성한다. 우리의 세 층 월드 모델은 다음을 통합한다: (L1) 정확한 символ 적 동작 일치, (L2) 실행 로그로부터 학습된 통계, (L3) LLM-based 예측을 위한 알려지지 않은 동작. 합성 계획 작업에서 branch path와 dead-end가 있는 경우, GATS는 92%인 LATS와 64%인 ReAct보다 100%의 성공률을 달성한다. 12 개의 어려운 시나리오를 포함한 광범위한 스트레스 테스트에서, GATS는 100%의 성공률을 유지한다. 반면 LATS는 88.9%로 떨어지고, ReAct는 23.9%로 떨어진다. GATS는 계획 중에 0회 LLM 호출을 필요로 하며, (vs. 37회 LLM 호출을 필요로 하는 LATS), 그리고 동등한 실행 중 반복 횟수에서 0의 편차를 가지는 결정적 계획을 생성한다. 우리의 결과는 체계적인 서치와 학습된 월드 모델이 LLM 기반 탐색보다 agent 계획에서 상당히 우수한 성능을 달성할 수 있음을 보여준다.