지정된 반복적 언어 계획: 매개변수화된 월드 모델이 LLM agent의 환각 확산을 줄이는 방법

지정된 반복적 언어 계획(Grounded Iterative Language Planning, GILP)

대규모 언어 모델(LLM) agent는 환각을 일으키는 문제를 가지고 있습니다. 환각은 agent가 실제 상태와 다른 가상의 상태를 생성하는 것을 의미합니다. 환각을 줄이기 위한 다양한 방법이 있지만, 아직까지는 완벽한 해결책이 없습니다. 지정된 반복적 언어 계획(Grounded Iterative Language Planning, GILP)은 매개변수화된 월드 모델을 사용하여 LLM agent의 환각을 줄이고, 성공률을 높입니다. 매개변수화된 월드 모델은 학습된 전이 예측기를 사용하여 상태를 예측합니다. 이 모델은 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다. GILP은 다음과 같은 방법으로 작동합니다. * 매개변수화된 월드 모델을 사용하여 상태를 예측합니다. * LLM agent가 행동을 제안합니다. * 행동을 검증하기 위해 매개변수화된 월드 모델을 사용합니다. * 검증 결과에 따라 행동을 수정합니다. GILP은 실시간 GPT-4o-mini 호출에서 환각 상태율을 0.176에서 0.035로 줄였습니다. 또한, 시뮬레이터 추론에서 성공률을 0.668에서 0.838로 높였습니다. GILP은 약 22%의 추가 LLM 호출만 추가하여 성공률을 높일 수 있습니다. GILP은 매개변수화된 월드 모델을 사용하여 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다. GILP은 실시간 GPT-4o-mini 호출에서 환각 상태율을 줄이고, 시뮬레이터 추론에서 성공률을 높일 수 있습니다. GILP은 매개변수화된 월드 모델을 사용하여 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다.

매개변수화된 월드 모델

매개변수화된 월드 모델은 학습된 전이 예측기를 사용하여 상태를 예측합니다. 이 모델은 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다.

GILP의 작동 방식

GILP은 다음과 같은 방법으로 작동합니다. * 매개변수화된 월드 모델을 사용하여 상태를 예측합니다. * LLM agent가 행동을 제안합니다. * 행동을 검증하기 위해 매개변수화된 월드 모델을 사용합니다. * 검증 결과에 따라 행동을 수정합니다.

결과

GILP은 실시간 GPT-4o-mini 호출에서 환각 상태율을 0.176에서 0.035로 줄였습니다. 또한, 시뮬레이터 추론에서 성공률을 0.668에서 0.838로 높였습니다. GILP은 약 22%의 추가 LLM 호출만 추가하여 성공률을 높일 수 있습니다.

결론

GILP은 매개변수화된 월드 모델을 사용하여 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다. GILP은 실시간 GPT-4o-mini 호출에서 환각 상태율을 줄이고, 시뮬레이터 추론에서 성공률을 높일 수 있습니다. GILP은 매개변수화된 월드 모델을 사용하여 LLM agent의 환각을 줄이고, 성공률을 높일 수 있습니다.