로직의 대화: BALAR, 인간과 대화하는 대규모 언어 모델(LLM)의 능동적 사고

BALAR: 능동적 사고를 위한 베이즈 기반 에이전트 루프

BALAR은 대규모 언어 모델(LLM)이 사용자와의 다중 라운드 정보 교환을 필요로 하는 인터랙티브 설정에서 능동적으로 작동할 수 있도록 하는 task-agnostic outer-loop 알고리즘입니다. 이 알고리즘은 fine-tuning이 필요하지 않고 대규모 언어 모델(LLM) 에이전트와 사용자 간의 구조화된 다중 라운드 상호 작용을 허용합니다.

BALAR은 latent states에 대한 구조화된 믿음을 유지하고, expected mutual information을 최대화하여 clarifying 질문을 선택하고, 현재 상태 표현이 부족할 때 동적으로 상태 표현을 확장합니다. 이 알고리즘은 detective cases, thinking puzzles, clinical diagnosis과 같은 다양한 벤치마크에서 모든 baseline을 능동적으로 물리치고, AR-Bench-DC에서 14.6%의 정확도 향상, AR-Bench-SP에서 38.5%의 정확도 향상, iCraft-MD에서 30.5%의 정확도 향상이 있습니다.

BALAR의 성능

BALAR은 다양한 벤치마크에서 능동적으로 작동하여, AR-Bench-DC, AR-Bench-SP, iCraft-MD와 같은 다양한 벤치마크에서 모든 baseline을 능동적으로 물리쳤습니다. 이 알고리즘은 expected mutual information을 최대화하여 clarifying 질문을 선택하고, 현재 상태 표현이 부족할 때 동적으로 상태 표현을 확장합니다.

• AR-Bench-DC: 14.6%의 정확도 향상
• AR-Bench-SP: 38.5%의 정확도 향상
• iCraft-MD: 30.5%의 정확도 향상