신뢰할 수 있는 및 강력한 LLM 계획에 대한 기호 feedback-Driven 반복적 자기 개선 Framework

대규모 언어 모델(LLM)은 최근 학계와 산업계에서 널리 주목을 받고 있지만, 배포 시에 강도와 신뢰성에 대한 중요 보안 문제를 일으킨다. 지능적인 행동의 핵심 구성 요소인 계획은 대규모 언어 모델에 의해 여전히 어렵다. 이는 장거리 의사 결정 과제에서 내재된 복잡성으로 인해 종종 불가능하거나 잘못된 해결책을 생성한다. 이러한 문제를 해결하기 위해 새로운 접근 방식이 필요하다.

신뢰할 수 있는 및 강력한 LLM 계획

이러한 문제를 해결하기 위해, 우리는 장거리 계획에서 대규모 언어 모델의 강도와 신뢰성을 향상하기 위한 symbolic feedback-driven iterative self-refinement framework를 제안한다. 구체적으로, 논리 Symbol을 자연어 설명으로 매핑하는 자연어 인도 메커니즘을 소개한다. 이는 대규모 언어 모델이 작업 제약 조건과 의미를 더 잘 캡처할 수 있게 한다. 또한 symbolic verifier를 설계하여 오류를 식별하고 대규모 언어 모델이 이해할 수 있는 수정 지시문으로 변환한다.

또한 plan recognizer를 사용하여 목표 도달 가능성을 추론한다. 이는 더 효과적인 목표에 대한 지침을 제공한다. 실험 결과는 제안된 framework가 장거리 계획 과제에서 일관적으로 가치와 정확성을 향상시킨다는 것을 보여준다. 이는 대규모 언어 모델 기반 계획의 신뢰성을 향상하고 더 신뢰할 수 있는 인공지능 시스템을 허용할 수 있는 잠재력을 강조한다. 이러한 연구는 대규모 언어 모델의 잠재력을 더 잘 이해하고, 더 나은 성능을 달성하기 위한 새로운 방향을 제시한다.

이러한 연구 결과는 대규모 언어 모델의 개발과 응용에 중요한 의미를 가지며, 더 나은 성능과 신뢰성을 가진 인공지능 시스템을 구축하는 데 기여할 수 있다. 또한, 이러한 연구는 대규모 언어 모델의 한계와 잠재적인 위험성을 이해하고, 이를 해결하기 위한 새로운 접근 방식을 개발하는 데 중요한 역할을 할 수 있다. 따라서, 이러한 연구는 인공지능 분야의 발전에 중요한 기여를 할 수 있다.