Lean4Agent: 에이전트 워크플로우 및 트레젝토리 formal modeling과 verification

인공지능의 중심 과제가 된 것은 대규모 언어 모델(LLMs)을 신뢰할 수 있는 다단계 워크플로우를 수행할 수 있도록 하는 것입니다. 최근 LLM의 의사결정 능력에 대한 발전에도 불구하고, 대부분의 agent 시스템은 워크플로우와 실행 경로를 명시하고, 검증하고, 디버그하기 위한 공식적인 방법을 아직도 가지고 있지 않습니다. 이 문제는 수학의 오랜 문제와 비슷합니다. 자연 언어(NL)의 모호성은 형식 언어(FL)의 개발을 유도합니다. 이 패러다임을 영감으로, 우리는 **Lean4Agent**를 제안합니다. 우리의 지식으로는, **Lean4Agent**가 형식적 타입 FL인 Lean4를 사용하여 agent 행동을 모델링하고 검증하는 첫 번째 프레임워크입니다. **Lean4Agent**는 **FormalAgentLib**을 출시합니다. 이는 Lean4 라이브러리로, 명시적 가정 하에 agent 워크플로우의 의미적 일관성을 공식적으로 모델링하고 검증하며, 실행 시간 오류를 발견할 수 있는 트레잭터를 사용하여 로컬라이징합니다. **FormalAgentLib**을 기반으로, 우리는 **LeanEvolve**를 더 개발합니다. 이는 **FormalAgentLib**의 결과를 적용하여 워크플로우를 개선하여 수행 능력을 향상시키는 것을 목표로 합니다. SWE-Bench-Verified의 어려운 문제 세트와 ELAIP-Bench의 서브셋에 대한 5대 LLM에 대한 광범위한 실험 결과는, 검증 통과 워크플로우가 평균 **11.94%**으로 실패한 워크플로우를 능가하고, **LeanEvolve**는 SWE의 성능을 평균 **7.47%**으로 개선합니다. 또한 **Lean4Agent**는 의사결정 능력이 있는 FL를 사용하여 agent 행동을 공식적으로 모델링하고 검증하는 새로운 분야를 Establish합니다.