tree 검색을 이용한 자율 요소의 인지层

대규모 언어 모델(LLM)의 추론 최적화에 대한 연구가 진행되었습니다. 이 연구팀은 'Arbor'라는 이름의 다중 agent framework를 제안했으며, Arbor는 구조화된 tree search를 자율 agent의 cognition layer로 도입하여, agent가 큰 stateful action space에서 작동할 수 있도록 합니다. Arbor는 기존의 자율 최적화 시스템과는 다르게, scored hypothesis의 explicit search tree를 유지하고, 이 search tree는 agent 간의 공유된 작업 메모리 역할을 하며, measurement마다 진화합니다.

Arbor의 특징은 failure를 diagnostic signal로 다루며, failure가 다음 탐색을 재구성합니다. 또한 prior 성공은 bottleneck distribution을 shift시킵니다. 이러한 특징으로 인해 Arbor는 inference throughput-latency Pareto 개선에서 상당한 향상을 달성했습니다. 또한 Arbor는 hardware platform의 여러 покол대를 지원하며, run-to-run variance는 2% 이내로 유지되며, hardware-agnostic이고 reproducible합니다.

Arbor의 구조

Arbor는 Orchestrator agent와 Critic agent를 포함합니다. Orchestrator agent는 inference stack의 Domain Specialist에 작업을 위임하며, Critic agent는 stability를 보장하기 위해 root-cause analysis, introspection, 및 measurement validation을 수행합니다. 이 두 agent는 checks-and-balances architecture를 통해, 한 agent가 시스템을 무조건적으로 제어할 수 없도록 합니다. Arbor는 agent의 capability를 hard skills( domain expertise)와 soft skills( coordination protocols)로 분리하며, fully autonomous multi-day operation을 지원합니다.

Arbor의 이러한 특징으로 인해, 대규모 언어 모델(LLM)의 추론 최적화에 대한 새로운 가능성을 열어젖혔습니다. Arbor의 구조와 특징은 다양한 응용 분야에서 활용될 수 있을 것으로 기대됩니다. 특히, Arbor의 ability to handle large stateful action spaces와 failure를 diagnostic signal로 다루는 능력은, 다양한 task에서 유용하게 활용될 수 있을 것입니다.