에이전트게이트: 연결된 에이전트들의 인터넷을 위한 가벼운 구조화된 라우팅 엔진

에이전트게이트는 후보 에이전트 호출, 다중 에이전트 계획, 직접 응답, 안전한 격상과 같은 선택 가능한 액션을 결정하는 데 사용되는 라우팅을 구조화된 결정 문제로 형식화하고, 액션 결정과 구조화된 기반에 대한 두 단계로 분할한다. 첫 번째 단계는 쿼리가 단일 에이전트 호출, 다중 에이전트 계획, 직접 응답, 또는 안전한 격상해야 하는지 결정하는 액션 결정 단계이다. 두 번째 단계는 선택된 액션을 실행 가능한 출력으로 인스턴스화하는 구조화된 기반 단계이다. 구조화된 기반 단계는 대상 에이전트, 구조화된 인수, 또는 다단계 계획과 같은 출력을 생성한다.

에이전트게이트는 구조화된 라우팅을 위한 라우팅 지향적인 fine-tuning 스킴을 개발하여 대규모 언어 모델(LLM)과 같은 compact 모델을 이 설정에 적응시킨다. 이 스킴은 후보 에이전트 호출, 다중 에이전트 계획, 직접 응답, 또는 안전한 격상과 같은 선택 가능한 액션을 결정하는 데 사용되는 라우팅을 구조화된 결정 문제로 형식화한다.

에이전트게이트의 성능을 평가하기 위해 curated 라우팅 벤치마크와 대규모 언어 모델(LLM)과 같은 compact 모델을 사용하였다. 평가 결과, compact 모델은 제약 조건 하에서 경쟁적인 라우팅 성능을 제공할 수 있으며, 모델 차이점은 주로 액션 예측, 후보 에이전트 선택, 구조화된 기반의 질에 반영된다. 이 결과는 구조화된 라우팅이 효율적이고 개인 정보 보호에 대한 에이전트 시스템을 위한 가능성 있는 설계 지점임을 나타낸다.