자율 AI agent의 행동을 관리하는 증명 가능한 규칙을 위한 시스템

인공지능 기술이 발전함에 따라, 자율 인공지능 대리가 인간의 대리인으로 중요한 행동을 수행하는 경우가 점점 더 많아지고 있다. 이러한 행동에는 금융 거래, 외부 커뮤니케이션, 기업 워크플로우 등이 포함된다. 그러나 현재의 대리 기반 인프라는 연합과 위임 인증을 통해 로그인 인증과 자원 접근 제어를 수행하지만, 현재의 행동 및 운영 환경에서 허용된 행동을 결정할 수 없다.

에이전트바운드 시스템

우리는 에이전트바운드라는 실행 시점의 관리 프레임워크를 제시하는데, 이는 자율적인 인공지능 대리를 위한 검증 가능한 행동 관리를 제공한다. 에이전트바운드는 위임 인증, 소유자 서명 행동 헌장, 사이트 행동 계약 세 개의 독립된 권한을 통해 각 제안된 행동을 평가한다. 그들의 판단은 형식적인 의사 결정 모델을 통해 보수적으로 구성되어 행동이 허용되거나, 검토되거나, 거부되기 전에 결정된다. 에이전트바운드는 책임성을 제공하기 위해, 모든 행동을 정확한 위임, 정책 및 의미적인 도구에 대한 결정에 대한 바인딩으로 연결하는 암호적으로 검증 가능한 관리 수표를 생성한다. 프레임워크는 또한 장기적인 운영을 위해 지속적으로 새로고침된 관리 정책을 허용하는 지속적인 위임을 소개한다. 이는 연속적인 워크플로우가 운영될 수 있으면서도 취소 가능성과 제한된 권한을 유지할 수 있게 한다. 우리는 형식적인 기초, 시스템 아키텍처, 관리 수표 프로토콜, 그리고 에이전트바운드-벤치라는 관리 정확성, 권한 구성 및 책임성을 평가하는 벤치마크 프레임워크를 제시한다. 에이전트바운드는 권한 및 실행 사이에 결정적인 관리층을 제공하여, 관리를 믿을 수 있는 프로세스에서 독립적으로 검증할 수 있는 프로세스로 바꾸는 것이다. 이는 자율 인공지능 대리의 행동을 관리하는 데 있어 중요한 의미를 갖는다.