행위적 인공지능 시스템의 런타임 관리를 위한 의무적 정책

자율적이고 주체적인 AI 시스템은 대규모 언어 모델(LLM)에 의해 구동되며 새로운 보안, 개인정보 보호 및 준수성 문제를 도입한다. 이러한.agent가 도구를 호출할 수 있고 데이터를 조작할 수 있고 소프트웨어를 설치할 수 있고 조직간 경계를 넘어 peer agent들과 협력할 수 있기 때문에, 인증 및 접근 제어만으로는 충분하지 않다. 대신, 이 agent가 허용되거나 금지되는 것이 무엇인지, 특정 행위 후에 수행해야 하는 의무가 무엇인지, 어떤 조건하에 의무가 면제될 수 있는지, 그리고 정책 간 충돌이 발생했을 때 우선순위를 정하는 규칙이 무엇인지 등에 대한 전체적인 기업 관리 구조를 정의해야 한다. 이 관리 문제는 현재 정책 엔진이 제공하는 것보다 훨씬 더 복잡하다. XACML, Rego, Cedar과 같은 시스템은 이 관리 구조의 허용/금지 부분만을 다루며, 의무의 생애주기 관리, 메타 정책 충돌 해결, 특정 상황에서 의무를 면제하는 허가, 도메인 클래스 계층 구조에서 흔히 발견되는 데이터 개인 정보 보호, 보안, 건강 관리와 같은 응용 프로그램에서 ontological reasoning을 제공하지 않는다. 우리는 AgenticRei를 제안한다. AgenticRei는 의무, 허가, 정책 충돌 해결, 그리고 정책에 대한 논리적 추론을 포함한 기본적인 허용/금지 제약을 포함한 주요 관리 요구 사항을 실현한다. 우리는 Rei framework에 기반을 둔 deontic 정책 언어를 사용하여 OWL(웹 온톨로지 언어)로 표현하고 런타임 시 고성능 로직 엔진에 의해 평가된다. 이 엔진은 LLM 외부에 위치한다. 이 pipeline은 agent가 도구를 호출하는 것과 agent-to-agent message를 처리하는 것 모두에 적용된다. 예시를 통해 우리는 deontic 정책이 현재 생산 엔진에서 표현할 수 없는 보안 및 개인 정보 보호에 대한 관리 제약을 캡처한다는 것을 보여준다. 또한, 우리의 접근 방식은 A2AS와 같은 산업 표준 프레임워크와 자연스럽게 구성된다.