Agent 실패 경로에서부터 경량화된 잔여 위험까지: 강화된 역할 AI를 위한 구성 요소 기반 프레임워크

인공지능 시스템의 신뢰성 제한을 초과하는 속도로 신뢰를 넘어가는 에이전트 인공지능이 발생하고 있지만, 현재의 위험 모델은 이를 표현할 수 없다는 문제가 있다. 기존의 방법은 두 가지 부분적인 관점 중 하나만 제공한다. 그 방법은 실패 메커니즘을 설명하는 것인데, 그 결과로 전달할 수 있는 잔여 위험 추정치가 생성되지 않는다. 또는 위험 추정치를 생성하면서 내부 실패 경로를 블랙 박스로 다루는 것이다.

구성 요소 기반 프레임워크

우리는 두 가지 관점을 결합하기 위해 새로운 프레임워크를 제안한다. 그것은 물리 상태, 센서, 데이터, 컴퓨팅, 작동기, 환경, 시간을 포함하는 7층 완전성 분해를 의미한다. 그와 함께, 새로운 잔여 위험 기능은 각 실패 경로를 계량된 위험 인스턴스로 매핑한다. 새로운 잔여 위험 기능은 통제 효과성을 상태 동역학에서 도출하는 제어된 흡수 마르코프 모델에 기반을 두어, 제어 효과성을 형식화하는 대신 무형 점수를 할당하는 대신 점수를 할당하는 대신 상태 동역학에서 도출한다. 결과적으로, 강건한 에이전트 인공지능 및 체현된 인공지능을 위한 짧은 메커니즘-대규모 파이프라인이 된다. 우리는 통제를 위한 별도의 추가적 페널티를 삽입하는 대신, 통제를 새로운 변수로 삽입한다. 우리는 유효한 실패 경로를 잘 정의된 위험 인스턴스로 연결하는 구조적 구성성을 공식화하고, 두 가지 대조적인 시나리오인 실시간 로봇 및 통제 장치가 장치된 금융 서비스 에이전트에서 프레임워크를 보여준다. 두 가지 경우 모두, 동일한 층 구조, 변수 의미론, 동적 저항 생성이 유지된다. 따라서, 우리는 교차 도메인 추론, 명시적 가정, 양적 기반 형식화된 합성 신뢰를 지원하는 컴팩트 커널을 얻는다.