인공지능이 자율적으로 작동하는 시스템의 통제를 통한 행동, 아닌 agent의 통제: 자율 인공지능 시스템의 통치 모델로써 institutional attestation

인공지능이 자율적으로 작동하는 시스템의 통제를 통한 행동, 아닌 agent의 통제는 자율 인공지능 시스템의 통치 모델로써 institutional attestation을 통해 다루어질 수 있다. 자율 AI agent는 임의의 의사 결정과 결과를 초래하는 불가역적 행동을 시작할 수 있게 되며, 예를 들어 의료 처방이나 소프트웨어 배포와 같은 상황에서 이러한 행동이 발생할 수 있다. 이러한 행동은 인간의 통제와 감시를 벗어날 수 있기 때문에, 강력한 자율적인 행동자를 다루는 새로운 접근법이 필요하다.

인간 기관의 역할

인간 기관은 자율적인 행동자에 대한 합리적인 추론을 모니터링하기 보다는 결과가 결정되는 행동 시점에 독립적으로 증명된 증거를 요구함으로써 강력한 자율적인 행동자를 다루고 있다. 이 기관의 패턴을 AI agent 시스템의 컴퓨터 통제 모델로 공식화하여, agent는 계획과 합리적인 추론에 대한 완전한 자율성을 유지하지만 지정된 고위험 행동에 대한 실행 권한을 보유하지 않는다. 실행은 각 권위 있는 출처에서 독립적으로 증명된 증거에 의해 바인딩된 선언된 의도와 결정론적 정책에 의해 평가된 조건에 따라 조건적이다. 이 모델을 소프트웨어 배포와 의료 처방과 같은 예시와 함께 구현과 증명할 수 있다. 결정은 독립적으로 재검증 가능한 증거가 있는 대조 가능한 로그에 기록되며, 이는 시스템의 투명성과 책임성을 높여준다. 이러한 접근법은 자율 인공지능 시스템의 안전성과 신뢰성을 향상시키는 데 기여할 수 있다. 또한, institutional attestation을 통한 자율 인공지능 시스템의 통치 모델은 다양한 분야에서 ứng용될 수 있으며, 인공지능 기술의 발전에 새로운 방향을 제시할 수 있다.