인공지능 agent의 전략적 의사결정 지원

기존의 의사결정 지원 연구는 인간이 기계 학습 모델을 이용하여 더 나은 의사결정을 하기 위해 연구되었습니다. 그러나 현대의 주체적 시스템에서는 역할의 분리가 점점 더 뒤집어지게 됩니다: AI agent는 사용자의 behalf를 위해 행동하며, 인간과 도구들은 그 주변에서 지원 역할을 합니다. 이러한 역할의 뒤집음은 신뢰성의 문제를 앞세우게 되는데, 주체적 오류는 결과에 미치는 영향을 미칠 수 있고, agent의 행동은 인간의 목표와 제약과 일치해야 합니다. 기존의 의사결정 지원 관점에서 벗어나, 우리는 AI agent가 중심 역할을 하는 환경에서 의사결정 지원의 두 기본 원칙을 재조명합니다: 지원을 구하는 비용-가치 교환 및 불확실성 측정의 역할. AI agent가 중심 역할을 하게 된 환경에서, 우리는 지원 사용을 최소화하는 데 최적화 문제를 제안합니다. 이 문제는 미사용된 지원 오류를 제어하기 위한 counterfactual missed-support error의 확률을 제어합니다: agent가 지원이 output을 개선하는 데 의미있는 영향을 미쳤을 때, 지원이 없는 경우에 agent가 독자적으로 행동하는 확률. 집단 수준에서, 우리는 최적 정책이 지원의 가치에 대한 threshold 규칙이라는 것을 보여줍니다. 이 구조를 바탕으로, 우리는 온라인 알고리즘을 개발하여 adaptively threshold score를 사용하고 randomized exploration을 통해 미사용된 지원 오류를 제어합니다. 추가적으로, 우리는 실시간으로 불필요한 지원 호출을 줄이는 calibration-on-the-fly 메소드를 제안합니다. 다양한 시나리오, 정보 수집, 인간-AI 협력 및 도구 사용을 포함하여, 우리는 각 시나리오를 동일한 전략적 의사결정 지원 시야로 모델링 할 수 있음을 보여줍니다. 실험 결과는 우리의 메소드가 실무에서 지원 사용을 크게 줄인다는 것을 보여주며, 목표 오류를 신뢰성 있게 제어합니다.