흐름별 흐름: 콘텐츠 판단 회피를 통한 고 손실 영역의 AI 출력 관리

인공지능(AI) 출력 속도 V가 인간 인지 능력 C_max을 초과할 경우, 인간이 AI의 결과를 검토하는 과정이 구조적으로 불가능해지는 것을 이전 연구에서 확인했다. 그러나 단순히 AI 출력 속도만 고려하는 것이 아니라, AI 출력 속도 V와 각 항목당 인지 부하 L의 곱을 고려해야 한다. 인지 부하 L에는 항목 분류(triage), 판단, 반응이 포함되는데, 이들 반응은 인공지능 능력 향상에 따라 비대칭적으로 변화한다. 항목 분류의 비용은 모델이 능력이 향상될수록 감소하지 않는데, 이는 일반 용도의 설계에서 의미적 불확실성이 내재된 때문이다. 반응의 비용은 정확도 향상과 독립적이다. 판단의 비용만이 감소하는 압력을 받는데, 이는 실제 감소보다는 누락을 유발하는 경우가 많다. 따라서 모델의 능력 향상은 인지 부하를 재구성하는 것일 뿐, 감소시키는 것이 아니다. AI 출력이 올바른지 평가하는 것을 기반으로 한 통제 기구는 AI가 그 평가를 수행하는 것을 허용하여 허구적 위험을 유발하거나, 그 평가를 인간에게 위임하여 V x L의 한계에 부딪히게 된다. 우리는 Flow-by-Flow라는 통제 기구를 제안한다. 이 기구는 콘텐츠를 평가하지 않고도 감독 부하를 제어한다. 콘텐츠를 평가하지 않고도 감독 부하를 제어하는 Flow-by-Flow 통제 기구는, 공식적인, 계산 가능한 특징에 기반한 인지 비용 점수를 사용하여 대량 생산의 비선형 비용을 부과하고, institutional capacity cap을 사용하여 처리량을 C_max 내에 유지한다. 어떠한 콘텐츠 판단을 피하는 경로가 존재하는 경우, 우리는 다음 네 가지 디자인 불변성을 도출한다. 1. 콘텐츠 판단이 없음 2. 감독자 인지 능력의 대규모 소비가 불가능함 3. 각 응용 프로그램당 고정된 저항이 존재함 4. batch clearance이 불가능함 한 개의 참조 Implementation은 이러한 불변성을 동시에 만족할 수 있는 것을 보여주며, 그 실용적인 어려움은 명시적으로 인정된다. 1,000 개의 매개 변수의 추출을 통한 Monte Carlo 분석은, 90.8%의 시뮬레이션에서, 복합 다중 지표 흐름 제어가 단독으로 수행하는 감독 강화보다 우수함을 보여준다.