다양한 모델을 가진 인공지능 시스템에서 상승하는 협력적 토론: 지식 합성에 대한 BFT-기반 프로토콜

arXiv:2606.00005v1 발표 형식: 새로운 요약: 우리는 Byzantine Fault Tolerance-derived 구조를 통해 구성된 다중 모델 인공지능 논의를 위한 Consilium Protocol을 제시한다. 이 프로토콜은 모델 간의 불일치가 오류가 아닌 지식 신호로 처리되도록 한다. 프로토콜은 언어 모델에 인공 지능형 인격을 assigns -- 모델이 무엇인지와 모델이 어떻게 논리를 사용하는지 -- 그리고 양적 금융에서 adapted된 In-Sample/Out-of-Sample validation framework를 도입하여 학습 데이터에 대한 합의와 경험적으로 기반된 결론을 구분한다. 1,478 회의 논의를 통해 32 개의 주제를 다루고 10 개의 도메인 카테고리에 걸쳐, 우리는 다음과 같은 결과를 얻었다. 1. 인공 지능형 인격이 아니라 underlying 모델이 epistemic behavior를 결정한다: edge-inference 모델이 0.0002 달러의 배치당 비용으로 frontier 모델과 비슷한 분석적 출력을 생성하였고, frontier 모델은 10.69 달러의 비용을 필요로 하였다. 2. RLHF alignment training은 측정 가능한 도메인 특이적인 epistemic blind spots를 생성한다: contested policy topics는 settled science topics보다 12.3 퍼센트 적은 adversarial challenge를 보여주었고, AI safety topics는 ($\Delta$=11.6%) 비대칭적 bias를 보여주었다. 모델은 AI가 위험하다는 주장을 더 강하게 반박하였지만 AI risk가 과장되었다는 주장을 더 적게 반박하였다. 3. 프로토콜은 자신만의 방향성을 보이지 않는다 (immigration $\Delta$=2.3%, renewables $\Delta$=1.2%). 4. out-of-sample evidence retrieval는 239 개의 주장을 100%로 검증하였고, 167 개의 blind-spot 발견을 surface 하였는데, training-data deliberation으로는 보이지 않았다. randomized model$\times$persona assignments를 통해 run-to-run reproducibility는 $\pm$2.2% 표준 편차를 보였다. 프로토콜의 총 비용은 217 달러였다. 우리는 MIT 라이선스를 통해 independent verification을 허용하기 위해 프로토콜의 구체적인 스펙을 공개한다.