LLM이 모르는 것을 모르는 것을 감지하는 것: 임상 표준화 데이터에 대한 모델 간 특이점 분산을 통한 지식의 불확실성 탐지

대규모 언어 모델(LLMs)은 구조화된 의료 데이터에 점점 더 많이 적용되고 있지만 이러한 작업에서 자신의 지식 한계를 인식할 수 있는지 여부는 아직 탐구되지 않았다. 우리는 이러한 질문을 구조화된 데이터에 대한 epistemic 불확실성을 줄이기 위해 cross-model attribution divergence를 통해 연구한다. 또한 attribution divergence 분석을 통해 Qwen 2.5 7B와 XGBoost를 비교하여 예측 작업을 수행한다. 우리는 네 가지 발견을 보고한다. 첫 번째로, LLM의 구두적 자신감은 epistemically 비어있으며, 정확도는 49% 또는 75.3% 인지 여부와 관계없이 0.856-0.937의 근사치로 출력된다. 이는 예측 품질보다는 prompt 형식에 따라 추종된다. 두 번째로, LLM는 역수행성 어려움 효과를 나타낸다: XGBoost가 99% 정확할 때 정확도가 64.8%로 떨어지지만 XGBoost가 중간에 불확실할 때 정확도가 XGBoost와 일치한다(73.8% 대 73.1%). 세 번째로, few-shot 예제와 SHAP-추출된 특성 증거는 직교, 초과-합성 intervention이다: 그들은 Attribution Disagreement Score(ADS)를 1.54에서 0.38로 줄이고 정확도를 49%에서 75.3%로 향상시킨다. 이 작업은 모델의 내부 정보를 접근하거나 반복적인 추론을 필요로하지 않다. 네 번째로, cross-model calibrator가 attribution divergence 신호를 사용하여 LLM의 신뢰도를 결정하면 기대치 캘리브레이션 오류가 0.254에서 0.080으로 줄어든다. 이는 LLM의 구두적 자신감을 무의미한 것으로 대체하고 환자별 신뢰도 추정치를 제공한다. 우리는 이러한 발견을 구조화된 데이터에서 LLM의 진정한 epistemic 자각을 향한 길로 정의한다.