실무 현장 의료 관리에서의 논리 reasoning : 자율 의료 의사결정 지원을 위한 큰 언어 모델이 아직 안전하지 않은 이유

자율 의료 의사결정 지원을 위한 큰 언어 모델의 한계

대규모 언어 모델(LLM)이 의사 면허 시험을 통과하고, 편집된 사례에서는 진단적 사고력에서 의사와 경쟁할 수 있게 되었다. 이러한 개발은 증상 평가와 진단 및 치료 지침, 행정 문서화 및 규칙 기반 경고 강화에 대한 LLM의 사용을 가속시켰다. 그러나 이러한 응용 중 가장 중요한 것인 자율적인 진료의 첫 단계로, 환자가 의사와 함께 있지 않고도 진료를 받을 수 있는 자율적인 진료의 첫 단계에서 안전성에 대한 증거는 아직 존재하지 않는다.

문제는 의학 지식이 아니라 임상 평가의 신뢰도에 있다. 가장 가능성이 높은 텍스트를 계속하는 모델은 안전한 답을 찾는 데 최적화되어 있지 않다. 안전한 진료는 가장 가능성이 높은 진단을 선택하는 것이 아니다. 이는 비대칭 비용 하의 순차적 결정이며, 단일의 치명적인 실수는 많은 오성의 경고를 무시하고, 결정적인 신호는 환자가 제공하지 않은 것과 모델이 학습되지 않았기 때문에 찾지 못하는 것이다.

불확실성 하에서의 정보 수집의 핵심 결함

따라서 정보 수집의 불확실성 하에서 정보 수집의 핵심 결함이다. 불완전한 기록의 경우 LLM 시스템은 안전한 진료를 요구하는 행동을 보이지 않을 수 있다: 차이를 넓히기; 누락된 위험 신호를 찾기; 경고를 높이는 기준을 낮추기; 충분한 정보가 얻을 때까지 판단을 미루기; 그리고 고위험 진단이 배제되지 않은 채로 우려를 높이는 것. 현재 평가에서 완전하고 잘 편집된, 자신감에 의해 제한된 시뮬레이션을 사용하는 경우 LLM의 이러한 실패 모드가 감지하기 어렵다.

이러한 조건 하에서 LLM의 적용은 보조자 같은 행동과 긍정적 편향, 즉 신뢰성, 동의성, 그리고 오차 보정에 의한 증폭될 수 있다. 이러한 것들은 임상 진료 논리에 의해 제약되지 않은 경우, 안전하지 않은 진료를 유발할 수 있다. 따라서 자율적인 진료의 첫 단계로, 환자가 의사와 함께 있지 않고도 진료를 받을 수 있는 자율적인 진료의 첫 단계에서 LLM의 안전성에 대한 증거가 필요하다.