인터랙션 기반 모델 설명

예측 모델링에서, 모델이 특정 목표 예측을 생성하는 이유를 설명하는 능력은 점점 더 중요해지게 되었다. [5, 10] 블랙박스 모델은 내부 메커니즘을 설명하는 투명한 설명을 제공하지 않기 때문에,แม้ว라 모델이 정확한 예측을 내도, 그 예측을 해석하고 검증하기는 어렵다. 중요한 상황에서, 예측 정확성만으로는 충분한 검증 매트릭스가 아니며, 모델의 결정에 대한 근거를 설명하지 못한다면, 더 이상의 검증이 불가능하다. IMEX(Interaction-Based Model Explanation) 접근법은 예측 가능한 모델의 설명 가능한 모델링 방향 중 하나이다. IMEX는 모델이 생성한 예측에 가장 기여하는 변수를 식별하고, 변수 간의 상호 작용이 목표를 결정하는 데 중요할 때 식별한다. 이 방법은 고차원 상호 작용 분석에 제약을 가하지 않으므로, 특성의 부분집합(cardinality가 2보다 크다)과 관련된 조사에 대한 조사에 대한 조사 가능하다. IMEX는 특성 중요성의 식별 이외에, 결과에 영향을 미치는 잠재적인 메커니즘과 일치하는 상호 작용 패턴의 탐색을 허용한다. IMEX 알고리즘의 적용을 통해, 예측의 해석 가능성 지도 생성이 가능하다. IMEX 프레임워크는 두 가지 상보적인 매트릭스 위에 구축된다: 정적 상관력 파워(PCS), 이는 개별 특성의 기여도를 측정하며, 상호 작용 상관력 파워(PCI), 이는 특성 간의 비가환 효과를 캡처한다. 현재 연구에서, PCS 부분은 INVASE [18]와의 비교를 통해 실험적으로 검증되었다. 이 비교는 세 개의 구조가 알려진 합성 데이터 세트에서 수행되었다. 결과는 IMEX가 선형적, 조건적, 다중 상관 관계가 있는 입력 특성과 예측 대상 간의 관계를 식별할 수 있음을 나타낸다.