그래프에서 기울기까지: 물리적 지침에 의한 구조적 attribution을 위한 Cyber-Physical IoT 시스템과 그 이상

인공지능에서 설명 가능성 방법

인공지능에서 설명 가능성 방법은 시스템이 특정 입력에 따라 어떤 방식으로 행동하는지의 근본 원인과 그 영향력을 드러내어 더 깊은 이해를 가능하게 합니다. 기존의 설명 가능성 방법과는 달리, 인과적 설명은 주로 입력 변수와 출력 변수 간의 상관관계만 강조하는 것에 초점을 맞추며, 대신에 intervene하는 질문에 초점을 맞추어 더 강력한 이해를 제공합니다. 이는 특히 고위험 영역에서 자동화된 결정에 대한 이해를 돕습니다. 인과적 설명은 시스템의 동작을 더 잘 이해하고 예측할 수 있도록 도와주며, 이는 특히 산업 IoT와 같은 복잡한 시스템에서 매우 중요합니다. 그러나, 대규모 하이브리드 cyber-physical 시스템에서 feedback loop와 partial observability를 고려할 때, 명시적인 방향 인과 구조를 복원하는 것은 불가능하거나 불가항력적입니다. 이 문제를 해결하기 위해, 새로운 프레임워크가 필요합니다.

신규 프레임워크

이 논문은 statistical mechanics에 기반한 새로운 프레임워크를 제시하며, 대신에 cyber-physical IoT 시스템의 변수 간의 의존성을 energy-based representation을 통해 모델링합니다. 우리의 접근 방식은 individual component의 영향력을 반영하는 energy landscape의 변화를 분석하여 rigorous dependency-aware attribution을 가능하게 하며, directed causal graph를 복원하지 않습니다. 또한, hybrid interaction에 대한 perturbation 효과에 대한 논리적인 설명을 지원하며, anomalous behavior에 대한 신뢰할 수 있는 설명을 제공합니다. 우리의 프레임워크는 industrial IoT testbed에 대해 시뮬레이션을 통해 검증되었으며, hybrid continuous and discrete 변수를 포함하는 industrial IoT 환경에서 state-of-the-art graph-based 접근법보다 더 높은 attribution 정확도, 향상된 robustness 및 더 좋은 scalability를 보여주었습니다. 이는 시스템의 생성적 동역학을 완전히 복원하는 것을 목표로 하지 않습니다. 그러나, dependency-aware 설명은 human interpretation 및 downstream predictive and diagnostic task를 지원하는 valuable 설명을 제공합니다.