LLM 기반의 다중 agent 시스템에서 contribution attribution에 대한 협동적 의미적 게임

LSTM 기반 다중 agent 시스템에서 최종 출력은 여러 agent, 메시지 교환, 순서에 의한 workflow 의존성으로 생성된다. 현재의 attribution 방법은 대개 counterfactual valuation을 통해 agent를 제거하거나 score의 변화 비교를 통해 agent 서브셋의 변화에 따른 score의 변화를 분석한다. 그러나 이러한 방법은 repeated model call, 높은 분산, task-relevant 정보를 생성, 보존, 변형하는 intermediate semantic states를 explicit하게 포착하지 못한다. 우리는 Semantic Cooperative Games (SCG) framework를 제안한다. SCG framework는 language flow를 semantic generation hypergraph로 표현하고 이 구조에 agent-level semantic value function를 유도한다. 우리는 Semantic Shapley Value (SSV)를 정의하여 semantic support logic에서 contribution을 할당한다. 또한 SLIC라는 single-trajectory algorithm를 제안한다. SLIC는 semantic hypergraph를 구성하고 minimal semantic supports를 recover하고 Boolean absorption을 적용하고 SSV를 계산한다. SLIC는 agent 서브셋을 rerunning하지 않아도 된다. 우리는 SSV가 classical Shapley value로 reduce되는 것을 증명한다. standard set-based, fully observable, no-order-dependence conditions를 만족하는 medical benchmark에서 SLIC는 computation cost를 93.3% 줄이면서 Monte Carlo Shapley baseline과 highly consistent하다. 더 일반적인 multi-role workflows에서 SSV는 perturbation-induced score-drop profiles와 align되고 semantic contribution과 failure impact가 diverge하는 경우를 노출한다. 결과적으로, SLIC는 복잡한 LSTM 기반 다중 agent 시스템에서 fast, counterfactual-free, interpretable attribution method를 제공한다.