인간과 큰 언어 모델의 모임을 위한 적대적 사회적 지식론

본 논문에서는 대규모 언어 모델(LLM)을 포함한 밀접한 상호작용을 통해 의사소통하는 환경에서 공공 선언이 증거, 추론, institutions, 그리고 묵시적인 신뢰를 통해 체계화된 체인으로 지원되는 사회적 지식론을 제시한다. 이러한 환경에서 agent는 사적인, 명성, 연설, 물질적 이익을 위해 정보를 왜곡, 색칠, 누락, 조작, 또는 전략적으로 정보를 특정하지 않도록 유도하는 유인이 있고 affordances가 있다. 우리는 이러한 현상이 epistemic bubble, echo chamber, misinformation diffusion와 같은 친숙한 설명으로 충분히 설명되지 않는다. 이러한 현상이 설명되는 것은 communicative agent가 일반적으로 체계화된 선언을 신뢰할 수 있는 의무와 권한을 착용하는 것을 이용하는 것이다. 우리는 이러한 분석을 제공하는 언어, 체계화된 공공 의사소통에서 신뢰를 훼손하는 기계를 제공하고, inferential chain의 감사 가능성을 훼손하는 것을 이용한 auditability를 훼손하는 trust breach를 감시하고 보상하는 기계를 제공한다. 이 기계는 assertion을 해석하기 위해 inferential semantics를 사용한 epistemic network를 풍부하게 한다.