동적 인간-AI 협조에서 사회적 규범 학습이 호환성을 향상시킨다.

인간은 동적 상호작용을 통해 끊임없이 다른 사람들과 협력한다. 이 협력을 위한 암묵적인 사회 규범이-agent들이 공유하는 암묵적인 기대라는 점에서-hard-to-quantify social norms라고 불리우며, 이 규범은 상호작용하는 agent들 사이에서 작용한다. 인공지능 agent들, 특히 대규모 언어 모델(LLMs)은 일상생활에 점점 더 깊숙이 들어가며 이러한 상호작용에 참여하고 사회 상호작용 구조를 재구성한다. 그러나 인공지능 agent들은 인간과 효과적으로, 배려적으로, 자연스럽게 상호작용하는 데 실패한다. 우리는 기존의 접근 방식이 모델의 행동을 인간의 демонстра션과 일치시키지만 이러한 행동의 기반을 이루는 규범을 명시적으로 측정하지 않는다는 점에서 인공지능 agent들이 인간과 협력하는 데 실패한다고 추측한다. 우리는 보행자와 차량 상호작용을 대표하는 동적 상호작용으로 선택했고, 이 상호작용의 주요 상호작용 특징을 캡처하는 단순화된 실험 플랫폼을 개발했다. 이 플랫폼을 통해 3,456개의 동적 인간 상호작용을 수집했고, 이 중에서 인간의 사회 규범의 세 가지 원칙을 파악했다. 이러한 원칙은 결과 예측 가능성, 가치 일치, 이점 인식이다. 인공지능 agent들에게 이러한 원칙을 포함시키면 인간-AI 협력이 크게 개선된다. 인간과 인공지능 agent가 closed-loop 상호작용을 수행한 결과, 사회 규범에 입각한 LLM은 기존 전략보다 총 점수가 거의 4배 높았고, 인간-인간 상호작용보다 43%가 높은 점수를 기록했다. 이러한 결과는 사회 규범을 명시적으로 측정할 수 있는 원칙으로 만들면 인공지능 agent들이 동적 상호작용에서 서로 이익을 얻는 협력을 달성할 수 있음을 나타낸다.