대리인 모델링은 전략이 아니다: LLM 협상자들의 한계

협상은 단순히 상대방이 원하는 것을 추론하는 것 이상이다. 여러 차례의 회전에서 이 정보를 사용하여 유리한 제안과 대가 제안을 사용해야 한다. 우리는 대규모 언어 모델(LLM) 대리인들이 이러한 환경에서 수행하는지 연구했다. 우리는 현재의 LLM 대리인들이 대리인 선호도를 정확하게 모델링하지만, 이를 전략적인 협상으로 변환하는 데 실패한다는 것을 발견했다.

• 대리인 선호도를 제공받은 대리인들은 선호도를 정확하게 모델링하고, reasoning traces의 초기에 이를 수행한다. 그러나 이는 대리인 측의 결과를 향상시키는 데 실패한다.
• 회전 단위 분석을 통해 왜 대리인들이 이러한 문제를 겪는지 알 수 있다. 대리인들은 대리인들이 귀중히 여기는 것에 반응하지만, 대리인 자신의 귀중한 속성에 대한 이익을 일관되게 짝지우지 않는다.
• 판매자는 대체로 더 관대하게 행동하고, 비대칭 정보 조건에서 대리인 측은 더 약한 보상을 받는 제안을 한다.
• 대리인들이 이 underlying utility structure를 전략적 이점으로 사용하지 못하기 때문에, 그들의 최종 합의는 실제 utility weights가 아닌 surface-level opening anchors에 의해 결정된다.

대리인들이 개별 회전에서 concession-for-reciprocity trades를 명시적으로 stating하기 전에 제안을 만들도록 요구하면, 회전 단위 분석에서 더 전략적으로 보이지만, 최종 합의의 효율성을 향상시키지 못한다.