그래프 Feedback Controls Consensus와 Clique Formation을 위한 Open-Weight Language-Model Populations

대규모 언어 모델 인구의 규범 형성 연구

대규모 언어 모델 인구는 점점 더 많은 지역 상호 작용을 지원하고 있다. 그러나 런타임 상호 작용 그래프는 종종 구현 세부 사항으로 처리된다. 본 연구에서는 이름 게임 프로토콜을 통해 규범 형성을 연구했다. 제한된 첫 토큰 점수를 사용하여 프롬프트 조건 점수 상태 분포를 측정했다. 상태 유사성 그래프를 구성하여 샘플된 레이블 동의와 잠재적인 상태 공간 일치를 분리했다. 제어된 개입을 통해, 주요 공개 가중치 수리 격자에서 유지된 파트너 레이블 증거는 필요하지만 불충분했다. 유사성 임계치 라우팅은 교차 분지 노출을 삭제하고 단편화를 증폭시켰다. 교량 탐색 라우팅은 메모리가 충분할 때 단편화를 수리할 수 있었다. 이러한 결과는 대규모 언어 모델 인구의 동작을 이해하는 데 중요한 의미를 가지고 있다. 대규모 언어 모델 인구의 동종 모델 집합에서, 유지된 기록은 단편화 역학을 일치 방향으로 이동시켰다. Qwen2.5-32B는 18개 유지된 기록 잘 혼합된 환경에서 안정적인 행동 및 최종 상태 일치를 생성했다. 임계치 유사성은 189개 환경에서 어느 형태의 일치도 생성하지 못했다. 이러한 결과는 대규모 언어 모델 인구의 동작을 이해하는 데 중요한 의미를 가지고 있다. 특히, 상태 임계치, 인구 크기, 어휘 크기와 같은 요소에 대한 연구가 필요하다.

결과와 의미

본 연구의 결과는 대규모 언어 모델 인구의 동작을 이해하는 데 중요한 의미를 가지고 있다. 특히, 유지된 기록과 임계치 유사성의 역할을 이해하는 데 중요한 의미를 가지고 있다. 이러한 결과는 대규모 언어 모델 인구의 동작을 이해하는 데 중요한 의미를 가지고 있으며, 향후 연구에서 이러한 결과를 바탕으로 더 많은 연구가 필요하다. 대규모 언어 모델 인구의 동작을 이해하는 데 중요한 의미를 가지고 있는 요소에는 상태 임계치, 인구 크기, 어휘 크기 등이 있다. 이러한 요소에 대한 연구가 필요하다.