인공 지능의 성격 지도: 언어 모델의 성격 특성 매핑

대규모 언어 모델(LLM)은 반복되는 행동 패턴, 즉 '인격'을 보여주며 일반화와 안전성에 영향을 미칩니다. 그러나 이러한 '인격'을 분해하고 측정하는 데에 대한 신뢰할 수 있는 도구가 부족합니다. 우리의 주요 아이디어는 '인격'을 행동 특성의 공간에서 위치로 간주하는 것입니다. OCEAN framework를 사용하여 모델 '인격'을 개방성, 성의성, 외향성, 동의성, 그리고 우울성으로 설명할 수 있습니다. 우리는 저_rank adapter를 사용하여 특정 특성의 강도에 영향을 미치거나 억제하는 데에 사용합니다. adapter의 효과를 평가하기 위해 LLM judge를 인간에 의해 검증된 패널, 특성별로 선택한 항목을 선택하는 평가, 그리고 표준적인 기능 평가를 사용합니다. 세 가지 종족(4B-32B)에서 여섯 개의 모델을 조사한 결과 각 adapter는 목표 특성이 scale에 따라 주로 단조적으로 움직이며 다른 adapter와 결합하여 혼합된 '인격'을 생성하며 moderate scales에서 기능 성능을 보존합니다. 우리는 또한 '인격' 축이 다운스트림 평가에서 안전성 관련 행동에 영향을 미치는 것을 보여줍니다. 예를 들어, 우울성과 동의성 축을 따라 이동하면 각각 좌절감과 속개로움을 유발합니다. 또한, 모델의 실행 결과에서 4개의 해석 가능한 행동 요인(tone, initiative, didacticism, epistemic caution)을 회복하는 비지도적 심리학 pipe line을 도입합니다. 이러한 '인격' 제어를 통해 우리는 특성의 학습, 확대, 그리고 결합을 중량 공간에서 고려할 수 있습니다. 이는 성격 측정, 모델 편집, 그리고 안전성 사이의 연결고리를 제공합니다.