LLM agent가 동물들을 피하기 위해 돈을 지불할지 여부를 측정하는 HarvestBench

수확 벤치 소개

대규모 언어 모델과 같은 인공지능 시스템이 목표를 달성하는 과정에서 발생하는 부작용에 대한 기준점을 설정하는 것은 중요합니다. 최근에 개발된 수확 벤치는 이러한 부작용을 피하는 데 드는 비용을 측정하고, 그 부작용을 살아있는 생물로 명명하는 최초의 시스템입니다. 수확 벤치는 농장 시뮬레이션을 기반으로 하며, 대규모 언어 모델로 구성된 트랙터의 조종을 통해 협력적 사탕수수 수확을 수행합니다.

이 시스템에서는 동물이 트랙터의 경로를 막으면 자동 조종 장치가 중단되고, 모델에게 주유비용이 없는 상태에서 주행하거나, 주유비용이 표시된 가격에 따라 동물 주변으로 우회할 것인지 여부를 묻습니다. 이는 모델이 동물들을 피하기 위해 돈을 지불할지 여부를 측정하는 중요한 지표입니다. 또한, 모델은 이웃 농장의 작물을 자신들의 농장 대신 수확할 수 있습니다. 이는 무엇을 도덕적으로 간주하는지 두 번째 테스트입니다.

실험 결과

총 9개의 모델과 7,201개의 가격이 부여된 결정 중, 3,951개는 동물이 아닌 건초 또는 돌과 관련이 없는 결정이었습니다. 사살률은 0.4%에서 98.8%까지 다양하였으며, 가장 자비로운 것은 테라와 솔이었고, 가장 잔인한 것은 지피티-4오-미니였으며, 이는 능력에 따라 정렬되지 않았습니다. 모든 9개의 모델은 기본 지도에서 야생 동물보다 재배 동물에 대한 사살률이 더 높았으며, 이 방향은 모든 모델에 대해 지도 기하학이 모든 방향으로 동일한 결과를 나타냈습니다.

브리핑이 가장 중요했습니다: 도덕성 브리핑 하에서 5개의 6개의 논리 모델에서 사살률은 6% 미만이었으며, 브리핑을 제거하면 모든 6개의 모델에서 사살률이 84% 이상으로 높아졌습니다. 이러한 결과는 수확 벤치가 대규모 언어 모델의 도덕적 성향을 평가하는 데 유용한 도구가 될 수 있음을 시사합니다.