의사란 누구의 정의인가? 대상을 기반으로 한 지시어 가이드를 통한 인구학적 대표성 향상

대상을 기반으로 한 지시어 가이드를 통한 인구학적 대표성 향상

이미지 생성 AI 모델, 예를 들어, Stable Diffusion과 DALL-E는 생성 AI를 널리 접근 가능하게 하였지만, 최근 연구에 따르면, 이러한 시스템은 사회적 편견을 반영하는 경향이 있으며, 특정 직업을 나타내는 지시어를 입력할 때, 더 밝은 피부색의 출력이 나타나고, 낮은 사회적 지위의 직업을 나타내는 지시어를 입력할 때, 더 다양한 피부색의 출력이 나타나며, 편견을 해소하기 위한 기존의 방법은 모델을 재학습하거나 커스텀된 데이터셋을 사용하여야 하므로, 대다수의 사용자가 접근할 수 없는 문제를 나타낸다.

우리는 수정되지 않은 모델에 대한 지시어 수준의 개입을 통한 인구학적 대표성 향상을 위한 가벼운, 추론 시간 프레임워크를 제안한다. 대상을 기반으로 한 지시어 가이드를 사용하여, 사용자는 여러 개의 공정성 사양 중에서 선택할 수 있으며, 단순한 선택부터 대규모 언어 모델(LLM)으로부터 인용하고 신뢰도 추정치를 제공하는 더 복잡한 정의까지 다양하다. 이러한 분포는 대응하는 비율에 따라 인구학적 특정 지시어 변형을 구성하고, 우리는 선언된 목표에 대한 수준을 측정하는 대신, 결과 피부색 분포를 측정하여, 선언된 목표와의 부합도를 측정한다.

'./../p>30개의 직업과 6개의 비직업적 상황을 포함하는 36개의 지시어에 대한 평가에서, 우리의 방법은 선언된 목표에 따라 관찰된 피부색 결과를 이동시키고, 목표가 피부색 공간에서 직접 정의된 경우(fallback), 목표에 대한 편차를 감소시킨다. 이 연구는 추론 시간에 공정성 개입을 투명하게, 제어 가능하게, 사용 가능하게 하여, 생성 AI를 사용하는 사용자를 직접 권한을 부여한다.