샘플 선택 편향이 모델 붕괴를 일으키는 경우

자연어 처리 연구에서 재귀적 학습이 합성 데이터에 적용될 때, 데이터 부족 문제를 해결할 수 있지만 모델 붕괴를 일으킬 수 있다. 모델 붕괴는 학습이 반복되면서 분포의 꼬리 부분이 소실되고 출력값이 동일해지는 현상이다. 데이터 선택을 통해 붕괴를 방지하는 방법으로 간주하지만, verifier가 사용하는 참조 분포에 따라 선택의 신뢰도는 결정된다. 우리 연구에서는 저자원이 있는 검증 환경에서 verifier가 대상 매니폴드의 작은 부분만 관찰할 때, 선택 자체가 편향된 결과를 낳게 된다는 것을 보여준다. 이러한 상황은 저자원이 있는 데이터 그룹, 예를 들어 의료 협회나 자산 금융 기관에서 자연스럽게 발생한다. 이들은 원본 데이터를 공유할 수 없기 때문에 지역 참조가 기본적으로 불완전하다. 결과적으로, 선택은 지역 매니폴드와 일치하는 샘플을 유지하면서 전역적으로 관련된 꼬리 모드들을 제거한다. 따라서 붕괴를 방지하는 안전 장치가 붕괴를 촉진하는 기제로 변하게 된다. 이러한 분리된 선택은 붕괴를 가속화하고 파워 로그 다양성 감소도를 유발한다는 것을 이론적으로 증명했다. 저자원이 있는 환경에서 초기 대책으로, 우리는 여러 분리된 데이터 그룹에서 원본 데이터를 공유하지 않고 와세르슈타인 프록시 참조를 생성했다. 실제 결과는 편향된 분포에서 지역 참조 선택이 실패하는 반면, 협력 프록시 참조가 다양성 감소를 완화한다. 따라서 실제 데이터 보급이 분산되거나 부족한 경우 재귀적 합성 데이터 PIPELINE은 주의가 필요하다.