<b>PlanE: 대규모 언어 모델(LLM) instruction-tuning을 위한 데이터 분할, 튜닝, 추론 계획</b>

PlanE는 대규모 언어 모델(LLM)의 특정 작업에 대한 능력을 향상시키기 위해 instruction-tuning 데이터셋이 필요하지만, 이러한 데이터셋의 크기가 대량으로 존재하여 인식 비용이 높고, LLM을 특정 작업에 맞게 최적화하는 방법이 부족했습니다. PlanE는 데이터 분할, instruction-tuning, prompt 추론을 포함하는 계획 framework입니다. 또한 데이터-튜닝-추론(DTI) 플래너를 제안하여, 특정 데이터셋에 대해 최적의 base-LLM과 DTI combination을 선택하여 construction 효율성을 향상시킵니다.

PlanE Framework

PlanE framework는 다음 세 가지 주요 구성 요소를 포함합니다.

• 데이터 분할: PlanE는 데이터를 작은 크기의 단위로 분할하여 instruction-tuning을 효율적으로 수행할 수 있도록 합니다.
• instruction-tuning: PlanE는 instruction-tuning을 통해 LLM의 특정 작업에 대한 능력을 향상시키기 위해 데이터를 튜닝합니다.
• prompt 추론: PlanE는 prompt 추론을 통해 LLM이 특정 작업에 대한 능력을 향상시키기 위해 최적의 prompt를 추론합니다.

DTI 플래너

DTI 플래너는 PlanE framework의 주요 구성 요소입니다. DTI 플래너는 다음 세 가지 주요 기능을 포함합니다.

• base-LLM 선택: DTI 플래너는 특정 데이터셋에 대해 최적의 base-LLM을 선택합니다.
• DTI combination 선택: DTI 플래너는 특정 데이터셋에 대해 최적의 DTI combination을 선택합니다.
• construction 효율성 향상: DTI 플래너는 PlanE framework를 통해 construction 효율성을 향상시킵니다.

실험 결과

PlanE framework와 DTI 플래너의 실험 결과는 다음과 같습니다.

• PlanE framework는 다양한 데이터셋에 대해 동일한 base-LLM을 사용하여 instruction-tuning을 수행한 결과, PlanE framework가 instruction-tuning의 성능을 향상시켰습니다.
• PlanE framework는 동일한 데이터셋에 대해 다양한 base-LLM을 사용하여 instruction-tuning을 수행한 결과, PlanE framework가 instruction-tuning의 성능을 향상시켰습니다.
• DTI 플래너는 다양한 optimization objective를 사용하여 instruction-tuning의 성능을 향상시켰습니다.

결론

PlanE framework와 DTI 플래너는 대규모 언어 모델(LLM)의 특정 작업에 대한 능력을 향상시키기 위해 instruction-tuning 데이터셋이 필요하지만, 이러한 데이터셋의 크기가 대량으로 존재하여 인식 비용이 높고, LLM을 특정 작업에 맞게 최적화하는 방법이 부족했습니다. PlanE framework와 DTI 플래너는 이러한 문제를 해결하기 위해 개발되었으며, instruction-tuning의 성능을 향상시키기 위해 데이터 분할, instruction-tuning, prompt 추론을 포함하는 계획 framework입니다. 또한, DTI 플래너는 PlanE framework를 통해 construction 효율성을 향상시킵니다.