task-aware.prompt.rewriter를 이용한 LLM 성능 향상

대규모 언어 모델 성능 향상

대규모 언어 모델은 사용자들의 전체 잠재력을 완벽하게 활성화하기 위해 주의 깊게 설계된 질문이나 문장이 필요할 때가 많습니다. 이는 비전문가 사용자들에게 장벽이 됩니다. 이러한 문제를 해결하기 위해 작업 인식형 질문 재작성이라는 모델을 도입하였습니다. 작업 인식형 질문 재작성은 사용자 질문이나 문장을 작업 최적화된 질문이나 문장으로 재구성하여 대규모 언어 모델의 성능 향상을 목표로 하는 모델입니다. 작업 인식형 질문 재작성을 그룹 상대 정책 최적화와 결합한 강화 학습을 통해 학습하였으며, 대규모 언어 모델이 판단한 평가 결과에 따라 보상이 결정됩니다. 다양한 작업, chẳng 질문과 답, 요약, 및 계산 논리 작업을 대상으로 실험을 수행하였으며, 결과는 기본 모델보다 작업 인식형 질문 재작성의 질문이나 문장 재작성 능력이 일정한 이익을 보인다는 것을 보여주었습니다. 작업 인식형 질문 재작성의 기본 모델로 Phi-4-mini-지시를 조정하여 재작성한 질문이나 문장은 더 명확하고 지시적인 언어를 포함하였으며, 자연어 질문 및 GSM8K와 같은 확립된 벤치 마크에서 더 높은 정확도를 달성하였습니다. 본 연구의 결과는 대규모 언어 모델의 성능 향상에 기여할 수 있으며, 비전문가 사용자들이 더 쉽게 모델을 사용할 수 있도록 합니다. 또한, 작업 인식형 질문 재작성의 코드는 공개되어 있으므로 다른 연구자들이 이를 활용하여 추가적인 연구를 수행할 수 있습니다. 이러한 연구는 자연어 처리 분야의 발전에 기여할 수 있으며, 대규모 언어 모델의 잠재력을 더 잘 활용할 수 있도록 합니다. 본 연구의 코드는 https://github.com/OliverSavolainen/작업-특정-질문-재작성에서 제공됩니다.