네바야-녀야 사상에 기반한 지식적 사유를 위한 대형 언어 모델의 미세 조정: 프라마나

대규모 언어 모델(LLM)은 유창한 텍스트를 생성하지만 체계적인 사유에 어려움을 겪으며, 종종 자신감 있지만 근거 없는 주장을 내세운다. 애플 연구원들은 수학 문제에 불필요한 문맥을 추가했을 때 LLM의 성능이 65% 감소했다. 부식된 패턴 매칭이 명백한 사유 아래에 있는 것으로 드러났다. 이러한 지식적 격차, 증거에 대한 추적 가능한 근거를 바탕으로 주장을 지지할 수 없는 제한이 AI의 신뢰성을 제한한다. 우리는 프라마나를 소개한다, 이는 네바야-녀야 논리, 2,500년 전 인도 사유 프레임워크에 대한 LLM의 명시적 지식론적 방법론을 가르치는 새로운 접근법이다. 일반적인 사유 Chain-of-thought 프롬프트와는 달리, 네바야-녀야는 구조화된 6단계 사유를 강제한다: SAMSHAYA(의심 분석), PRAMANA(증거 출처 식별), PANCHA AVAYAVA(5원 규칙을 가진 관찰적 추론), TARKA(대립적 검증), HETVABHASA(오류 검출), NIRNAYA(인지 구별 지식과 가설).

이 논리와 지식론의 통합은 표준 사유 접근법에서 부족한 인지적 구조를 제공한다. 우리는 55 Nyaya-구조화된 논리 문제(제약 만족, 불리언 SAT, 다단계 추론)에 대해 Llama 3.2-3B와 DeepSeek-R1-Distill-Llama-8B를 55 Nyaya-구조화된 논리 문제에 대해 미세 조정한다. 단계 1은 보유된 평가에서 100% 의미적 정확성을 달성한다. 단순히 40% 엄격한 형식 준수만으로도 모델이 사유 내용을 내부화하는 것을 드러내는 것으로 보인다.

해석 연구는 형식 프롬프트와 온도가 성능에 크게 영향을 미친다는 것을 보여주며, 각 단계에서 최적의 구성이 다르다는 것을 보여준다. 우리는 Hugging Face에서 모든 모델, 데이터 세트 및 훈련 인프라를 공개하여 지식 프레임워크에 대한 AI 사유에 대한 추가 연구를 허용한다.