피타고라스 증명기: 증명 효율성을 개선하기 위한 증명기 증명 형식 확장

증명 효율성 개선

최신 가벼운 정리 증명 도구는의 학습 및 추론 계산을 통해 성능을 달성하지만, 부족한 검증된 증명 데이터와 형식적 증명 탐색의 긴 추론 경로로 인해 지도 학습과 샘플링이 비싸다. 이러한 문제를 해결하기 위해 피타고라스-프로버라는 계산 효율적인 오픈 소스 가벼운 정리 증명 도구를 제시한다. 이 도구는 두 가지 생성 방식을 포함한다: 자율적 모델링 및 증명 기반 확산 기반 증명 도구. 피타고라스-프로버는 학습 효율성을 높이기 위해 가벼운 정리-검증된 자료를 정렬하여 쉽고 어려운 문제로 나누어 커리큘럼 지도 학습을 구축한다. 이는 모델이 짧고 단순한 증명부터 더 긴 어려운 증명으로 증명 기술을 점진적으로 습득하도록 한다. 또한, 동적 증명-추론 필터링 기법은 정보가 풍부한 증명 추적을 보존하면서 각 인스턴스가 8천 토큰 컨텍스트 비용 내에 유지되도록 한다.

확장된 가벼운 형식화 도구

또한, 우리는 확장된 가벼운 형식화 도구라고 하는 도구를 제시한다. 이 도구는 부족한 검증된 자료를 형식문언의 변형으로 확장하고, 자가 분출을 통해 추가 학습 신호를 제공하여 모든 변형된 인스턴스를 형식적으로 검증하지 않도록 한다. 이 도구를 통해 알려진 문제를 변형하여 그 형식적 특성을 유지함으로써, 우리는 표면 형식에 의존하지 않도록 한다. 이러한 접근법은 피타고라스-프로버의 성능을 개선한다. 피타고라스-프로버-4B는 미니 테스트에서 딥시크-프로버-V2-671B를 초과한다. (86.1% vs 82.4%) 4B 매개 변수에서 ~167배 적은 매개 변수를 사용한다. 피타고라스-프로버-32B는 오픈 소스 상태의 최고 성능을 달성하여 미니 테스트에서 93.0%를 달성하고 푸트남 벤치 문제 672 중 93개를 해결한다. 우리는 미니-ALF라는 변형이 민감한 오염 방지를 위한 벤치마크를 출시한다. 여기서 평가된 모든 모델이 정확도 손실을 겪지만, 32B는 여전히 가장 강력하고 4B는 이전의 최고 성능을 달성한 괴델-프로버-V2-32B와 일치한다.