믿음 기술 보고서

arXiv:2609.28554v1 발표를 통해 소개하는 Pistis 모델 패밀리는 Qwen3.6과 Qwen3.5을 기반으로 하는 대규모 멀티모달 언어 모델을 포함하고 있습니다. 이 모델은 27B-과 9B- 파라미터를 가지고 있으며, 일반적인 규모의 확장 가능한 후 훈련 프레임워크를 통해 개발되었습니다. 이 프레임워크는 대규모 멀티모달 지도 학습(Supervised Fine-Tuning, SFT)으로 강력한 기반을 구축하고, 이 SFT 기반 위에 Interleaved Distillation and Reinforcement Learning (IDRL)이라는 새로운 후 훈련 패러다임을 제안했습니다. IDRL은 정책 학습과 distillation을 단일 훈련 루프 내에서 밀접하게 통합하여, 이 두 가지 목표를 번갈아 가며 최적화하는 대신, 고차원적 동작을 위한 더 효과적인 지식 전달, 더 안정적인 최적화, 더 정확한 신뢰도 할당을 가능하게 합니다. 이러한 프레임워크는 두 가지 모델 크기에서 두 가지 특수한 변형을 생성합니다. 첫 번째는 Pistis-Thinking으로, 이는 깊은 멀티모달 추론을 강화하기 위해 설계되었으며, 두 번째는 Pistis-Agentic으로, 이는 또한 장기 계획, 반복적인 추론, 도구 사용을 지원하기 위해 장기적 동작 데이터를 포함합니다. 특히 멀티모달 검색에서 Pistis-Agentic는 강력합니다. 두 가지 모델 모두 기초 모델보다 성능이 뛰어납니다. 모델 파라미터 최적화 외에도, 우리는 또한 Pistis-Auto-Harnessing (PAH)이라는 시스템 수준의 메소드를 제안했습니다. PAH는 반복적인 최적화를 통해 agent의 추론 핸들러를 자동으로 향상시킵니다. 실험 결과, PAH는 모델 파라미터를 업데이트하거나 상호 작용 비용을 증가시키지 않고도 모델 성능을 향상시킵니다.