작은 언어 모델을 사용한 인공지능 민주화: 지역 배포를 위한 구조화된 벤치마킹 및 매개 변수 효율적인 tinh회정

인공지능 민주주의는 주로 대규모 언어 모델의 일반성을 맞추는 문제가 아니고, 대규모 언어 모델(LLM)가 하드웨어와 관리 제약으로 인해 일반 기관이 만족할 수 있는 범위 내에서 선택, 감사, 분산되도록 할 수 있는 문제입니다. 본 논문은 135M에서 3B 파라미터까지의 9개의 오픈-웨이트 언어 모델이 1,085 개의 예시와 16 개의 주제를 가진 다중 선택 시험지에 대한 구조화된 지역 배포를 위해 설계된 벤치마크를 사용하여 이 문제를 통제된 평가를 통해 연구합니다. 벤치마크는 символ의 정밀도, 제한된 형식화, 추출, 그리고 단기 시각적 결정에 중점을 두며, 한 문자의 출력 프로토콜 하에 엄격한 한계를 가집니다. 공유 파라미터 효율적인 미세조정 pipe-line이 그 다음으로 4 비트 NF4 정량화와 DoRA/LoRA-스타일 어댑터를 사용하여 NVIDIA L4-클래스 예산으로 3B Qwen Coder의 하위 평가에서 75.67%의 엄격한 정확도를 달성한 후 1.5B Qwen2.5가 67.10%, 2B Qwen3.5가 64.98%, Granite 3.3 2B가 64.61%를 달성합니다. 공유된 108 개의 예시로 나누어진 미세조정 분할에서 미세조정은 Qwen Coder 3B를 +26.85 점, SmolLM2 1.7B를 +25.92 점, Qwen2.5 1.5B를 +19.44 점, SmolLM2 360M를 +10.18 점, SmolLM2 135M를 +5.55 점으로 개선합니다. ranking, 주제 수준의 이질성, 난이도 계층, 실패 구성, 효율성 경계, 주제 조건 전이와 같은 모든 ranking에서 동일한 결론이 반복됩니다: 벤치마크 구성, 모델 간 평가, 저비용 분산의 고정된 워크플로우가 이미 sub-3B 모델의 부분 집합을 지역 전문가로 지역 특수 용도 로드맵에 적합하게 만들 수 있습니다.