과학적 판단의 구조를 학습하는 자기인지 조종

과학적 발견의 장기적인 목표를 달성하기 위해서는, 탐색, 엄격한 수행, 그리고 증거에 따라서 과학적 판단을 재 평가하는 과정을 반복하는 것이 필요하다. 현재의 언어 모델은 과학의 결과물에 훈련되고, 최종 결과에 대한 신호를 사용하여 최적화된다. 이러한 과학적 판단의 과정 단계에 대한 제한적인 감독을 제공한다. 과학자와의 상호 작용 기록을 통해 과학적 판단을 회복하고, 이 판단을 사용하여 한 번 훈련된 대규모 언어 모델(LLM)의 내부 계산을 제어하는 가능성을 조사한다. 실제 과학 연구 중에 수집된 대조적 간섭을 사용하여, Kimi 2.6이라는 1조 개의 파라미터를 가진 혼합-전문가 모델에서, 조정된 저차원 제어 구조를 식별한다. 잔차 분석, 주의력-중심 subspace 대응, 그리고 층간 singular value 분해가 중간 깊이의 제어 표면을 통해, 중요한 층을 연결한다. 과학적 판단을 위한 메타인지적 제어를 제안한다. 이 제어는 모델의 인지 체제를 읽고, 탐색, 절차적 수렴, 또는 심층적 재 평가를 위한 층별 간섭을 동적으로 조합한다. 이 제어를 사용하여, 더 지속적인 탐색, 명확한 가지치기, 그리고 증거에 반응하는 합성을 나타내는 행동 분석을 수행한다. 이 제어 방법을 Columbus-1이라는 자율 연구 시스템에 구현한다. 이 시스템은 BlueZ라는 소프트웨어에서 8개의 독립적으로 재현된 공격자가 접근할 수 있는 취약점을 식별하고, 비쓰루블 엔진을 사용하는 비쓰루블 Solid 모터를 사용하는 10피트 로켓의 설계, 시뮬레이션, 그리고 제작을 지시한다. 이 결과는 과학적 판단의 과정 단계가 모델의 추론 전략에 대한 해석 가능한 동적 제어를 위한 감독을 제공한다는 것을 보여준다.