인공지능 개발을 인간의 지시로 주도하는 디지털 아르바이트 시스템

arXiv:2606.04321v1 발표 유형: 새로운 요약: 인공지능(AI)의 구현이 대규모 언어 모델(LLM)으로 제한되거나, 광범위한 자율성이 책임의 지연을 초래하는 경우가 있다. 둘 다 책임있는 위임을 위한 통치적 인프라를 제공하지 않는다. 우리는 디지털 아르바이트생(Digital Apprentice)이라는 프레임워크를 제시한다. 이 프레임워크는 가용성의 확장이 보장된 안전한 AI 자율성을 제공한다. 디지털 아르바이트생은 개발적인 학습자가 직접하는 사람의 암묵적인 방법론을 내장하고, 실증적 증거가 이를 뒷받침할 때만 각 기술의 자율성을 획득한다. 결과적으로, 시간이 지나면서 실제로 유용해지는 동시에 특정 사람의 기준에 맞춰진 에이전트가 된다. 세 가지 아키텍처 구성 요소가 이를 가능하게 한다. (1) 방법론 캡처: 직접하는 전문가의 암묵적인 접근 방식을 구조화된 자산으로 압축한다. (2) 권한 부여: 자율성 승인에 대해 명확한 인간 승인을 통해 자율성 승인이 게이트된다. (3) 지속적인 대응: 런타임 시 드리프트를 수정하고 각 수정을 소유한 선호도 데이터로 변환한다. 우리는 이 프레임워크를 인퍼런스 타임 제어 평면으로 구현한다. 우리는 품질 프레임워크를 수학적으로 모델링하고, 품질을 높이기 위한 정책과 기법을 논의한다. 우리는 개방된 전문가 корпус에 프레임워크를 적용하고, 데이터 드리프트를 잡고 런타임 시 다른 기법을 적용하여 트래픽shift로 인해 저하된 품질 차원들을 복원하는 것을 보여준다. 이러한 세 가지 기둥이 시스템으로 연결된 경우, 신뢰를 희생하지 않고 확장할 수 있는 더 안전하고 더 현실적인 경로를 형성한다고 믿는다.