기업형 기관적 인공지능의 토큰 경제학을 설정하는 오케스트레이션 디자인 효과

현재 에이전트 AI 개발은 토큰을 최대화하는 방식으로 진행된다. 즉, 토큰을 사용하여 기능을 구매하는 방식으로, 더 긴 추론 경로, 더 많은 회전, 더 넓은 도구 로드, 더 큰 재생된_contexts를 얻기 위해 토큰당 작업의 가치가 증가하는 속도보다 토큰당 작업이 더 빠르게 증가한다. 토큰당 가격이 하락함에 따라 이 패턴은 드러나지 않지만, 총 지출은 여전히 증가한다. 우리는 토큰을 최대화하는 결정적 요소가 Harness라는 것으로 주장한다. Harness는 컨텍스트를 조립하고 도구를 공개하며 회전을 순서대로 배치하고 작업을 위임하며 기업 관찰성 및 감독을 수행하는 오케스트레이션 레이어이다. 우리는 제한된 평가 작업 22개, 6개의 기초 모델(Claude Sonnet 4.6, Gemini 3.1, Gemini Flash 3.5, Qwen 3.6, GLM 5.1, Palmyra X6)만 변경하여 오케스트레이션 레이어를 교체하는 제어된 교체를 사용하여 이를 분리한다. 모델을 일정하게 유지한 상태에서 Harness는 토큰당 작업 비용을 41% 줄여주고(0.21->$0.12), median wall-clock 44%를 줄여주고(48s->27s), 토큰당 작업을 38%(14.2k->8.8k) 줄여주며, 작업 완료 품질은 동등(0.78->0.81, 이 샘플 크기에서 방향성)이다. 효율성은 모델에 독립적이므로 모든 모델이 비용을 줄일 수 있지만(33-61%), 품질 향상은 기능에 종속적이다. 즉, 모델의 기존 강도와 거의 완벽하게 상관관계가 있다(r=0.99, n=6), 이를 우리는 Harness Leverage라고 부른다. 달러당 품질이 82% 증가하며, 토큰 당 작업 완료가 54.9에서 92.0로 증가한다. 이 작업로드에서 오케스트레이션 레이어는 모델 메뉴의 전체 범위보다 작업당 비용을 더 많이 줄여준다. 우리는 오케스트레이션 레이어에서 토큰 경제학을 공식화하고(.prompt caching에 대한 효과적인 입력 가격 포함), 6개의 메커니즘 패밀리(캐시 모양 discipline, 실패 지출 감독 포함)가 효과의 뒤를 이은 것에 대해 설명하고, 6개의 광범위하게 사용되는 agent 시스템을 같은 축에 비교하며, Harness가 조직이 현재와 미래에 사용하는 모든 모델의 효율성을 배가시키는 유일한 구성 요소라는 것을 주장한다.