왜 두 번 풀어야 하나? 지식 축적을 통한 전이 효율적인 ML 엔지니어링

왜 두 번 풀어야 하나?

대규모 언어 모델(LLM)과 같은 기술이 발전함에 따라, 기존의 경쟁에서 획득한 지식을 효율적으로 전이하는 새로운 방법이 필요합니다. 기존의 시스템은 각 경쟁이 새로운 시작점으로 인해, 컴퓨팅 자원을 낭비하고 있습니다.

지식 축적을 통한 전이 효율적인 ML 엔지니어링

저자들은 HASTE라는 새로운 시스템을 제시합니다. HASTE는 지식 축적을 통해 ML 엔지니어링 agent가 컴퓨팅 자원을 절약하고, 경쟁에서 우수한 성과를 내는 새로운 시스템입니다.

HASTE의 구조

• 세 가지 범위 계층(global, domain, competition-specific)을 갖는 다중 agent 시스템
• 각 계층에 맞는 agent를 구성
• LLM을 이용한 추상화를 통해 domain specialist와의 협업을 촉진

실험 결과

실험 결과, tiered loading(범위 계층에 따라 지식을 로드하는 방법)이 flat loading(범위 계층에 관계없이 지식을 로드하는 방법)보다 우수한 성과를 냈습니다.

또한, HASTE는 경쟁마다 새로운 시작점 없이도 우수한 성과를 냈습니다. HASTE는 Claude Sonnet 4.6을 사용하여, 12시간당 1개의 경쟁당 성과를 77.3%로 냈습니다.

또한, HASTE는 지식 축적을 통해 경쟁마다 새로운 시작점 없이도 우수한 성과를 냈습니다. HASTE는 50개 이상의 지식을 로드한 경우, 제안된 변경사항의 비율이 85%로 증가했습니다.

결론

이 연구는 지식 축적을 통해 ML 엔지니어링 agent가 컴퓨팅 자원을 절약하고, 경쟁에서 우수한 성과를 내는 새로운 시스템을 제시합니다. 지식 축적을 통해 ML 엔지니어링 agent가 경쟁에서 우수한 성과를 내는 새로운 방법을 소개합니다.