LLM 에러를 고치는 새로운 기술, ANNEAL
대규모 언어 모델(LLM) 기반 에이전트는 개별 실행 오류를 회복할 수 있지만, 동일한 오류가 반복적으로 발생하는 경우 underlying process knowledge가 수정되지 않으면 계속해서 실패합니다. 새로운 기술 ANNEAL은 이러한 문제를 해결하기 위해 governed symbolic patch learning을 사용하여 process knowledge graph를 수정합니다.
ANNEAL: 대규모 언어 모델(LLM) 에이전트를 위한 Governed Symbolic Patch Learning
LLM 기반 에이전트는 개별 실행 오류를 회복할 수 있지만, 동일한 오류가 반복적으로 발생하는 경우 underlying process knowledge가 수정되지 않으면 계속해서 실패합니다. 이러한 문제를 해결하기 위해 새로운 기술 ANNEAL이 개발되었습니다. ANNEAL은 governed symbolic patch learning을 사용하여 process knowledge graph를 수정하고, 이를 통해 다시 실패하지 않는 구조적 수정을 적용할 수 있습니다.
ANNEAL의 핵심 기법은 Failure-Driven Knowledge Acquisition(FDKA)입니다. FDKA는 responsible operator를 localize하고, typed patch를 생성하고, proposal를 validate하는 과정을 거칩니다. FDKA는 constrained LLM generation, multi-dimensional scoring, symbolic guardrails, 및 canary testing을 사용하여 proposal를 validate합니다. FDKA가 적용된 모든 수정은 full provenance와 deterministic rollback capability를 가지고 있습니다.
ANNEAL은 4개의 도메인과 27개의 multi-seed runs에서 테스트되었습니다. ANNEAL은 strong baselines인 ReAct와 Reflexion보다 더 높은 episodic recovery를 달성했지만, recurring faults에 대한 holdout failure rate는 0%로 낮게 유지했습니다. Ablation 결과는 FDKA를 제거하면 모든 구조적 수정이 제거되고, 성공률이 최대 26.7% 감소하는 것을 나타냅니다. 이러한 결과는 governed symbolic repair가 weight-level과 prompt-level adaptation에 대한 보완적인 패러다임을 제공할 수 있음을 나타냅니다.
함께 읽으면 좋은 기사
오픈에이아이의 Dot agent는 기업용 소프트웨어로 식사 주문까지 가능하다
오픈아이의 새로운 agent 플랫폼인 Dots는 귀여운 작은 친구들이 많아 주문에 따라 행동하는 모습을 보여줍니다. 그러나 메타 뮤즈 같은 친숙한 느낌보다는, Dots는 사용자가 일을 처리하는 도구에 부가 기능으로 음식을 주문할 수 있는 기능을 제공하는 것처럼 느껴집니다.
쇼피프가 선보인 캔버스, AI와 대화하며 온라인 매장을 만드는 방법
쇼피프의 새로운 캔버스(Canvas) 사이트 빌더는 판매자들이 AI agent인 사이드 킥(Sidekick)과 대화하며 온라인 상점을 만들고 커스터마이징할 수 있게 해줍니다. 이 과정을 실시간으로 보면서 진행할 수 있습니다.
에어비앤비의 차세대 운영 체제: 인공지능 agent의 자율성 필요하다
에어비앤비 창업자 브라이언 체스키(Brian Chesky)는 인공지능 agent를 위해 자체 운영 체제가 필요하다고 말합니다. 그는 또한 소비자 인공지능의 현재 상태와 인공지능이 가진 잠재력을 강조합니다.
오픈아이, 메타와 경쟁하기 위해 '도트'를 출시하다
오픈아이가 메타의 마인드(Muse) AI agent 플랫폼에 도전하기 위해 '도트(Dots)'라는 새로운 agent를 출시했다. 이 agent는 GPT-6 Astra를 기반으로 하고 있으며, 메타의 마인드 플랫폼의 성공에 도전한다.
장기 언어_AGENT의 중량 꼬리 메모리 트레이스
장기 예측 언어 agent는 점점 더 외부 메모리를 세계 모델로 고정시키며, 현재의 메모리 시스템은 일반적으로 작업 성공률이나 토큰 비용만으로 평가됩니다. 우리는 메모리 사용의 형태가 누락된 것이며, 한정된 맥락과 반복적인 검색에서 agent 메모리는 작은 핵심에 집중할 수 있으며, 예측 오류가 축적되는 드문 상태를 긴 꼬리에서 남겨둘 수 있음을 주장합니다. 우리는 이 효과를 보존된 꼬리 감
메타, 뮤즈가 사용자의 사생활 메시지를 읽었다는 주장에 반박한다
메타는 뮤즈 AI agent가 사용자의 사생활 메시지를 읽는 것을 허용하지 않는다고 밝혔다. 뮤즈는 사용자의 사생활 메시지를 읽었을 가능성이 있다. 하지만 사용자가 Mac의 특정 설정을 끄지 않았다면.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.