본문으로 건너뛰기

비정상성을 고려한 인컨텍스트 강화학습: 개요

AI 자동 생성

ICRL(인-컨텍스트 강화 학습)에서 모델의 학습 과정에 대한 연구가 재개되면서, 미리 학습된 모델이나 미리 튜닝된 결정 모델이 상호작용 콘텍스트에서 잠재적인 작업 규칙을 추론하고 향후 행동을 개선할 수 있는 능력을 연구하고 있습니다. 이 연구는 시도-오류 증거, 보상, 전이, демон스트레이션, 피드백, 또는 취득한 경험이 콘텍스트 창구 내에서 학습과 유사한 계산을 발생시키는지 여부를 물어봅니다. 그러나 현재 ICRL에 대한-existing survey-는 주로 미리 학습 목표, 아키텍처, 콘텍스트 형식, 평가 프로토콜, 이론적 메커니즘을 중심으로 분류하고 있습니다. 반면 비정상적인 설정은 상대적으로 미흡하게 조사되고 있습니다. 변화하는 환경에서 축적된 콘텍스트는 단순히 고정된 작업에 대한 더 많은 증거만이 아닙니다. 보상 규정, 전이 커널, 관찰 채널, 행동 인터페이스, 제약 모델, 또는 데모와 메모리 분포가 현재 체제와 동떨어지게 될 수 있습니다. 이전에 유용한 콘텍스트는 따라서 시기상조, 오류, 또는 다시 유용해질 수 있습니다. 변화하는 환경에서 ICRL을 학습하는 문제를 조사하고 있습니다. ICRL을 비정상적으로 정의하고, 메타 강화 학습, 결정 시퀀스 모델링, 취득된 RL, 가치- 및 모델- aware ICRL, 보상- 피드백 agent와 관련시킵니다. 또한 세 가지 질문에 따라 문헌을 분류하고 있습니다: 1. 무엇이 변하는가? 2. 변화가 어떻게 진행되는가? 3. agent가 변화의 변화를 관찰할 수 있는가?

원문 보기 arXiv AI

함께 읽으면 좋은 기사

에이전트 18시간 전

Meta의 영감은 OpenAI와 Anthropic에서 본격적으로 빛나는 AI를 훔쳤습니다.

AI 리더들이 OpenAI와 Anthropic에서 "선도 경계를 맞춰가기"라는 주제로 논의를 시작했을 때, 누군가는 "어느 속도로?"라는 질문을 해야 했을 수도 있었다. 이제는 두 회사가 모두 모델을 출시하는 모델 출시 주간이 되었는데, Anthropic이 Opus 5.5을 출시한 후 OpenAI가 GPT-6 모델 업데이트를 90분만에 출시했다. 그러나 스포트라이트를 잡은 것은 Meta 였는

에이전트 2일 전

강화 학습 기반 역할 놀이 에이전트의 역할 학습을 위한 적대적 폐쇄 루프 교육과정

역할 연기하는 agent는 대규모 언어 모델을 기반으로 한 것들이 개인화된 지원 및 사회 시뮬레이션과 같은 분야에서 광범위하게 적용되어 왔다. 최근 RL 방법들은 학습이 시작되기 전에 미리 수집한 고정된 시나리오 풀에서 훈련을 받는다. 이로 인해 분포적 병목 현상이 발생한다: agent가 향상될수록 agent가 나쁜 성능을 보이는 시나리오도 변하고, 훈련 분포는 정적이다. 따라서, 우리는 역

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.