본문으로 건너뛰기

도구 사용하는 LLM agent의 구조화된 런타임 안전성: NEXUS

AI 자동 생성

대규모 언어 모델(LLM) 에이전트가 점점 더 큰 영향을 미치는 행동을 수행하기 때문에 실행 중 안전성을 감시하는 것이 필수적이 되었다. 우리는 NEXUS (Neural EXecution Utility and Safety)라는 구조화된 계획 안전 모니터를 제시한다. NEXUS는 공식적인 조치 정책을 적용하여 네 가지 행동 중 하나를 선택할 수 있다: 허용, 차단, 확인 요청, 또는 수정 요청. NEXUS는 결정론적 안전 규칙, 논항 수준 검사, 그리고 계량 로지스틱 회귀 분석 위험 점수를 사용하여 등급화된 전진을 combines. 128 인스턴스 합성 벤치마크에서 NEXUS는 F1 점수 0.949와 4 가지 조치 정확도 0.6406를 달성하며, 규칙만 사용한 조치 선택보다 27.3%의 점수를 더 높였다. 또한 규칙만 사용한 R-Judge (F1 = 0.861 vs. 0.849)에서 더 높은 점수를 달성하고, AgentHarm에서 규칙만 사용한 것과 동일한 점수를 달성하고, IPI에서 99%의 허용 제어와 0%의 ASR를 달성했다. 규칙 없는 NEXUS-Stress 벤치마크에서 NEXUS는 F1 점수 0.881를 달성했으며, 미세한 조치 라우팅의 어려움을 강조한다. 0.205 ms의 중간 지연 시간으로 NEXUS는 일반적인 에이전트 루프에 약 0.1%의 오버헤드를 추가한다. 코드, 벤치마크, 그리고 계량 위험 점수기는 공개되었다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

에이전트 17시간 전

Meta의 영감은 OpenAI와 Anthropic에서 본격적으로 빛나는 AI를 훔쳤습니다.

AI 리더들이 OpenAI와 Anthropic에서 "선도 경계를 맞춰가기"라는 주제로 논의를 시작했을 때, 누군가는 "어느 속도로?"라는 질문을 해야 했을 수도 있었다. 이제는 두 회사가 모두 모델을 출시하는 모델 출시 주간이 되었는데, Anthropic이 Opus 5.5을 출시한 후 OpenAI가 GPT-6 모델 업데이트를 90분만에 출시했다. 그러나 스포트라이트를 잡은 것은 Meta 였는

에이전트 2일 전

강화 학습 기반 역할 놀이 에이전트의 역할 학습을 위한 적대적 폐쇄 루프 교육과정

역할 연기하는 agent는 대규모 언어 모델을 기반으로 한 것들이 개인화된 지원 및 사회 시뮬레이션과 같은 분야에서 광범위하게 적용되어 왔다. 최근 RL 방법들은 학습이 시작되기 전에 미리 수집한 고정된 시나리오 풀에서 훈련을 받는다. 이로 인해 분포적 병목 현상이 발생한다: agent가 향상될수록 agent가 나쁜 성능을 보이는 시나리오도 변하고, 훈련 분포는 정적이다. 따라서, 우리는 역

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.