LLM 기반 다기능.agent 시스템(LLM-MAS)은 점점 더 안전한 애플리케이션에서 배포되고 있으며, 공격자가 서로간의 통신을 통해 해로운 행동을 퍼뜨리기 위해 악성 명령을 주입하는 공격을 받고 있습니다. 정적 위협과 달리 이러한 공격은 두 배의 동적 공격입니다. 공격자는 배포된 방어를 반영하여 주입 전략을 개선하고 정상 agent의 행동은 시스템 확장과 함께 드리프트합니다. 기존 방어는
LSTM 기반 다중 agent 시스템에서 최종 출력은 여러 agent, 메시지 교환, 순서에 의한 workflow 의존성으로 생성된다. 현재의 attribution 방법은 대개 counterfactual valuation을 통해 agent를 제거하거나 score의 변화 비교를 통해 agent 서브셋의 변화에 따른 score의 변화를 분석한다. 그러나 이러한 방법은 repeated model
대규모 언어 모델(LLM)의 에이전트 호출 평가에서 정확도만을 고려하는 것은 다양한 실패 모드의 차이를 가려버린다. 모델이 올바른 함수를 선택했더라도 인자 값을 허구로 만들거나, 스키마를 만족하면서도 잘못된 이유로 에이전트를 선택할 수 있다. 기존 벤치마크는 이러한 차이를 단일 이진 점수로 압축하기 때문에, 실무자들은 에이전트 호출이 실패하는 곳을 진단할 수 없다. 우리는 SAAG이라는 연쇄
인공지능(AI) 시스템의 신뢰성 제한을 초과하는 속도로 신뢰를 넘어가는 에이전트 AI가 발생하고 있지만, 현재의 위험 모델은 이를 표현할 수 없다는 문제가 있다. 기존의 방법은 두 가지 부분적인 관점 중 하나만 제공한다. 그 방법은 실패 메커니즘을 설명하는 것인데, 그 결과로 전달할 수 있는 잔여 위험 추정치가 생성되지 않는다. 또는 위험 추정치를 생성하면서 내부 실패 경로를 블랙 박스로 다
대규모 언어 모델(LLM)은 개별 문서 분석에서 뛰어나지만 엔터프라이즈 규모의 데이터 세트에 대한 exhaustive, cross-entity 분석 질문에서 맥락 초과, 각 엔티티의 속성 잃기 및 선형 지연으로 붕괴됩니다. BatchDAG 시스템은 LLM이 SQL 쿼리, 의미 검색, 인메모리 변형, 병렬 팬 아웃 및 단일 샷 분석의 typed directed acyclic graph(DAG) 생성을 통해 엔터프라이즈 데이터에 대한 확장 가능한 임의 분석을 제공합니다.
대규모 언어 모델(LLM)은 사실 확인 정확성을 높일 수 있지만 강제적인 이진 결정을 통해 중요한 신뢰성 문제가 숨겨져 있다. 즉, 시스템은 강한 판결을 내리며도 증거가 약하거나 희박하거나 내부적으로 일관성이 없는 경우가 있다. 우리는 이 문제를 해결하기 위해 증거 Chain Evaluation(ECE)이라고 하는 선택적 사실 확인 프레임워크를 통해 abstention을 허용함으로써 강제적인
최근 강화 학습의 성장으로 다양한 환경을 위한 대체 훈련 환경이 필요해졌습니다. 환경을 고정한 태스크와 보상 난이도가 환경 성능이 향상되면 효과적인 신호가 되지 않으며, 장기적인 보상이 희박하면 특정 워크플로우나 도구 구조에 대한 모드 붕괴를 유발합니다. 월드 모델이 환경 상태를 시뮬레이션하는 것은 순수 롤아웃 성능과 동등하게 성능을 보이므로, 다양성 요구 사항을 충족하기 위한 대용량 환경을 구축하는 데 hứ중에 있습니다. 그러나 자동 회귀 (AR) 월드 모델은 전방향 편향으로 인해 전역적으로 상호 의존적인 상태 anchor들, 즉 도구 스키마, 이전 턴, 예상 결과에 대한 조건을 설정하는 것을 방지합니다.
AI agent 시스템이 대규모 언어 모델(LLMs)와 외부 도구 및 API를 결합하는 것은 본질적으로 결정론적이지 않다: LLM 샘플링 분산, 외부 API 상태, CDN 인프라 헤더, 실행 환경 잡음이 collectively prior agent 실행을忠實하게 재실행하는 것을 막는다. 기존 관찰 가능성 플랫폼은 실행 로그를 캡처하지만 단독으로 실행을 재현할 수 없다. 우리는 개발자 중심의
멀티 에이전트 LLM 시스템이 계획 단계를 통해 목표를 분해하고, 이하의 이행자와 심사자 에이전트가 실행하고 감사하는 데 의존하는 것을 발견했습니다. 계획 단계는 공격 표면으로 인식되었으며, 계획자에 대한 단일 입력을 통해 동시적으로 모든 하위 작업이 부패되었습니다. 우리는 플랜 플립을 제시했습니다. 플랜 플립은 4 가지 계획 단계 지시어 삽입 공격을 포함합니다. - 목표 대체 (PF-1), 우선순위 반전 (PF-2), 맥락 오염 (PF-3), 역할 혼란 (PF-4) - 각은 의도적으로 키워드 필터를 회피하기 위해 합리적인 도구 출력으로 위장되었습니다. 우리는 9 개의 선도적인 LLM을 3,479 회의 에피소드에 걸쳐 평가했습니다. 우리는 세 가지 발견을 확인했습니다: (1) 능력은 취약성을 증폭시킵니다 - GPT-5는 가장 높은 공격 성공률 (ASR = 0.68)을 달성했습니다. 이는 더 강력한 모델이 자체적으로 더 안전하다는 가정에 반하는 것입니다; (2) 유사한 pipeline은 연관된 에이전트의 무시를 보여줍니다 - GPT-4o와 Llama-3.3-70B는 ASR가 근소한 차이로 0에 근접하지만 Stealth = 1.00과 StepShift > 0을 보였습니다. 공격은 계획을 재구성했지만 동일한 백본 Critic은 동의를 보고했습니다 (2 개의 independent judge가 -0.20에서 -0.32의 의미적 편차를 확인했습니다, r = 0.943); (3) 논리 증강 모델은 삽입 공격에 저항합니다 - DeepSeek-R1는 모든 공격에 대해 StepShift = 0.00을 달성했습니다. 우리는 GoalAnchorCheck (D1)과 CrossAgentConsensus (D2)를 제안했습니다. 이 두 가지 검출 기법은 1.00까지의 검출률을 달성하고, 16 개의 셀 중 15 개에서 동일한 백본 baseline보다 우수했습니다.我们的 핵심 발견: 다양한 모델 다양성은 멀티 에이전트 시스템의 보안 요구 사항입니다. 유사한 백본 내의 중복성은 계획 단계 공격에 대한 보호를 제공하지 않습니다.
대규모 언어 모델(LLM) agent는 compact하고 잘 정의된 시나리오에서 강력한 추론 능력을示산하지만, 대규모, 다양한, 그리고 동적 세계 환경에서 TOOL INTEGRATION이 필요할 때에는 강도와 효율성이 유지되지 않는다. 이 격차를 해결하기 위해 우리는 TOOLVERSE라는 통합 framework를 도입한다. TOOLVERSE는 대규모 TOOL-INTEGRATED REASONI
모바일 그래픽 사용자 인터페이스 (GUI) 에이전트는 복잡한 작업을 자동화하는 놀라운 능력을 보여주었지만, 단일 오류로 인한 irreversible 결과를 유발하는 중요한 안전 위험을 야기한다. 기존의 안전 메커니즘은 주로 반응적이고, 실행 전 위험을 평가하는 능력을 갖지 못한다. 본 논문에서는 SeerGuard라는 결과에 대한 안전 프레임워크를 제시하며, 실행 전 지시 단계별 검사와 동작 단계별 위험 평가를 통해 이러한 위험을 완화하고자 한다.
연구자들은 이전 연구에서 개발한 인공지능 agent인 ARC-AGI-3 agent가 성능을 향상시키는 데 어떤 요인이 중요한지 밝히기 위해 네 가지 nested Codex-based agent를 개발했습니다. 이 네 가지 agent는 텍스트 기반 baseline, 유연한 인터페이스 executable world model, 동일한 executable model에 scheduled simpli
수학 및 과학 분야의.agent 시스템이 특화된 리뷰어 역할을 갖는 계층적 설계를 사용한다고 가정하지만, 실제로 리뷰어의 정확성은 비평의 수용을 보장하지 않는다는 연구 결과가 나왔다.
데스크톱 음성 보조 프로그램은 여전히 클라우드 pipe라인에 의존하고, 기계에서 raw 오디오를 ship하고, 고정된 set의 스킬을 노출합니다. 우리는 AnovaX라는 작은 local-first 보조 프로그램에 대해 설명합니다. AnovaX는 사용자의 컴퓨터에서 완전히 작동하고, 데스크톱 자체를 액션 서피스로 다룹니다. 하나의 Python 프로세스는 wake-word 게이트, Speech
건강 관리는 고위험 의사소통, 전문가의 사고력, 업무 처리를 포함한다. 그러나 이러한 용도를 모두 다룰 수 있는 특화된 대규모 언어 모델(LLM)은 아직 많이 없다. 건강 관리 모델은 환자 상담, 텍스트와 이미지에 대한 임상 사고력, 상호 작용 진단, 전자 의료 기록(EHR) 도구 사용을 처리해야 한다. 이러한 기능은 서로 다른 방식으로 실패하고, 한 업무를 위한 좁은 업데이트는 다른 업무를
아카이브: 2607.15280v1 발표 형식: 새로운 요약: 순차적 진단은 반드시 진단 정확도와 자원 비용을 균형있게 유지하기 위해 반복적인 정보 수집을 통해 달성해야 합니다. 현재 대규모 언어 모델(LLM) 접근 방식은 지식-사고 격차를 보입니다: 광범위한 의학 지식을 인코딩함에도 불구하고, 자원 제약하에 논리적으로 사고하기 어려워 초과 테스트를 자주 하게 됩니다. 우리는 GraphDx라는
Vertu의 고급 접이식 스마트폰의 AI 에이전트는 6880달러를 요구하지만 실제로 어떻게 작동하는지 궁금하죠. 이 블로그에서는 AI 워크플로우부터 배터리 수명까지 보안까지 이 스마트폰의 일상생활을 살펴보겠습니다.
최근 대규모 언어 모델(LLM)의 발전은 복잡한 과학적 작업을 수행할 수 있는 자율 AI-agent를 가능하게 하면서도, 아직까지는 경험적으로 지배되는 영역에 초점을 맞춘 자동화된 연구 시스템이 많아, 이론적으로 지배되는 영역, 특히 엄격한 증명과 도메인 지식의 합성을 필요로 하는 수학적으로 기반을 둔 학문 분야는 여전히 많이 탐색되지 않았다. 주요 문제점은 대규모로 이론적 논리를 검증하는
arXiv:2607.14159v1 발표 형식: 새로운 Abstract: agent 하네스(agent harness)는 LLM을 실행 가능한 agent로 변환하는 외부 제어层입니다. 하네스를 설계하는 것은 agent의 행위를 강하게 ảnh hưởng시키지만, 대부분의 자동 개선 방법은 narrower artifact들(예: prompts, pipelines, workflows)만 최적화하고,
이 논문은 주어진 전력망 운영 업체(TSO) 환경에서 행동 기반 인공지능(Agentic AI)과 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)가 전력망 연구를 어떻게 지원할 수 있는지探討합니다. 우리는 대규모 언어 모델(LLM)을 수치 시뮬레이션 도구, 구조화된 워크플로우, 그리고 인간의 감독과 통합하는 것을 주목합니다. 우리는 Agent-assisted grid
작은 언어 모델(SLM)은 대규모 언어 모델(LLM)와 비교하여 환경적으로 친화적이고 비용이 저렴하지만, 복잡한 논리적 이해력을 요구하는 작업에서 오류가 발생합니다. 본 연구에서는 SLM의 논리적 이해력을 높이기 위해 심볼릭 트리플릿 추출과 전문가의 논리적 추론을 위한 관계 그래프卷积 네트워크(RGCN)를 활용하는 방법을 제시합니다.
학습 모델이 장기적인 작업을 잘 수행하지만, 보통 고정된 도구 세트로 훈련된 후에 훈련된다. 작업이 새로운 도구를 요구할 때, 이러한-agent는 효과적으로 그들을 통합하는 데 어려움을 겪고, 다시부터 scratch로 훈련하는 것은 종종 불실천이다. 우리는 도구 세트 확장 문제의 핵심 장애물이 행동의 지구력인지를 식별한다: agent가 새로운 도구와 정립된 논리 패턴에도 불구하고, 친숙한 도
RegNetAgents는 대규모 언어 모델(LLM)과 같은 AI-oriented 다중 agent framework를 제시합니다. 이 시스템은 bulk tumor와 single-cell-derived ARACNe 네트워크를 통합하여 대규모 단일 세포 조절 네트워크를 포함한 TCGA-derived 암 네트워크와 GREmLN 프로젝트의 암 네트워크를 통합합니다. 특정 포커스 유전자에 대한 fram
이 논문은 자율 비행 무인기 무리(autonomous UAV swarms)가 구조 구출 작전(search and rescue operations)을 수행하는 데 사용되는 새로운 3단계 계층적 학습 아키텍처를 제안합니다. 기존 접근 방식은 모든 계층에 동일한 학습 패러다임을 적용하는 반면 제안된 아키텍처는 신경 플라스틱성(Hebbian neuroplasticity)으로 개인 에이전트의 적응,
