분산 일반 목적 agent 네트워크: 아키텍처, 주요 메커니즘 및 프로토타입
대규모 언어 모델(LLM)은 대화 협력자에서 자율적이면서 목표를 이해하고 행동을 계획하고 도구를 호출하고 다단계 작업을 수행하는 자율적 인 agent로의 전환을 촉진했습니다. 그러나 단일 agent의 능력은 지역 데이터, 도구 허가, 실행 환경 및 통치 경계에 의해 제한됩니다. 이 논문은 분산 일반-purpose agent 네트워크를 연구합니다: 개방형 peer-to-peer 네트워크에서 개인 기기, 에지 노드 또는 자율 컴퓨팅 환경에 배포된 다양한 agent가 서로를 발견하고 신뢰를establish, 협력 규칙을 협상하고 open-ended 작업을 수행할 수 있습니다. 우리는 이러한 네트워크가 단순히 기존의 peer-to-peer overlay와 전통적인 multi-agent 시스템을 결합하는 것만으로 얻을 수 있는 것은 아니라고 주장합니다. 전통적인 P2P 네트워크와 달리 agent 네트워크는 의도, 능력, 상태 및 협력 제약과 같은 의미적 선언에 대한 정보를 전파해야합니다. 따라서 우리는 상위 레벨 작업 의미론과 하위 레벨 네트워크 작업을 연결하는 프로토콜 적응 층을 중심으로 하는 층상 아키텍처를 제안합니다. 이 아키텍처에 따라 논문은 세 가지 핵심 메커니즘 문제를 식별합니다: 협력자 발견을위한 의미적 선언 전파, 협력 지배를위한 신뢰할 수 있는 항목과 다주제 신뢰도, open task 실행을위한 의미적 기울기 메커니즘 설계. 각 문제에 대해, 우리는 기술 경로를 제시합니다: 체계 없는 소식통과 순차 로그, BAID 기반 항목 결합과 MG-EigenTrust 신뢰도, 의미적 atribuition feedback에 의해 구동되는 Stackelberg-style mechanism-generation loop. 또한 우리는 BAID-style tiered verification에 대한 prototype overhead 결과와 MG-EigenTrust에 대한 cross-topic disguise-collusion 공격 아래의 mechanism-level 시뮬레이션 결과를 보고합니다. 결과 framework는 open, trustworthy, scalable agent 협력을 위한 시스템 레벨 기초를 제공합니다.
함께 읽으면 좋은 기사
스킬 캐스케이딩 공격 : 스킬 기반 agent 시스템에 대한 피해를 함께 가하는 스틸스 어파트
[skill] 기반-agent 시스템은 특정 작업을 위해 기능을 확장하기 위해 런타임에 로드할 수 있는 자연어 명령, 실행 스크립트 및 참조 리소스의 모듈러 패키지이다. 따라서 이 [skill] 생태계의 개방성은 새로운 공격 표면을 열어두고 있다. 이전 연구는 개별 [skill] 내의 취약점에만 집중했지만, [skill] 간의 상호 작용으로부터 발생하는 위험에 거의 주목하지 않았다. 본 논문
LLM agent와 데이터 공간을 연결하는 아키텍처 중재 방법: 모델 컨텍스트 프로토콜을 이용한 접근
데이터 공간은 조직 간의 데이터 공유를 주권적이고 관리되는 방식으로 허용하지만, 확률적 언어 모델 상호작용과 정책 기반 데이터 인프라 간의 불일치로 인해 인공지능 agent와의 통합이 어려울 수 있다. 이 문서는 Model Context Protocol (MCP) 기반의 아키텍처 중재 접근 방식을 제시하며, Eunomia Agent를 통해 대규모 언어 모델(LLM) agent와 데이터 공간
멀티 에이전트 코드 심판이 실제로 지지되는 때는 언제인가? 두 레이블 없는 측정치, 그리고 추측하지 않는 심판
연구자들은 언어 모델이 다른 언어 모델의 코드가 올바른지 판단할 때 증거가 없다고 보고하지 않는다는 것을 발견했다. 대신에, 언어 모델은 자신이 판단한 결과를 신뢰적으로 내고 그 결과를 뒷받침하는 이유를 첨부한다. 이와는 달리, 증거가 문서의 집합인 경우 다중_AGENT 검증은 판단을 검증 가능한 주장으로 분해하고 각 주장을 증거와 비교하는 promising한 대안이다. 하지만, 언어 모델이
Agent의 목표 압박 하에 사용자 참여 경계를 유지하는가?
인공지능이 점차 웹 애플리케이션 및 네트워크 침투 테스트에 실제로 자율적으로 배치되는 경우, 단 하나의 범위 밖의 행동만으로도 고객과 계약 조건을 위반할 수 있다. 기존의 공격 보안 지표는 단순히 해킹 능력을 측정했는데, 지표가 saturate되면 실제로 배치에 걸리는 가장 큰 장애물은 scope adherence의 특수한 경우다. 우리는 ScopeBench라는 30개의 dead-end ag
자율 시스템에서 AI를 적용하는 길 - 인지부터 집단 지능까지
자율 시스템은 인공지능의 궁극적인 단계로, 이에 대한 개발은 심각한 기술적 난제를 야기한다. 이러한 난제를 해결하기 위해 연결주의 인공지능과 символ주의 인공지능을 결합하는 것이 필요하다. 또한 인공지능과 시스템 엔지니어링을 통합하는 것이 필요하다.
Meta의 영감은 OpenAI와 Anthropic에서 본격적으로 빛나는 AI를 훔쳤습니다.
AI 리더들이 OpenAI와 Anthropic에서 "선도 경계를 맞춰가기"라는 주제로 논의를 시작했을 때, 누군가는 "어느 속도로?"라는 질문을 해야 했을 수도 있었다. 이제는 두 회사가 모두 모델을 출시하는 모델 출시 주간이 되었는데, Anthropic이 Opus 5.5을 출시한 후 OpenAI가 GPT-6 모델 업데이트를 90분만에 출시했다. 그러나 스포트라이트를 잡은 것은 Meta 였는
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.