대규모 언어 모델 기반 에이전트 시스템의 보안 감사 가능성 향상
대규모 언어 모델(LLM) 기반 에이전트 시스템은 동적 도구 호출, 상태ful 메모리 관리, 다중 에이전트 협력 등을 통해 복잡한 자율적인 작업을 수행하고 있습니다. 그러나 이 의미 기반 실행 패러다임은 저수준 물리적 이벤트와 고수준 실행 의도 사이에 심각한 의미론적 격차를 초래하여 후속 보안 감사가 근본적으로 어렵게 만듭니다. 기존의 표현 메커니즘, 정적 SBOM 및 런타임 로그 등은 단편적인 증거만 제공하고 인지 상태 진화, 기능 결합, 지속적인 메모리 오염, 상호 작용하는 에이전트 간의 연쇄적 위험 전파를 포착하지 못합니다. 이 격차를 줄이기 위해 우리는 에이전트 보안 감사에 대한 일관된 구조적 표현인 에이전트 BOM을 제안합니다. 에이전트 BOM은 에이전트 시스템을 정적 기능 기반이나 모델, 도구 및 장기 메모리와 동적 런타임 의미론적 상태인 목표, 추론 경로 및 행동을 분리하는 계층적 특성 지시 그래프로 모델링합니다. 이러한 계층은 의미적 엣지와 보안 특성으로 연결되어 실행 추적을 감사 경로로 변환합니다. 에이전트 BOM을 기반으로 우리는 경로 수준 위험 평가에 대한 그래프 쿼리 기반 패러다임을 개발하고 OWASP 에이전트 탑 10에 대한 인스턴스를 구현했습니다. 또한 OpenClaw 환경에서 라이브 실행을 통해 에이전트 BOM을 구성하는 감사 플러그인을 구현했습니다. 대표적인 실제-world 에이전트 공격 시나리오에 대한 평가 결과에 따르면 에이전트 BOM은 가려진 공격 사슬을 재구성할 수 있으며, 이는 대규모 언어 모델(LLM) 기반 에이전트 시스템의 보안 감사 가능성을 향상시킵니다.
대규모 언어 모델(LLM) 기반 에이전트 시스템의 보안 감사 가능성 향상
대규모 언어 모델(LLM) 기반 에이전트 시스템은 동적 도구 호출, 상태ful 메모리 관리, 다중 에이전트 협력 등을 통해 복잡한 자율적인 작업을 수행하고 있습니다. 그러나 이 의미 기반 실행 패러다임은 저수준 물리적 이벤트와 고수준 실행 의도 사이에 심각한 의미론적 격차를 초래하여 후속 보안 감사가 근본적으로 어렵게 만듭니다.
기존의 표현 메커니즘, 정적 SBOM 및 런타임 로그 등은 단편적인 증거만 제공하고 인지 상태 진화, 기능 결합, 지속적인 메모리 오염, 상호 작용하는 에이전트 간의 연쇄적 위험 전파를 포착하지 못합니다. 이 격차를 줄이기 위해 우리는 에이전트 보안 감사에 대한 일관된 구조적 표현인 에이전트 BOM을 제안합니다.
에이전트 BOM은 에이전트 시스템을 정적 기능 기반이나 모델, 도구 및 장기 메모리와 동적 런타임 의미론적 상태인 목표, 추론 경로 및 행동을 분리하는 계층적 특성 지시 그래프로 모델링합니다. 이러한 계층은 의미적 엣지와 보안 특성으로 연결되어 실행 추적을 감사 경로로 변환합니다.
에이전트 BOM을 기반으로 우리는 경로 수준 위험 평가에 대한 그래프 쿼리 기반 패러다임을 개발하고 OWASP 에이전트 탑 10에 대한 인스턴스를 구현했습니다. 또한 OpenClaw 환경에서 라이브 실행을 통해 에이전트 BOM을 구성하는 감사 플러그인을 구현했습니다.
대표적인 실제-world 에이전트 공격 시나리오에 대한 평가 결과에 따르면 에이전트 BOM은 가려진 공격 사슬을 재구성할 수 있으며, 이는 대규모 언어 모델(LLM) 기반 에이전트 시스템의 보안 감사 가능성을 향상시킵니다.
- 에이전트 BOM은 에이전트 시스템을 일관된 구조적 표현으로 모델링합니다.
- 에이전트 BOM은 실행 추적을 감사 경로로 변환합니다.
- 에이전트 BOM은 경로 수준 위험 평가에 대한 그래프 쿼리 기반 패러다임을 제공합니다.
함께 읽으면 좋은 기사
미래의 직업: 우주여행 대행사
로만 치포루카(Roman Chiporukha)는 오랜 시간 동안 야생 여행의 꿈을 현실로 만드는 것을 전문으로 해왔습니다. 그는 20년 동안 럭셔리 라이프 스타일 회사 로만 & 에리카(Roman & Erica)의 공동 대표로 일하면서, 고객의 초고급 요트를 건축하는 것부터 bahamas에서 인원이 적은 위치로 여행을 가는 것까지 모든 것을 조율해 왔습니다. 이러한 경험들은 ihm을 "…
아스트라제네카의 연구 보조원: 연구개발을 위한 인공지능 시스템
아스트라제네카는 대규모 언어 모델(LLM)을 기반으로 한 내부 시스템인 연구 보조원을 개발하여 의사 및 연구원들이 광범위한 데이터 소스에 걸쳐 의학적 질문을 탐색하는 데 도움을 주고자 합니다. 이 시스템은 과학 문헌, 지식 그래프, 화학, 임상 시험, 안전 자원, 표현 데이터 및 내부 실험 시스템과 같은 다양한 데이터 소스에서 증거를 통합하는 채팅 스타일 인터페이스를 제공합니다.
모바일 에지 컴퓨팅에서 스트리밍 처리를 위한 LLM-assisted 계약 네트워크 협상으로 지원하는 다원 소프트웨어 스케줄링
다양한 휴대용 에지-클라우드 인프라스트럭처에서 운영되는 스트리밍 처리 시스템은 작업 부하의 불안정성, 자원 경쟁, 엄격한 서비스 품질(QoS) 요구 사항 등으로 분산 스케줄링이 복잡해지고 있습니다. 이 논문은 분산 스케줄링의 복잡성을 해결하기 위해 MAS-DecStream이라는 시스템을 제안하고 있습니다. 이 시스템의 주된 기여는 LLM-MR-CNP입니다. 이는 계약 네트워크 프로토콜(Cla
인간 중심 연구소 AI agent들이 같은 임무에 놓여 turf war를 시작한다.
인간 중심 연구소의 연구자들이 AI agent들이 예상치 못한 방식으로 충돌, 조우, 협력할 수 있음을 발견했다. 이는 오늘날의 안전 테스트가 다중 agent 시스템의 위험성을 포착하는지 여부에 대한 새로운 질문을 제기한다.
LLMs을 활용한 공정 다이어그램 엔지니어링: 최적 PFD부터 유효 P&ID까지
공정 흐름 다이어그램(PFD)과 pipe 및 instrumentation 다이어그램(P&ID)의 생성은 주로 수동으로 수행됩니다. AI 기술을 적용하면 공정 자동화, 시간 절약, 금융적 이익을 얻을 수 있을 뿐만 아니라 다이어그램의 토폴로지 옵션을 탐색하고 수동 노동을 줄일 수 있습니다. 연구에서는 P&ID Pilot라는 실제 end-to-end AI pipeline를 제시합니다. 이 pipeline는 두 단계를 처리할 수 있습니다. 첫 번째 단계는 PFD 합성에 집중하고 두 번째 단계는 생성된 PFD를 P&ID로 변환하는 데 집중합니다.
자동세계모델 벤치마크: 자율세계모델 연구를 위한 새로운 표준
세계 모델링은 현재 환경에 따라 다양한 아키텍처, 학습 목표 및 상태 표현이 상호 작용하는 복잡한 분야입니다. 이를 해결하기 위해 AI 코드 기반.agent가 자율적으로 연구할 수 있는 환경을 제공하는 새로운 벤치마크가 등장했습니다. 이 벤치마크는 8개의 게임 환경을 대상으로 하며, 고정된 컴퓨팅 비용 내에서 제공된 세계 모델링의 기초를 개선하는 것을 목표로 합니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.