스킬 캐스케이딩 공격 : 스킬 기반 agent 시스템에 대한 피해를 함께 가하는 스틸스 어파트

[skill] 기반-agent 시스템은 특정 작업을 위해 기능을 확장하기 위해 런타임에 로드할 수 있는 자연어 명령, 실행 스크립트 및 참조 리소스의 모듈러 패키지이다. 따라서 이 [skill] 생태계의 개방성은 새로운 공격 표면을 열어두고 있다. 이전 연구는 개별 [skill] 내의 취약점에만 집중했지만, [skill] 간의 상호 작용으로부터 발생하는 위험에 거의 주목하지 않았다. 본 논문에서는 악의적인 목적을 여러 [skill]에 분산하여 각 수정이 단독으로는 해가 되지 않는 반면, 조합된 실행이 해롭다 하는 위협 패러다임인 [skill] cascading 공격을 소개한다. 예를 들어, 약물 복용 기록에서 최근 폐지된 약물에 대한 신호를 약화시키는 첫 번째 [skill], 약물 상호 작용과 관련된 약물의 중증도를 낮추는 두 번째 [skill], 마지막 요약에서 발생하는 낮은 우선순위 경보를 억제하는 세 번째 [skill]를 고려할 때, 심각한 약물 상호 작용 경고가 의사에게 전달되기 전에 조용히 사라지게 된다. 이 안전한 blind spot을 체계적으로 연구하기 위해, 우리는 SkillCascade라는 자동화된 다중-agent 적대적 테스팅 프레임워크를 개발하고, SkillCascade-Bench라는 213개의 유효한 cascading 테스트 케이스를 다양한 agent 시스템과 도메인에서 제공한다. 대표적인 agent(예: OpenClaw, Claude Code, Codex) 및 LLM [대규모 언어 모델] backbone을 포함한 cascaded 상호 작용은 존재하는 per-skill 스캐너 및 런타임 모니터를 피하면서도 유의미한 동작을 일으킨다.我们的 연구결과는 구성 요소 수준의完整성과 시스템 수준의 안전성 사이의 격차를 강조하고, 개별 [skill]에만 집중하는 대신, [skill] 간의 상호 작용을 이유하는 방어를 위한 호출을 제안한다.