VLM의 중대한 실패 모드 밝히기
Vision-Language Models(VLMs)가 안전 카테고리 애플리케이션에서 널리 사용되고 있지만, 특정 실세계 상황에서 극단적인 실패를 보이기도 한다. 이 실패 모드는 REVELIO라는 프레임워크를 통해 체계적으로 발견할 수 있다. REVELIO는 VLM의 중대한 실패 모드를 발견하기 위해 두 가지 검색 절차를 결합하여 사용한다.
Vision-Language Models(VLMs)의 중대한 실패 모드
Vision-Language Models(VLMs)는 널리 사용되는 안전 카테고리 애플리케이션인 자율 주행 및 실내 로봇 등에서 널리 사용되고 있다. 하지만, VLMs는 특정 실세계 상황에서 극단적인 실패를 보이기도 한다. 이러한 실패 모드는 REVELIO라는 프레임워크를 통해 체계적으로 발견할 수 있다.
REVELIO 프레임워크
REVELIO 프레임워크는 VLM의 중대한 실패 모드를 발견하기 위해 두 가지 검색 절차를 결합하여 사용한다. 첫 번째 절차는 다양성에 대한 비eam 검색(search)이며, 두 번째 절차는 가우시안 프로세스(Thompson Sampling)이다. 두 절차를 결합하여 사용함으로써, REVELIO 프레임워크는 VLM의 중대한 실패 모드를 체계적으로 발견할 수 있다.
실험 결과
REVELIO 프레임워크를 자율 주행 및 실내 로봇 등에서 실험한 결과, 이전에 보고되지 않은 취약점이 발견되었다. 자율 주행 환경에서 VLM은 종종 약한 공간적 지지를 보이거나, 주요 장애물에 대한 고려를 하지 않아, 시뮬레이션된 충돌로 이어지는 추천을 내놓았다. 실내 로봇에서 VLM은 종종 안전 위험을 놓치거나, 과도하게 보수적으로 행동하여, 허위 경보를 발생시키고, 운영 효율성을 감소시켰다.
결론
REVELIO 프레임워크는 VLM의 중대한 실패 모드를 체계적으로 발견할 수 있다. 이러한 발견은 VLM의 안전 개선에 대한 구체적인 지침을 제공할 수 있다. 따라서, REVELIO 프레임워크는 VLM의 안전 개선에 중요한 도구로 사용될 수 있다.
함께 읽으면 좋은 기사
스트로크 위험도 예측을 위한 새로운 AI 기술: MedGate-Fusion
스트로크 위험도를 예측하는 것은 원치 않는 병력이 발생하기 전에 중요한 역할을 합니다. 그러나 이 과제는 의사들이 주기적으로 기록하는 생리학적 바이오마커와 비구조적인 의료 기록의 사이에 분산되어 있는 초기 위험 신호를 식별하는 어려움으로 인해 힘들어집니다. MedGate-Fusion은 이러한 문제를 해결하기 위해 처음 만나는 의료 기록의 의미론적 이야기와 10개의 정기적으로 기록된 위험 표시자를 통합하는 멀티 모달 게이트 아키텍처를 제안합니다. 이 아키텍처는 대규모 언어 모델(LLM)과 같은 기존의 AI 기술을 사용하여 의료 기록의 의미를 추출하고 생리학적 바이오마커의 정보를 통합하여 스트로크 위험도를 예측합니다.
AI가 관리하는 수학적 정의의 저고리: Lean Pool
Lean Pool은 AI agent들이 관리, 최적화하는 수학적 정의의 저고리입니다. 이 저고리는 수학적 이론과 공식의 정형화된 아카이브입니다. AI가 관리하는 저고리는 수학적 정의의 정확성과 완전성을 보장합니다.
기존의 전제 조건자들이 생의학 표준 표 데이터 학습을 개선하는가? 표준 표 데이터 학습 최적화에 대한 실증 연구
최근 구조화된 생물학적 데이터 분석에 있어서 표준화된 기초 모델(tabular foundation model)이 강력한 잠재력을 보인다. 그 중 하나인 TabPFN은 낮은 데이터 표준화 분류 작업에서 효과적인 접근 방식으로 나타났지만, 최적화 및 조건화 전략의 생물학적 세부 튜닝에 대한 영향은 여전히 크게 연구되지 않았다. 본 연구에서, 우리는 59 개의 생물학적 데이터셋(Alzheimer'
OpenAI, 수학적 문제 100개 이상 해결한 AI에 전문가 조언단 설립
OpenAI는 대규모 언어 모델(LLM)로 수학적 문제를 해결한 이후, 수학적 문제 해결을 위한 전문가 조언단을 설립했습니다. 이 조언단은 OpenAI의 수학적 연구 진행을 늦추거나 방향을 바꾸지 못할 것입니다.
AI가 회계사들을 과감히 폐지할 수 있는 'Tabby'가 등장했습니다!
Tabby는 실시간 회계 인터페이스를 제공하며, 고객의 서류를 처리하는 동시에 업계의 손익을 실시간으로 제공합니다. AI가 회계업무를 자동화하여 회계사들의 역할을 과감히 줄이는 중입니다.
SAS 비전 트랜스폼러에 기반한 강화된 대비 학습
아티클 번호: 2609.21061v1 발표 유형: 새로운 개요: 합성 어레이 소나(SAS)를 사용하는 자동 목표 식별(AUTR)은 고급 해군 기능을 지원하지만, 깊은 학습은 희소한 목표 이미지를, 배경 잡음 및 인간의 평가를 제한한다. 우리는 바다 속 SAS AUTR을 위한 DINOv3 비전 트랜스포머(ViT) 모델을 3단계의 매개 변수 효율적인 프레임워크로 적응시킨다. 단계 1은 ViT 백
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.