본문으로 건너뛰기

SAS 비전 트랜스폼러에 기반한 강화된 대비 학습

AI 자동 생성

아티클 번호: 2609.21061v1 발표 유형: 새로운 개요: 합성 어레이 소나(SAS)를 사용하는 자동 목표 식별(AUTR)은 고급 해군 기능을 지원하지만, 깊은 학습은 희소한 목표 이미지를, 배경 잡음 및 인간의 평가를 제한한다. 우리는 바다 속 SAS AUTR을 위한 DINOv3 비전 트랜스포머(ViT) 모델을 3단계의 매개 변수 효율적인 프레임워크로 적응시킨다. 단계 1은 ViT 백본을 동결하고 자연 이미지 훈련 후 물리학적 전파를 대체하는 Low-Rank Adaptation(LoRA)을 사용한다. 단계 2는 가혹한 부정적 탐색을 사용하여 음향 모방을 강화하여 사람 만든 목표와 유사한 암석 및 침전물 형성을 제거한다. 단계 3는 Supervised Contrastive Learning(SupCon)을 사용하여 목표 및 잡음 표현을 분리한다. 우리는 mission-level 지리적 분할을 사용하여 바다 속 SAS 데이터를 평가하고 모든 부문에서 85%의 테스트 회귀율을 비교하고 각 비교를 3개의 랜덤 시드를 반복한다. LoRA는 주된 효과를 고려하고, 동일한 동결 백본을 사용하여 AUPRC를 0.300에서 0.679 +/- 0.027로 증가시킨다. Rank 4는 이 결과를 달성하면서 무려 0.26%만의 가중치만 훈련한다. 조정 단계 중 하나만 효율적으로 적응되면 충분하며, 스택드 조정은 필요하지 않다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

연구 3일 전

스트로크 위험도 예측을 위한 새로운 AI 기술: MedGate-Fusion

스트로크 위험도를 예측하는 것은 원치 않는 병력이 발생하기 전에 중요한 역할을 합니다. 그러나 이 과제는 의사들이 주기적으로 기록하는 생리학적 바이오마커와 비구조적인 의료 기록의 사이에 분산되어 있는 초기 위험 신호를 식별하는 어려움으로 인해 힘들어집니다. MedGate-Fusion은 이러한 문제를 해결하기 위해 처음 만나는 의료 기록의 의미론적 이야기와 10개의 정기적으로 기록된 위험 표시자를 통합하는 멀티 모달 게이트 아키텍처를 제안합니다. 이 아키텍처는 대규모 언어 모델(LLM)과 같은 기존의 AI 기술을 사용하여 의료 기록의 의미를 추출하고 생리학적 바이오마커의 정보를 통합하여 스트로크 위험도를 예측합니다.

연구 3일 전

기존의 전제 조건자들이 생의학 표준 표 데이터 학습을 개선하는가? 표준 표 데이터 학습 최적화에 대한 실증 연구

최근 구조화된 생물학적 데이터 분석에 있어서 표준화된 기초 모델(tabular foundation model)이 강력한 잠재력을 보인다. 그 중 하나인 TabPFN은 낮은 데이터 표준화 분류 작업에서 효과적인 접근 방식으로 나타났지만, 최적화 및 조건화 전략의 생물학적 세부 튜닝에 대한 영향은 여전히 크게 연구되지 않았다. 본 연구에서, 우리는 59 개의 생물학적 데이터셋(Alzheimer'

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.