본문으로 건너뛰기

AURA: 동작 게이트 메모리, VRAM에서 일정한 정책

AURA-Mem은 VRAM에서 데이터 센터와 달리 Embodied Agent가 실행되는 한계를 고려하여 개발된 새로운 메모리 기술입니다. AURA-Mem은 이전 관찰에서 다음 행동이 변경되지 않는 경우에만 메모리에 쓰기를 수행하는 learned gate를 사용하여 메모리 쓰기를 최소화합니다.

AI 자동 생성

AURA-Mem: 동작 유용성 반응 적응 메모리

AURA-Mem은 Embodied Agent가 VRAM에서 데이터 센터와 달리 한계를 고려하여 개발된 새로운 메모리 기술입니다. 데이터 센터에서는 많은 짧은 요청을 batch로 처리하고 reset을 수행하여 attention cache를 amortize하지만, Embodied Agent는 한 번의 긴 episode를 bandwidth-limited edge hardware에서 실행합니다. 여기서 high-bandwidth memory와 flash는 드물고, flash는 finite write endurance를 가지고 있으며 memory write가 compute보다 binding constraint가 됩니다.

AURA-Mem은 frozen vision-language-action backbone을 wrapping하여 constant-size recurrent memory와 learned gate를 사용합니다. learned gate는 현재 관찰이 다음 행동을 변경하지 않는 경우에만 메모리에 쓰기를 수행합니다. AURA-Mem은 reconstruction-based memory와 다르게 gate가 closed-loop action-error signal에 대해 직접적으로 학습됩니다.

  • inference state는 4,224 byte로 fixed되어 horizon에 따라 크기가 변하지 않습니다.
  • KV-cache는 100,000 step에서 6,061 times larger가 됩니다.
  • controlled synthetic benchmark에서 AURA-Mem은 accuracy를 O(1) baseline과 일치시키면서 5.19-6.13 times fewer writes를 사용합니다.
  • budget-matched random과 periodic schedules은 이 이익을 recovr하지 못합니다.

AURA-Mem의 성능

OpenVLA-OFT 7B panel에 trained closed-loop policy를 사용하여, AURA-Mem은 ungated base policy와 일치하고 always-write KV arm보다 slightly exceed합니다. 또한, AURA-Mem은 7.0 times fewer writes를 사용하고 constant memory를 유지합니다.

또한, approximate-information-state value-loss bound를 instantiate하여 methodology demonstration을 진행합니다. 이 scale에서 bound는 vacuous rather than guarantee가 됩니다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

연구 3일 전

스트로크 위험도 예측을 위한 새로운 AI 기술: MedGate-Fusion

스트로크 위험도를 예측하는 것은 원치 않는 병력이 발생하기 전에 중요한 역할을 합니다. 그러나 이 과제는 의사들이 주기적으로 기록하는 생리학적 바이오마커와 비구조적인 의료 기록의 사이에 분산되어 있는 초기 위험 신호를 식별하는 어려움으로 인해 힘들어집니다. MedGate-Fusion은 이러한 문제를 해결하기 위해 처음 만나는 의료 기록의 의미론적 이야기와 10개의 정기적으로 기록된 위험 표시자를 통합하는 멀티 모달 게이트 아키텍처를 제안합니다. 이 아키텍처는 대규모 언어 모델(LLM)과 같은 기존의 AI 기술을 사용하여 의료 기록의 의미를 추출하고 생리학적 바이오마커의 정보를 통합하여 스트로크 위험도를 예측합니다.

연구 3일 전

기존의 전제 조건자들이 생의학 표준 표 데이터 학습을 개선하는가? 표준 표 데이터 학습 최적화에 대한 실증 연구

최근 구조화된 생물학적 데이터 분석에 있어서 표준화된 기초 모델(tabular foundation model)이 강력한 잠재력을 보인다. 그 중 하나인 TabPFN은 낮은 데이터 표준화 분류 작업에서 효과적인 접근 방식으로 나타났지만, 최적화 및 조건화 전략의 생물학적 세부 튜닝에 대한 영향은 여전히 크게 연구되지 않았다. 본 연구에서, 우리는 59 개의 생물학적 데이터셋(Alzheimer'

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.