물리적으로 가능성 있는 세계 모델: 쿼리 조건에 의한 물리적 체험 인공지능의 사례

물리적으로 올바른 상호 작용 가능한 인공지능(AI) 세계 모델이 필요하다: 행동 결과를 지배하는 물리적 구조를 대표하여 intervention query에 답할 수 있도록 구성되어야 한다. 단순히 미래 관찰을 예측하는 것만으로는 부족하다. 기존의 관찰-예측 세계 모델은 물리적으로 잘못된 롤아웃을 생성할 수 있지만 시각적으로 가능성이 높다. 이러한 실패는 구조적이다. DISTINCT PHYSICAL SYSTEMS[distinct physical systems]은 동일한 시각적 구조를 가질 수 있지만 intervention 하에서 분기할 수 있다. 우리는 시각적으로 고정된 장면과 변하는 잠재 물리학을 조정하는 제어된 벤치마크를 통해 이 문제를 드러내었다. 이러한 모델은 불가능한 행동을 추천할 수 있으며 상호 작용 결과를 오기 예측하거나 안전한 행동을 인증할 수 있다. 우리는 상호 작용 가능한 AI가 물리적으로 올바른 세계 모델을 필요로 하며, intervention query에 답하기 위해 필요한 가장 간단한 물리적 추상화를 식별해야 한다고 주장한다. 이러한 모델은 모듈러 컴포넌트로 구성되며, 환경 표현, 잠재 상태 및 매개변수 추정, 행동 정의, intervention 동역학, 및 query 수준 반응이 포함된다. 자율적인 오케스트레이터는 관련 추상화를 식별하고 query 마다 호환 가능한 학습된 및 구조화된 컴포넌트를 조합해야 한다. CLOSED-FORM PHYSICS[closed-form physics]가 unavailable, uncertain, 또는 costly 인 경우, transition 모델은 분석적, 시뮬레이션, 학습, 또는 하이브리드일 수 있지만 interventional 결과를 결정하는 구조를 보존해야 한다. 이러한 분해는 모델을 해석 가능하게하고 컴포넌트를 검증 가능하게하며, query에 대한 출력을 감사할 수 있도록한다. 또한, 새로운 세계 모델의 디자인 원칙과 기존 모델의 유용성 테스트를 제공한다. 올바른 추상화는 세계의 가장 상세한 모델이 아니라 query에 관련된 차이를 보존하는 가장 간단한 모델이다. 우리는 기존 시스템이 올바르게 대답하지 못하는 query에 대해 이 접근법을 보여주고, planning, control, 및 verification에 물리적으로 올바른 모델을 동적으로 조립하고 적응하는 오케스트레이터가 어떻게 동작하는지 설명한다.