본문으로 건너뛰기

물리학 기반 신경망에서 태스크 불일치 방지하기 위한 합성적 메타 러닝

물리학 기반 신경망(PINNs)은 부분 미분 방정식(PDE)의 해를 근사하기 위해 물리 법칙을 손실 함수에 임베딩합니다. 매개변수화된 PDE 가족에서 계수나 경계/초기 조건의 변동은 DISTINCT 태스크를 정의합니다. 이로 인해 각 태스크에 대한 개별 PINNs를 훈련하는 것은 컴퓨팅 비용이 너무 높으며, 교차 태스크 전이의 민감성이 태스크 불일치에 의존합니다. 메타 러닝은 재훈련 비용을 줄일 수 있지만, 기존의 방법은 일반적으로 단일 글로벌 초기화에 의존하고, 특성 부족한 좌표 입력 및 제한된 훈련 태스크 시에 부정적인 전이로 어려움을 겪습니다. 우리는 학습 친화성 적응성 모듈러 물리학 기반 신경망(LAM-PINN)을 제안합니다. LAM-PINN은 태스크 특이적 학습 동학을 활용하는 합성적 프레임워크입니다. LAM-PINN은 PDE 매개변수와 짧은 전이 세션에서 학습 친화성 메트릭을 결합하여 태스크 표현을 구성하고, 좌표만 입력으로 사용하여 태스크 클러스터링을 수행합니다. 모델은 클러스터 특화된 서브 네트워크와 공유 메타 네트워크로 분할되고, 선택적으로 모듈을 재사용하는 대신 단일 글로벌 초기화에 의존하지 않도록 라우팅 가중치를 학습합니다. 세 가지 PDE 벤치마크에서, LAM-PINN은 일반적인 PINNs에 비해 10%의 훈련 반복만 사용하여 미지의 태스크에 대한 평균 19.7배의 MSE 감소를 달성했습니다. 이러한 결과는 매개변수화된 PDE 가족의 경계 설계 공간 내에서 미지의 구성으로 일반화하는 데 효과적인 것으로 나타났습니다.

AI 자동 생성

물리학 기반 신경망

물리학 기반 신경망(PINNs)은 부분 미분 방정식(PDE)의 해를 근사하기 위해 물리 법칙을 손실 함수에 임베딩합니다. PINNs는 PDE의 해를 근사하기 위해 신경망을 사용하며, PDE의 물리 법칙을 신경망의 손실 함수에 임베딩합니다.

태스크 불일치

매개변수화된 PDE 가족에서 계수나 경계/초기 조건의 변동은 DISTINCT 태스크를 정의합니다. 이로 인해 각 태스크에 대한 개별 PINNs를 훈련하는 것은 컴퓨팅 비용이 너무 높으며, 교차 태스크 전이의 민감성이 태스크 불일치에 의존합니다.

메타 러닝

메타 러닝은 재훈련 비용을 줄일 수 있지만, 기존의 방법은 일반적으로 단일 글로벌 초기화에 의존하고, 특성 부족한 좌표 입력 및 제한된 훈련 태스크 시에 부정적인 전이로 어려움을 겪습니다.

학습 친화성 적응성 모듈러 물리학 기반 신경망

학습 친화성 적응성 모듈러 물리학 기반 신경망(LAM-PINN)은 태스크 특이적 학습 동학을 활용하는 합성적 프레임워크입니다. LAM-PINN은 PDE 매개변수와 짧은 전이 세션에서 학습 친화성 메트릭을 결합하여 태스크 표현을 구성하고, 좌표만 입력으로 사용하여 태스크 클러스터링을 수행합니다. 모델은 클러스터 특화된 서브 네트워크와 공유 메타 네트워크로 분할되고, 선택적으로 모듈을 재사용하는 대신 단일 글로벌 초기화에 의존하지 않도록 라우팅 가중치를 학습합니다.

실험 결과

세 가지 PDE 벤치마크에서, LAM-PINN은 일반적인 PINNs에 비해 10%의 훈련 반복만 사용하여 미지의 태스크에 대한 평균 19.7배의 MSE 감소를 달성했습니다. 이러한 결과는 매개변수화된 PDE 가족의 경계 설계 공간 내에서 미지의 구성으로 일반화하는 데 효과적인 것으로 나타났습니다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

LLM PC 3일 전

미소프트가 퀄컴의 X2 플러스 칩을 탑재한 더 작은 서피스 프로와 랩톱을 새로 출시합니다.

마이크로소프트는 퀄컴의 최신 스냅드龍 X2 플러스 칩을 사용하여 Surface Pro 12인치와 Surface Laptop 13인치를 업데이트한다. 작은 Surface 기기는 이전 해와 같은 디자인과 하드웨어 기능을 유지하며 내부에 더 빠르고 강력한 칩을 탑재하고 가격도 더 높아졌다(램 가격 상승으로 인해!). 12인치 Surface Pro는 $799.99에서 시작했지만(…)

LLM PC 4일 전

수류봇 시뮬레이션용 디바이스 내시각적 증거融合 및 설명 가능한 안내: PAANI

아르키브 : 2609.22353v1 발표 유형 : 새로운 요약 : 이동河川監視 로봇은 지리적 경계점만으로는 설명할 수 없는 장애물과 물의 경계를 해석해야 합니다. 자원 제한된 플랫폼에서는 불완전한 시각적 예측을 신속하고 검토 가능한 지침으로 변환하는 것이 DISTINCT한 문제입니다. 오브젝트 레이블이나 스티어링 명령은 어떤 증거가 결정을 지원하는지 또는 그 증거가 불신할 때를 설명하지 않습

LLM PC 9월 17일

지오AI를 위한 지식형 언어 모델(LLM) 지원 GIS에 대한 윤리적 및 개인정보 보호 위험에 대한 서술적 검토: 자율 GIS를 위한 통치 aware GIS의 방향

지오스페이셜 인공지능(GeoAI)은 대규모 언어 모델(LLM)으로 구동되는 자연어 인터페이스와 자율 GIS 워크플로를 통해 공간 정보에 대한 쿼리, 생성 및 해석 능력을 확장하고 있다. 이러한 기능은 일반적인 인공지능 윤리 논의에서 다루지 못하는 정부에 대한 새로운 도전을 제기한다. 이는 이동성 추적에서 수동 위치 추론, 공간적으로 구조화된 편견의 증폭, 공간적 자율성의 증폭, 다중 모드 지

LLM PC 9월 11일

규모에 따른 중요한 물질 회수에 집중한 능동 학습

연구자들은 대규모 생산을 위해 회복 과정의 선택을 위해 실험실 결과와 제품 요구 사항, 공정 비용, 규모 효과를 연결하는 것이 필요하다. 우리는 퍼시픽 노스웨스트 국립 연구소의 컴퓨터 인텔리전스(CICERO) 워크플로우에서 자율적인 선택적 침전을 위한 기록을 분석했다. 활성 학습은 이전 결과를 사용하여 실험이 선택된다. 조건부 역사적 벤치마크에서 모델과 재활용된 네오디뮴-철-보르온(NdFeB

LLM PC 9월 11일

온라인 에이전트를 위한 상태-경로 도구 메뉴: 메뉴는 이전의 처형이다.

인공지능 언어 모델은 도구를 통해 작동하지만 실제 agent는 수천 개의 인터페이스를 포함하는 라이브러리를 처리해야 한다. 우리는 agent에게 실행하기 전에 보여지는 도구 메뉴를 도구의 짧은 순서付き 부분집합으로 정의한다. agent는 이 메뉴에 있는 도구만 호출할 수 있다. 다단계 작업은 최종 작업과 그 작업의 입력을 생성하는 이전 도구가 사용 가능한 순서로 작동한다. 현재 생성기는 요청

LLM PC 9월 11일

subagent 대 agent skill: 재사용 가능한 지식의 재현을 통한 장기적 행위任务의 수행

인공지능-agent가 대규모 언어 모델(LLM)에서 재사용 가능한 지식 라이브러리를 효과적으로 활용하여 장거리 작업을 해결하는 방법은 무엇입니까? 최근 연구는 agent skills: 재사용 가능한 기능을 나타내는 패키지로, 즉 특정 작업을 수행하는 데 도움이 되는 지침, 스크립트 및 기타 자원들이 포함된 다중 파일 묶음에 집중하고 있습니다. agent skills는 일반적으로 skill i

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.