본문으로 건너뛰기

검색

전체 기사

연구 5월 19일

세계-지역 그래프 주의도 네트워크: 교통 예측을 위한 새로운 접근법

교통 예측은 지능형 교통 시스템의 중요한 부분입니다. 교통 예측의 주요 도전 중 하나는 시공간 상의 상관관계를 찾는 것입니다. 최근 그래프卷积 네트워크와 그래프 주의도 네트워크가 전통적인 통계 모델을 대체하여 미래 교통을 예측하는 데 사용되었습니다. 그러나 두 가지 모두 모든 꼭짓점이 매우 다른 특성을 가질 수 있는 것을 허용하는 것이 복잡합니다. 이러한 문제를 해결하기 위해, 우리는 쌍별 인코딩과 이벤트 기반 인접 행렬을 사용하여 세계-지역 그래프 주의도 네트워크(GLGAT)를 제안합니다. GLGAT는 꼭짓점이 전체 그래프에 대한 글로벌 주의도 행렬 집합을 가질 수 있도록 허용하고 각 꼭짓점에 대한 지역 주의도 행렬 집합을 할당합니다. 두 개의 실제 교통 데이터 세트에 대한 실험 결과, GLGAT는 시공간 상의 상관관계를 효과적으로 캡처하고 다른 최신 표준 기반이나와 경쟁적인 성능을 나타냅니다.

에이전트 5월 19일

바바 인 원더랜드: 실행 가능한 월드 모델을 위한 온라인 자가监督 동역학 발견

바바 인 원더랜드: 온라인 자가 학습 동역학 발견을 위한 실행 가능한 세계 모델 실행 가능한 세계 모델은 읽을 수 있고, 편집할 수 있으며, 실행할 수 있으며, 계획을 위해 재사용할 수 있지만, 프로그램이 환경의 전이 법칙을 캡처하기보다는 표면 언어의 의미적 단축을 캡처하지 않는다면만 가능하다. 우리는 표준화된 규칙 설명, 보상 신호, 신뢰할 수 있는 어휘 전제가 없이 상호 작용 증거만으로 상태 종속 동역학을 유도해야 하는 에이전트가 온라인 실행 가능한 세계 모델 학습을 하는 경우를 연구한다.

AI 모델 5월 19일

GRID: 보안 텍스트 지식 그래프 구축을 위한 지능 데이터 그래프 표현

보안 지식 그래프를 구축하는 것은 어려운 작업으로, 보안 도메인 지식이 부족한 대규모 언어 모델(LLM)와 end-to-end 문서-그래프 훈련이 어려운 문제가 있습니다. GRID은 보안 텍스트 지식 그래프 구축을 위한 end-to-end 프레임워크입니다. GRID은 CTI 기사에서 보안 도메인 감독을 생성하기 위해 그래프 추출과 지식 그래프 조건에 의한 텍스트 수정을 통해 추적 가능한 기사-그래프 정렬을 만듭니다. 그리고 문서-그래프 학습을 스크립트된 태스크 뱅크로 변환하여, 4 옵션 멀티 셀렉트 질문과 트리플 레벨 정규 표현식 매칭 타겟을 결합하여, LLM 판독기와 반복적으로 전체 그래프 출력을 스코어하는 것보다 더 안정적인 태스크 스페시픽 보상을 얻을 수 있습니다.

LLM PC 5월 19일

반납만큼 충분하지 않다: 개인화된 언어 시스템의 약속 범위 설정

개인화된 언어 시스템은 일반적으로 개인화성을 회상 문제로 다루지만, 실제로는 시스템이 약속을 지속할 때 많은 실패가 발생한다. 이 연구에서는 약속 범위 설정을 위한 Contract-Bounded Evidence Activation (CBEA)와 Lexicographic Commitment Validation (LCV) 기법을 제안한다. CBEA+LCV는 360 개의 테스트 케이스와 세 가지 생성 백엔드에서 실패율이 0.49-0.60로 유지되며, raw와 long-context baseline은 0.003-0.092의 실패율만큼 유지할 수 없다.

AI 모델 5월 19일

지식 그래프를 이용한 자기주도 지식 보강: 그래프 이론 기반 LLM 보강

지식 그래프를 이용한 자기주도 지식 보강 기술인 MetaKGEnrich를 소개합니다. 이 기술은 대규모 언어 모델(LLM) 응용 프로그램에 자기주도 지식 보강 기능을 제공합니다. MetaKGEnrich는 세 가지 주요 단계를 거칩니다: 지식 그래프 생성, 구멍을 찾기 위한 그래프 메트릭 탐색, 웹 증거를 검색 및 처리.

AI 모델 5월 19일

대규모 언어 모델의 선형 대수 산술 오류를 드러내는 법과학적 벤치마크: LinAlg-Bench

대규모 언어 모델의 선형 대수 산술 오류를 평가하기 위한 새로운 벤치마크를 소개합니다. 이 벤치마크는 3x3, 4x4, 5x5 행렬에 대한 10개의 대규모 언어 모델을 평가하고, 9개의 과제 유형과 660개의 SymPy-인증 문제를 포함합니다. 벤치마크는 6,600개의 모델 출력을 평가하고, 1,156개의 오류를 분류하여 LLM의 산술 오류가 무작위적이지 않고 구조적으로 제약된다는 것을 밝혀냈습니다.

LLM PC 5월 19일

자연 속 지능력의 지속 가능성: 지식 적응형 에지 전문가 에이전트를 통해 생태계 모니터링 민주화

자연 속 생물 다양성의 급격한 감소는 효과적인 모니터링의 긴급성을 강조한다. 그러나 수동 조사를 위한 수작업 조사는 자원에 대한 확장성 있는 대안을 제공한다. обыч AI는 환경의 변동성으로 인해 자연 속에서 성능을 발휘하는 데 어려움을 겪는다. 현재의 방법은 모델을 다시 훈련하기 위해 필드 데이터를 지속적으로 업로드하는 클라우드 자원에 의존한다. 그러나 이러한 접근 방식은 제한된 전력과 네트워크 연결로 인해 원격 배포에 적합하지 않다. 이러한 제약을 해결하기 위해 이 연구에서는 모델 적응에서 지식 적응으로 전환하는 것을 제안한다. 우리는 시각적 인지와 사유를 분리하는 아키텍처를 소개한다. 시각 인코더와 동적 지식베이스를 결합하여 시각 인코더와 동적 지식베이스를 결합한다. 우리는 암묵적으로 모델 매개변수에 전문 지식을 인코딩하는 대신 명시적인 지식베이스를 사용한다. 또한 지식의 지속성을 지원하여 구조화된 형식으로 전문가 인사이트를 보존한다. 생물학자와 원주민 공동체와의 교차 학문적 협력으로 이 작업은 윤리적인 AI 공동 개발을 진전시키고, 책임 있는 생태계 관리를 위한 문화적으로 교육된 생태계 관리를 지원한다.

AI 모델 5월 19일

TTE-Flash: Chain-of-Thought를 통해 멀티모달 표현을 가속화하는 '생각-그후-임베딩 토큰'

연구진은 Chain-of-Thought(CoT) 논리를 통해 Universal Multimodal Embedding(UME)의 성능을 크게 향상시켰다. 하지만 CoT를 생성하는 데 필요한 컴퓨팅 자원은 종종 부담이 된다. 연구진은 CoT를 생성하는 대신 latent think 토큰을 사용하여 CoT를 생성하는 것을 방지한다. 이 연구에서는 think 토큰과 임베딩 토큰을 추출하는 방법과 think 토큰과 임베딩 토큰을 학습하는 방법에 대한 두 가지 주요 아키텍처 디자인을 조사한다.