574개의 기사
대규모 언어 모델(LLM)에서 그래프와 관련된 멀티모달 질의응답 시스템을 개선하기 위해, 우리는 그래프에 연결된 이미지 노드에 대한 시각적 후보 랭킹 연산자를 ColBERT/ColPali 계열의 Late-Interaction MaxSim-style 다중 벡터 스코링으로 교체했습니다. 이 변경은 멀티모달 QA에서 그래프에 연결된 이미지 후보에 대한 검색 단계 점추정치가 향상되고, 시각적 증거가
멤버십 추정 공격(Membership Inference Attacks, MIA)은 모델이 특정 예제를 학습 데이터에 포함하였는지 여부를 테스트하는 공격입니다. 연구진은 다이내믹 언어 모델(dLLM)의 특징을 이용하여 새로운 공격 기법을 제안합니다. 이 기법은 선택한 위치에 대해 단일 패스를 통해 모델을 테스트할 수 있게 해줍니다.
이 논문은 PPO-HSC (Proximal Policy Optimization with High-order Sampling Coverage, 근접 정책 최적화와 고차원 샘플링 커버리지)를 소개한다. 이 프레임워크는 대규모 언어 모델(LLM)의 fine-tuning에서 모드 붕괴(Invisible Shackles)의 문제를 해결하기 위해 설계된 탐색적인 강화 학습 프레임워크다. 표준 강화 학습
강화 학습은 대규모 언어 모델(LLM)의 추론력을 향상시키기 위해 보증된 보상을 사용하는 표준적인 접근 방식으로 발전했습니다. 그러나 우리는 이 패러다임의 중요한 한계점을 발견했습니다. 즉, challenging 추론 과제에서 목표 모델의 샘플들은 종종 의미적 중복성을 보이며, 오류의 '추론 계곡'에 수렴하여 정책 업데이트에 대한 보상을 제공하지 않습니다. 이 한계점을 극복하기 위해, 우리는 약한 정책을 강한 정책으로 학습하는 패러다임을 제안합니다. 보조 모델이 목표 모델의 샘플을 보조 branch를 통해 보강하는 것을 통해, 우리는 약한 정책을 강한 정책으로 학습하는 새로운 방법을 제안합니다.
최근 강화 학습의 성장으로 다양한 환경을 위한 대체 훈련 환경이 필요해졌습니다. 환경을 고정한 태스크와 보상 난이도가 환경 성능이 향상되면 효과적인 신호가 되지 않으며, 장기적인 보상이 희박하면 특정 워크플로우나 도구 구조에 대한 모드 붕괴를 유발합니다. 월드 모델이 환경 상태를 시뮬레이션하는 것은 순수 롤아웃 성능과 동등하게 성능을 보이므로, 다양성 요구 사항을 충족하기 위한 대용량 환경을 구축하는 데 hứ중에 있습니다. 그러나 자동 회귀 (AR) 월드 모델은 전방향 편향으로 인해 전역적으로 상호 의존적인 상태 anchor들, 즉 도구 스키마, 이전 턴, 예상 결과에 대한 조건을 설정하는 것을 방지합니다.
링크 예측에 있어 Graph Neural Networks (GNNs)가 최근 주목받고 있다. 그러나 기존 리뷰는 GNN 아키텍처와 다양한 그래프 구조에 대한 체계적인 탐색을 제공하지 못했다. 이 연구에서는 GNN 기반 링크 예측의 체계적인 리뷰를 제공하고, 새로운 GNN 관점에서 최근 기술과 응용을 분류한다. GNN 기반 링크 예측의 기술과 응용을 살펴보고, 현재의 장애물과 미래의 방향을 논의한다.
연구팀은 사회적 지원 기술의 물리적으로 안전하고 감정적으로 친숙한 인터페이스를 제공하는 소프트 센서화된 동료를 개발하기 위해 Soft, sensorized companions라는 개념을 제안했습니다. 그러나 이들의 변형성과 다중 채널 감각은 인간의 감정에 대한 강력한 해석을 어렵게 만들었습니다. 이 연구는 감정적 접촉 인식에 대한 소프트 인터랙티브 동료를 위한 완전한 오픈 소스 MATLAB
대규모 언어 모델(LLM) agent는 compact하고 잘 정의된 시나리오에서 강력한 추론 능력을示산하지만, 대규모, 다양한, 그리고 동적 세계 환경에서 TOOL INTEGRATION이 필요할 때에는 강도와 효율성이 유지되지 않는다. 이 격차를 해결하기 위해 우리는 TOOLVERSE라는 통합 framework를 도입한다. TOOLVERSE는 대규모 TOOL-INTEGRATED REASONI
Multimodal 지식 그래프 완성(Multimodal Knowledge Graph Completion, MKGC)은 구조적, 텍스트, 시각적 단서에서 누락된 엔터티를 추론하는 것을 필요로 한다. 기존의 확산 기반 MKGC 방법은 일반적으로 raw multimodal 특징에 직접 노이즈 제거를 한다. 이러한 디자인은 관계에 의존하는 단서 선택, 교차 모드 의미 부합, 구조적 엔터티 생성을
논리와 최적화의 결합은 규칙 기반 인공지능에 귀중한 기여를 할 수 있다. 논리는 규칙 기반을 인코딩하고 추론을 수행하는 데 적합한 매체이며, 최적화는 추론을 계산하는 강력한 기술을 제공한다. 논리와 최적화의 결합은 인공지능의 투명성에 대한 증가하는 관심사로 인해 새로운 중요성을 얻고 있다. 투명성은 재현성, 설명 가능성, 신뢰성, 공정성에 중요하다. 규칙 기반 인공지능은 투명성에 대한 자연스러운 해결책을 제공하고, 오늘날 고도로 발전된 최적화 방법으로 인해 점점 더 실용적으로 보이기 시작했다.
인터넷 메모는 시각적 단서, 텍스트 콘텐츠, 그리고 문화적 배경을 함께 조합하기 때문에, 이중 의미와 해괴함이 함께 존재하는 상황에서는 특히 해석하기 어려운 것이다. 이러한 복잡성을 고려할 때, 정확한 분류와 인간이 이해할 수 있는 설명을 제공하는 설명 가능한 메모 이해 시스템이 필요하다. 그러나 기존의 다모드 분류기는 이러한 상호 의존성을 무시하거나 해석 가능성을 제한적으로 제공한다. 이
연구자들은 이전 연구에서 개발한 인공지능 agent인 ARC-AGI-3 agent가 성능을 향상시키는 데 어떤 요인이 중요한지 밝히기 위해 네 가지 nested Codex-based agent를 개발했습니다. 이 네 가지 agent는 텍스트 기반 baseline, 유연한 인터페이스 executable world model, 동일한 executable model에 scheduled simpli
DrawingVQA라는 새로운 벤치마크를 소개합니다. 이 벤치마크는 대규모 언어 모델(LLM)들을 실세계의 건설 도면에 대한 멀티 모달 평가에 사용하기 위해 설계되었습니다. 건설 도면은 건축, 토목, 그리고 여러 다른 공학 분야에서 핵심적인 미디어입니다. 자연 이미지나 스키마틱 플랜과 달리, 건설 도면은 추상적인 기하학, символ 표기법, 표 형식의 데이터, 주석, 그리고 특정 분야의 텍
수학 및 과학 분야의.agent 시스템이 특화된 리뷰어 역할을 갖는 계층적 설계를 사용한다고 가정하지만, 실제로 리뷰어의 정확성은 비평의 수용을 보장하지 않는다는 연구 결과가 나왔다.
건강 관리는 고위험 의사소통, 전문가의 사고력, 업무 처리를 포함한다. 그러나 이러한 용도를 모두 다룰 수 있는 특화된 대규모 언어 모델(LLM)은 아직 많이 없다. 건강 관리 모델은 환자 상담, 텍스트와 이미지에 대한 임상 사고력, 상호 작용 진단, 전자 의료 기록(EHR) 도구 사용을 처리해야 한다. 이러한 기능은 서로 다른 방식으로 실패하고, 한 업무를 위한 좁은 업데이트는 다른 업무를
유사관계와 바탕이 되는 원인 메커니즘을 이해하는 것을 넘어서 추론을 할 수 있는 대규모 언어 모델(LLM)의 발전을 위해 원인적이고干섭적인 질문에 대한 답변은 필수적이다. 그러나 현재까지 존재하는 LLM 기반의 방법들은 종종 암시적인 언어 수준의 추론에 의존하여 투명하지 않은 원인적 가정, 검증할 수 없는 추론 경로, 복잡한干섭 상황에서 약한 예측을 낳는다. 특히, 문맥이 없는 상황에서는 더
아카이브: 2607.15280v1 발표 형식: 새로운 요약: 순차적 진단은 반드시 진단 정확도와 자원 비용을 균형있게 유지하기 위해 반복적인 정보 수집을 통해 달성해야 합니다. 현재 대규모 언어 모델(LLM) 접근 방식은 지식-사고 격차를 보입니다: 광범위한 의학 지식을 인코딩함에도 불구하고, 자원 제약하에 논리적으로 사고하기 어려워 초과 테스트를 자주 하게 됩니다. 우리는 GraphDx라는
arXiv:2607.14187v1 Announce Type: new Abstract: Embodied cognition requires agents to connect high-level task reasoning with the physical states to be achieved. We introduce Hy-Embodied-RxBrain, an em
최근 대규모 언어 모델(LLM)의 발전은 복잡한 과학적 작업을 수행할 수 있는 자율 AI-agent를 가능하게 하면서도, 아직까지는 경험적으로 지배되는 영역에 초점을 맞춘 자동화된 연구 시스템이 많아, 이론적으로 지배되는 영역, 특히 엄격한 증명과 도메인 지식의 합성을 필요로 하는 수학적으로 기반을 둔 학문 분야는 여전히 많이 탐색되지 않았다. 주요 문제점은 대규모로 이론적 논리를 검증하는
대규모 언어 모델(LLM)이 게임의 규칙을 실행할 수 있는 코드로 합성할 수 있다. 이 코드 월드 모델(CWM)은 일반적으로 샘플 트레이너에 대한 전환 정확도에 따라 받아들여진다. 그러나 우리는 계획에 대한 이러한 적합성은 올바른 적합성이라고 주장한다. 본 연구에서는 4 가지 사실을 보여준다.
arXiv:2607.14159v1 발표 형식: 새로운 Abstract: agent 하네스(agent harness)는 LLM을 실행 가능한 agent로 변환하는 외부 제어层입니다. 하네스를 설계하는 것은 agent의 행위를 강하게 ảnh hưởng시키지만, 대부분의 자동 개선 방법은 narrower artifact들(예: prompts, pipelines, workflows)만 최적화하고,
작은 언어 모델(SLM)은 대규모 언어 모델(LLM)와 비교하여 환경적으로 친화적이고 비용이 저렴하지만, 복잡한 논리적 이해력을 요구하는 작업에서 오류가 발생합니다. 본 연구에서는 SLM의 논리적 이해력을 높이기 위해 심볼릭 트리플릿 추출과 전문가의 논리적 추론을 위한 관계 그래프卷积 네트워크(RGCN)를 활용하는 방법을 제시합니다.
학습 모델이 장기적인 작업을 잘 수행하지만, 보통 고정된 도구 세트로 훈련된 후에 훈련된다. 작업이 새로운 도구를 요구할 때, 이러한-agent는 효과적으로 그들을 통합하는 데 어려움을 겪고, 다시부터 scratch로 훈련하는 것은 종종 불실천이다. 우리는 도구 세트 확장 문제의 핵심 장애물이 행동의 지구력인지를 식별한다: agent가 새로운 도구와 정립된 논리 패턴에도 불구하고, 친숙한 도
arXiv:2607.14144v1 Announce Type: new 플라톤적 표현 가설(Platonic Representation Hypothesis, PRH)은 모델이 규모를 키울 때, 다종의 네트워크의 표현이 현실에 대한 공유 모델로 수렴한다고 말한다. 우리는 이 가설의 후속과 경계, 능력 수렴 가설(Capability Convergence Hypothesis, CCH)을 제안한다: 고정
