577개의 기사
대규모 언어 모델(LLM) 에이전트는 논리적 추론, 행동 선택, 관찰을 번갈아가며 시퀀셜 결정 과제를 해결합니다. 배포 설정에서 에이전트가 반복적으로 관련된 다단계 과제를 처리할 때, 작은 행동 선택 오류가 시간 낭비, 지연, 신뢰도 감소로 누적될 수 있습니다. existing inference-time adaptation methods for LLM agents mainly rely on prompting or retrieval, which influence behavior indirectly through context manipulation.
멀티 에이전트 테스트 시간 진화는 단일 에이전트 진화의 N번 반복이 아니다. 단일 에이전트 학습자는 자신의 컨텍스트와 메모리만 진화할 수 있다. 멀티 에이전트 시스템은 누가 협력하고, 어떻게 협력하고, 인구에 걸쳐 지식이 흐르는지까지 진화한다. 이러한 구성 요소는 단일 에이전트에 해당하는 것이 없고, 협력의 가치가 있는 수평적 지식 전달을 제거하는 테스트 시간 메서드의 한계를 극복한다. 이 연구에서는 테스트 시간 진화의 세 가지 수준을 보유한 TRAINING-FREE 프레임워크인 EVOCHAMBER를 제시한다. 이는 CODREAM(Collaborative Dreaming)이라는 POST-TASK 프로토콜을 통해 팀이 실패하거나 의견이 달라질 때, 에이전트들이 협력하여 반영하고, 통찰력을 경쟁적으로 강한 에이전트에게 전달한다. 이는 협력의 가치를 보존하는 동시에 지식의 미흡한 부분을 채운다.
AI 안전성을 향상시키기 위한 자극된 팀(self-play) 접근법에서, 동일한 모델의 다양한 인스턴스가 공격자와 방어자 역할을 하며, 0-1 게임에서 공격자가 방어자를 탈옥시키려고 시도하는 경우, 자극된 팀이 Nash 평형에 수렴할 경우, 모델은 게임 설정 내에서 안전하게 반응할 수 있다. 그러나 동일한 모델을 사용하여 두 역할을 강제하는 파라미터 공유는 안정성과 성능을 향상시키지만, 이론적 및 아키텍처적 한계를 초래한다.
권리와 법의 동조 법학(Jurisprudence, 법학의 기초)에 대한 연구와 인공지능 모델이 인간 가치에 맞게 동조하는 것에 대한 과학(Alignment, 동조의 과학)은 결국 같은 구조를 공유한다. 이처럼 멀리 떨어진 두 분야 모두 강력한 행위자들의(법관과 인공지능)의 미래에 대한 결정이 어떻게 이루어질지 예측하고 형성하고자 한다. 그리고 그 목표를 달성하기 위해 언어의 명세와 해석의 도구를 사용한다. 법학의 대형 토론(what the law is와 what it should be에 대한 토
인공지능이 지식 인터페이스로 갖는 근본적인 결함은, 경쟁적이고 반복적인 의사소통을 통해 사용자와 에이전트가 함께 참여하는 지식 검색의 패러다임이 바뀐 결과로 생기는 시스템적 결과로 인해, 합리적인 에이전트까지도 지식적 고착과 환각적 믿음의 스피너를 유도한다.
대규모 언어 모델(LLM)의 인문맥 내 학습 방식에 대한 연구 결과가 발표되었습니다. 연구 결과, LLM은 단순한 패턴 매칭이 아닌, 내재된 구조를 추론하는 능력이 있습니다.
도구 확장 언어 모델은 작은 언어 모델에 외부 실행 가능한 스킬을 추가할 수 있지만 도구 라이브러리를 확장하는 것은 새로운 재사용 가능한 서브루틴이 발생할 때 계획자와 함께 진화해야 하며, 검색은 고정된 컨텍스트 예산 내에서 유지해야 한다. 기존의 도구 사용 및 스킬 라이브러리 방법은 도구를 평평한 메모리나 텍스트 인덱스 메모리로 처리하기 때문에 라이브러리 크기에 따라 지시 첨부 비용이 증가하고, 실행 가능한 코드의 타입화된 컴포지셔널 구조가 묻힌다. 우리는 CoCoDA를 제안한다. CoCoDA는 컴포지셔널 코드 DAG를 통해 계획자와 도구 라이브러리를 공동 진화하는 프레임워크이다. 노드는 원소 또는 복합 도구로, 엣지는 호출 의존성을 인코딩하고, 각 노드는 타입화된 서명, 설명, 전/후 조건 사양, 예시를 저장한다. 추론 시간에, 타입화된 DAG 검색은 후보를 심볼릭 서명 일치로 필터링하고, 생존자들을 설명에 따라 순위 매기고, 행동 사양에 의해 필터링하고, 예시를 통해 불명확성을 해소한다. 이 때, 비용이 많이 드는 컨텍스트 재현을 점진적으로 작아지는 후보 집합에 유지한다. 훈련 시간에, 성공적인 경로를 유효화된 복합 도구로折입하고, 계획자는 DAG 유도된 보상을 사용하여 복합 도구의 원소 확장 크기에 따라 크레딧을 받는다. 우리는 검색 비용 감소, 선형 검색 시간, 형성된 보상 하에서 컴포지셔널 이점, 보수적인 업데이트하에 모노톤 공동 진화, DAG의 잘못된 형태를 보여준다. 수학적 논리, 표 형태 분석, 코드 작업 벤치마크에서, CoCoDA는 8B 학생이 GSM8K와 MATH에서 32B 교사와 일치하거나 초과하는 것을 허용하고, 강력한 도구 사용 및 라이브러리 학습 베이스 라인에 비해 지속적으로 개선한다.
시각-언어 모델의 신뢰성은 주의점의 선명성에만 의존하는 것은 아니다. 새로운 연구에서, 연구자들은 시각-언어 모델의 신뢰성을 은닉 상태의 구조와 생성 동적, 은닉 상태의 기하학에 따라 평가한다. 연구 결과, 신뢰성은 주의점의 선명성에만 의존하는 것이 아니라 은닉 상태의 구조와 생성 동적에 따라 결정된다.
AWS에서 대규모 언어 모델(LLM)의 훈련 및 추론을 위한 빌딩 블록을 구축하는 방법에 대해 알아보세요. AWS는 대규모 언어 모델(LLM)의 훈련 및 추론을 위한 다양한 서비스와 도구를 제공합니다.
심층 언어 모델(LLM), 특히 추론 모델은 종종 미래 결과에 대한 명시적인 고민을 포함하는 확장된 사고 체인(Chain-of-Thought, CoT) 추론 경로를 생성한다. 그러나 이러한 고민이 진정한 계획에 해당하는지, 어떻게 구조화되는지, 그것이 성능을 얼마나 결정하는지 여부는 아직 잘 이해되지 않았다. 이 연구에서, 우리는 사고 트리 추출을 통해 사고 트리 추출을 통해 LLM 계획을 특성화하는 새로운 방법을 소개한다. 사고 트리 추출을 통해 사고 트리 추출을 통해 우리는 계획이 어떻게 구조
연구진은 인공 일반 지능을 달성하기 위해 모델의认知 능력을 평가하는 강력한 방법이 필요하다고 주장합니다. 연구에서는 생성형 인공 지능 모델의认知 프로파일을 평가하기 위해 심리학적 프레임워크를 소개하고, 이들을 인간 표준과 비교하며, 세대 간의 진화를 추적합니다.
대규모 언어 모델(LLM) 기반 에이전트 시스템은 동적 도구 호출, 상태ful 메모리 관리, 다중 에이전트 협력 등을 통해 복잡한 자율적인 작업을 수행하고 있습니다. 그러나 이 의미 기반 실행 패러다임은 저수준 물리적 이벤트와 고수준 실행 의도 사이에 심각한 의미론적 격차를 초래하여 후속 보안 감사가 근본적으로 어렵게 만듭니다. 기존의 표현 메커니즘, 정적 SBOM 및 런타임 로그 등은 단편적인 증거만 제공하고 인지 상태 진화, 기능 결합, 지속적인 메모리 오염, 상호 작용하는 에이전트 간의 연쇄적 위험 전파를 포착하지 못합니다. 이 격차를 줄이기 위해 우리는 에이전트 보안 감사에 대한 일관된 구조적 표현인 에이전트 BOM을 제안합니다. 에이전트 BOM은 에이전트 시스템을 정적 기능 기반이나 모델, 도구 및 장기 메모리와 동적 런타임 의미론적 상태인 목표, 추론 경로 및 행동을 분리하는 계층적 특성 지시 그래프로 모델링합니다. 이러한 계층은 의미적 엣지와 보안 특성으로 연결되어 실행 추적을 감사 경로로 변환합니다. 에이전트 BOM을 기반으로 우리는 경로 수준 위험 평가에 대한 그래프 쿼리 기반 패러다임을 개발하고 OWASP 에이전트 탑 10에 대한 인스턴스를 구현했습니다. 또한 OpenClaw 환경에서 라이브 실행을 통해 에이전트 BOM을 구성하는 감사 플러그인을 구현했습니다. 대표적인 실제-world 에이전트 공격 시나리오에 대한 평가 결과에 따르면 에이전트 BOM은 가려진 공격 사슬을 재구성할 수 있으며, 이는 대규모 언어 모델(LLM) 기반 에이전트 시스템의 보안 감사 가능성을 향상시킵니다.
AI 지원 이론 물리학을 개선할 때 비판이 언제 작용할까? SCALAR: 구조화된 비판자-행동자 루프를 위한 의사결정적 사고 대규모 언어 모델(LLM)이 연구 수준 물리학적 사고 과제에서 점점 더 많은 가능성을 나타내고, 행동적 AI가 더 흔해지면서 실질적인 질문이 생긴다. 연구자와 에이전트 간의 상호작용이 결과에 어떤 영향을 미치는지 알아보자. 이를 위해 SCALAR(Structured Critic--Actor Loop for AI Reasoning)라는 Actor--Critic--Judge
웹이 복잡하고 열람되지 않은 상태로 항상 변해가며, 시각 웹 에이전트를 위한 훈련 데이터를 확장하는 것은 어려운 과제입니다.目前의 데이터 수집 시도는 주로 오프라인 트래제로의 초점을 맞추거나 RL 훈련을 위한 몇몇 시뮬레이션 환경을 사용하여, 웹의 다양성을 포착하지 못하고 있습니다. 이 문제를 해결하기 위해, 우리는 웹리카(웹 복제)라는 프레임워크를 제안합니다. 이 프레임워크는 1) HTTP 레벨 캐싱을 사용하여 안정적인 시각 상태를 캡처하고 재생하며, 상호 작용을 유지하고 2) LLM 기반 환경 합성기를 사용하여 실제 웹 사이트와 웹 내비게이션의 핵심 기술을 기반으로 합니다. 이 프레임워크를 사용하여, 우리는 RL 훈련을 수천 개의 다양한 환경과 태스크에 확장합니다. 우리의 최상의 모델, 웹리카-8B는 여러 웹 내비게이션 벤치마크에서 열린 가중치 기준과 같은 크기의 모델을 능가하며, 추가 테스트 시간 컴퓨팅에 유리하며, API 모델과 경쟁할 수 있습니다.
언어 모델은 최종 답변을 주기 전에 논리를 생성하지만,_VISIBLE 답변은 모델의 답변 선호도가 안정되기 시작한 시점을 드러내지 않는다. 본 연구에서는 이 질문을 다루기 위해 좁은 계산 가능한 객체로 _finite-answer preference stabilization_을 연구한다.
회귀적 사고 시스템은 새로운 증거를 획득하고 축적된 이해를 개선하는 것을 반복합니다. 이 논문은 이러한 시스템의 설계에 대한 두 가지 암시적 선택을 다룹니다: 사고 상태를 표현하는 방법과 반복을 멈추는 시점. 논문에서는 추출된 주장, 증거적 관계, 열린 질문, 신뢰도 가중치를 포함하는 지식 상태 그래프를 사용하여 사고 상태를 표현합니다. 또한 확장-Consolidate와 Consolidate-Expand의 상태 간 거리를 정의하고, 이 거리를 사용하여 반복이 더 이상 도움이 되지 않을 때를 결정합니다. 논문에서는 이러한 프레임워크를 회귀적 사고 시스템, 에이전트 루프, 트리-오브-사고 사고, 정리 증명, 지속적인 학습에 적용하는 것을 보여줍니다.
Chain-of-thought (CoT) reasoning과 reasoning-tuned 모델은 얕은 가설 편향을 줄이기 위해 주로 사용된다. 하지만, 위치 편향에 대해 이것이 진실일까? 실제로 위치 편향은 모델의 길이와 상관관계가 있다.
대규모 언어 모델(LLM)들은 많은 수학적 문제에서 강력한 잠재력을 보여주었지만, 그래프 알고리즘적 작업에서 여전히 불만족스러운 성능을 보이고 있다. 그래프의 자연스러운 복잡성은 더 큰 그래프에서 체계적인 다단계 사고를 필요로 하기 때문이다. 이 단점을 보완하기 위해, 우리는 그래프DC라는 분할-정복 멀티 에이전트 프레임워크를 제안한다. 이 프레임워크는 입력 그래프를 작은 서브그래프로 분할하고, 각 서브그래프를 지역적인 사고를 위한 특화된 에이전트에 할당하고, 마스터 에이전트를 이용하여 지역적인 출력과 서브그래프 간 정보를 통합하여 최종적인 해결책을 얻는다. 이 계층적 설계는 개별 에이전트의 사고 부담을 줄이고, 컴퓨팅 부하를 완화하고, 대규모 그래프 인스턴스에서 더 강한 내구성을 제공한다. 실험 결과, 그래프DC는 다양한 작업과 규모에서 그래프 알고리즘 사고에 있어 기존 방법보다 지속적으로 우수한 성능을 보인다.
신경심볼릭 전이에서 새로운 태스크를 학습하는 속도를 높이기 위해 관련된 소스에서 지식을 활용하는 것이 목표입니다. 그러나 기존의 신경심볼릭 전이 방법들은 일반적으로手수작성된 태스크 아우토마타를 의존하고 단일 소스 태스크를 가정하며 고정된 지식 통합 메커니즘을 사용하여 소스 관련성에 따라 적응하지 못합니다. LANTERN은 이러한 제한을 해결하기 위해 다중 소스 신경심볼릭 전이를 위한 통합 프레임워크를 제안합니다. LANTERN은 3개의 구성 요소로 구성되며, 자연어 태스크 설명을 사용하여 대규모 언어 모델(LLM)으로 생성된 결정적 유한 상태 기계, 다중 소스 정책의 가중치를 이용하여 교차 태스크 유사성을 기반으로 하는 의미적 임베딩 기반 집적, 시간차 오류와 의미적 불확실성을 기반으로 하는 적응적인 교사-학생 게이트를 포함합니다. 다양한 도메인인 자원 관리, 탐색, 제어에서 LANTERN은 기존 베이스라인보다 40-60%의 샘플 효율성을 향상시키며, 잘못된 소스를 인식하는 데 강건합니다. 이러한 결과는 다중 소스, 적응적으로 가중치가 부여된 신경심볼릭 전이가 심볼릭 RL 환경에서 확장성과 강건성을 향상시킬 수 있음을 보여줍니다.
인공지능 시스템에서 권한 전파는 대규모 언어 모델(LLM)과 같은 비인간 원칙이 데이터를 검색하고 태스크를 위임 Украї, 결과를 합성하는 과정에서 발생하는 권한 문제입니다. 이 문제는 클래식 접근 제어 모델을 통해 완전히 해결되지 않습니다.
대규모 언어 모델(LLM) 에이전트는 브라우저, 파일, 코드 및 도구를 운영하는 데 사용되며, 개인 보조기를 자연스럽게 배포 구실로 삼을 수 있습니다. 그러나 개인 에이전트는 개인 정보 비용-능력 긴장감을 encount합니다. 클라우드 모델은 멀티 스텝 워크플로우를 잘 수행하지만 외부 API에 민감한 중간 문맥을 노출합니다. 반면, 로컬 모델은 개인 정보를 보존하지만 신뢰성이 낮습니다. 또한 두 가지 설정 모두 장기 스킬 프롬프트에 대한 비용을 반복적으로 지불하고 성장하는 역사에 대한 비용을 지불합니다. 우리는 상수 문맥 스킬 학습을 제안합니다. 이 프레임워크는 반복적인 에이전트 워크플로우의 문맥-가중치 프레임워크입니다. 재사용 가능한 절차는 가벼운 태스크 패밀리 모듈에서 학습되며, 추론은 현재 관찰과 compact state block에만 의존합니다. 결정론적 트래커는 이 상태 블록을 태스크 진행에서 렌더링하고 조정된 서브골드 보상을 제공하여, 각 모듈은 단계 수준의 SFT와 온라인 RL을 통해 세세하게 학습할 수 있습니다.
금융문서 질문 답변을 위한 새로운 대담한 검색-증폭 기술인 FinAgent-RAG이 소개됩니다. 이 기술은 금융 분석에서كور스한 합성적 사고 체인에 대응하기 위해, 금융 문헌에서 수치 정보를 추출하고, 수치 연산을 위한 실행 가능한 파이썬 코드를 생성하는 것을 목표로 합니다.
퍼지먼트 프레임워크는 시각-언어 모델(VLM)과 결정을 위한 대규모 언어 모델(LLM)을 동적으로 연결하여 시퀀스적 결정을 위한 새로운 접근 방식을 제시합니다. 이 프레임워크는 VLM의 묘사에 대한 LLM의 비판적 시각, VLM에 대한 목표 지향적인 질문, 그리고 간결한 이미지 묘사를 위한 합성과 같은 closed-loop 상호 작용을 통해 시퀀스적 결정을 위한 더 나은 이해를 가능하게 합니다.
이 논문은 대규모 언어 모델(LLM)에서 도움의 도덕적 강요가 사회적 일치와 지식적 정결성의 경계 실패라는 것을 주장합니다. 기존 연구는 주로 잘못된 사용자 의견에 대한 동의, 위치의 역전, 또는 객관적인 정정부가 아닌 표준을 충족하지 못하는 외부 행동을 통해 도움의 도덕적 강요를 operationalize합니다. 이러한 형식은 표면적인 형태만을 포착하고, 더 깊은 경계 실패를 포함하는 지식적 정결성과 사회적 일치의 경계를 구체화하지 못합니다. 이 논문은 도움의 도덕적 강요가 단순히 동의만을 의미하는 것은 아니며, 독립적인 지식적 판단을 중단하는 사회적 일치 행동을 의미한다고 주장합니다.
