AI 모델 5월 11일
인공 지능의 불균형 진화: 생성형 인공 지능 모델의认知 능력
연구진은 인공 일반 지능을 달성하기 위해 모델의认知 능력을 평가하는 강력한 방법이 필요하다고 주장합니다. 연구에서는 생성형 인공 지능 모델의认知 프로파일을 평가하기 위해 심리학적 프레임워크를 소개하고, 이들을 인간 표준과 비교하며, 세대 간의 진화를 추적합니다.
검색
전체 기사
에이전트 5월 11일
대규모 언어 모델 기반 에이전트 시스템의 보안 감사 가능성 향상
대규모 언어 모델(LLM) 기반 에이전트 시스템은 동적 도구 호출, 상태ful 메모리 관리, 다중 에이전트 협력 등을 통해 복잡한 자율적인 작업을 수행하고 있습니다. 그러나 이 의미 기반 실행 패러다임은 저수준 물리적 이벤트와 고수준 실행 의도 사이에 심각한 의미론적 격차를 초래하여 후속 보안 감사가 근본적으로 어렵게 만듭니다. 기존의 표현 메커니즘, 정적 SBOM 및 런타임 로그 등은 단편적인 증거만 제공하고 인지 상태 진화, 기능 결합, 지속적인 메모리 오염, 상호 작용하는 에이전트 간의 연쇄적 위험 전파를 포착하지 못합니다. 이 격차를 줄이기 위해 우리는 에이전트 보안 감사에 대한 일관된 구조적 표현인 에이전트 BOM을 제안합니다. 에이전트 BOM은 에이전트 시스템을 정적 기능 기반이나 모델, 도구 및 장기 메모리와 동적 런타임 의미론적 상태인 목표, 추론 경로 및 행동을 분리하는 계층적 특성 지시 그래프로 모델링합니다. 이러한 계층은 의미적 엣지와 보안 특성으로 연결되어 실행 추적을 감사 경로로 변환합니다. 에이전트 BOM을 기반으로 우리는 경로 수준 위험 평가에 대한 그래프 쿼리 기반 패러다임을 개발하고 OWASP 에이전트 탑 10에 대한 인스턴스를 구현했습니다. 또한 OpenClaw 환경에서 라이브 실행을 통해 에이전트 BOM을 구성하는 감사 플러그인을 구현했습니다. 대표적인 실제-world 에이전트 공격 시나리오에 대한 평가 결과에 따르면 에이전트 BOM은 가려진 공격 사슬을 재구성할 수 있으며, 이는 대규모 언어 모델(LLM) 기반 에이전트 시스템의 보안 감사 가능성을 향상시킵니다.
에이전트 5월 11일
비판이 AI-assisted 이론 물리학을 개선할 때 언제? SCALAR: 구조화된 비판자-행동자 루프를 위한 의사결정적 사고
AI 지원 이론 물리학을 개선할 때 비판이 언제 작용할까? SCALAR: 구조화된 비판자-행동자 루프를 위한 의사결정적 사고 대규모 언어 모델(LLM)이 연구 수준 물리학적 사고 과제에서 점점 더 많은 가능성을 나타내고, 행동적 AI가 더 흔해지면서 실질적인 질문이 생긴다. 연구자와 에이전트 간의 상호작용이 결과에 어떤 영향을 미치는지 알아보자. 이를 위해 SCALAR(Structured Critic--Actor Loop for AI Reasoning)라는 Actor--Critic--Judge
AI 모델 5월 11일
웹리카: 시각 웹 에이전트를 위한 대규모 및 재현 가능한 훈련 환경
웹이 복잡하고 열람되지 않은 상태로 항상 변해가며, 시각 웹 에이전트를 위한 훈련 데이터를 확장하는 것은 어려운 과제입니다.目前의 데이터 수집 시도는 주로 오프라인 트래제로의 초점을 맞추거나 RL 훈련을 위한 몇몇 시뮬레이션 환경을 사용하여, 웹의 다양성을 포착하지 못하고 있습니다. 이 문제를 해결하기 위해, 우리는 웹리카(웹 복제)라는 프레임워크를 제안합니다. 이 프레임워크는 1) HTTP 레벨 캐싱을 사용하여 안정적인 시각 상태를 캡처하고 재생하며, 상호 작용을 유지하고 2) LLM 기반 환경 합성기를 사용하여 실제 웹 사이트와 웹 내비게이션의 핵심 기술을 기반으로 합니다. 이 프레임워크를 사용하여, 우리는 RL 훈련을 수천 개의 다양한 환경과 태스크에 확장합니다. 우리의 최상의 모델, 웹리카-8B는 여러 웹 내비게이션 벤치마크에서 열린 가중치 기준과 같은 크기의 모델을 능가하며, 추가 테스트 시간 컴퓨팅에 유리하며, API 모델과 경쟁할 수 있습니다.
AI 모델 5월 11일
언어 모델이 결정을 할 때? - 전제 언어화 결정을 위한 유한한 답변 이론
언어 모델은 최종 답변을 주기 전에 논리를 생성하지만,_VISIBLE 답변은 모델의 답변 선호도가 안정되기 시작한 시점을 드러내지 않는다. 본 연구에서는 이 질문을 다루기 위해 좁은 계산 가능한 객체로 _finite-answer preference stabilization_을 연구한다.
에이전트 5월 11일
LLM 에이전트 메모리 메커니즘의 진화: 저장에서 경험까지
대규모 언어 모델(LLM)-기반 에이전트는 외부 도구와 계획 기능을 통합하여 인공지능을 완전히 새롭게 만들었습니다. 메모리 메커니즘은 이러한 시스템의 아키텍처의 temel stone로 emerged했지만, 현재 연구는 운영 체제 엔지니어링과认知과학 사이의 이론적 분열로 fragmented되어 있습니다. 이 이론적 분열은 기술 합성의 unified view와 진화의 coherent perspective를 제공하지 못합니다. 이 survey는 LLM 에이전트 메모리 메커니즘의 진화에 대한 novel framework를 제안하고, 개발 과정의 세 가지 단계를 formalize합니다: 저장(trajectory preservation), 반영(trajectory refinement), 경험(trajectory abstraction).
AI 모델 5월 11일
캐스케이드: 배포 중에 대규모 언어 모델의 지속적 적응
대규모 언어 모델(LLM)의 생명주기는 훈련과 배포 사이의 단단한 구분으로 제한되어 오랫동안 학습이 중단되었습니다. 하지만 자연인간은 환경과 상호작용하면서 지속적으로 적응합니다. 이 연구에서는 배포 중 학습(DTL)을 LLM 생명주기의 세 번째 단계로 정의하고, 배포 중에 경험을 통해 모델을 개선할 수 있는 framework인 캐스케이드(CASCADE)를 제시합니다. 캐스케이드는 LLM 에이전트를 위한 명시적이고 진화하는 에피소드 메모리를 제공하고, 경험 재사용을 문맥적 밴드릿 문제로 형식화하여, 장기 상호작용에서 노르그레트 보장을 제공합니다.
에이전트 5월 11일
네트워크로 숨겨진 동맹: 내부 표현을 기반으로 하는 분산 AI 시스템의 지능적 집단 구조 진단
네트워크로 숨겨진 동맹을 식별하는 새로운 방법을 제안했습니다. 이 방법은 내부 표현을 통해 분산 AI 시스템의 지능적 집단 구조를 진단할 수 있습니다. 이 방법은 내부 표현의 상호 정보를 분석하여 지능적 집단 구조를 식별할 수 있습니다.
에이전트 5월 11일
회귀적 사고 시스템의 상태 표현 및 종료 조건
회귀적 사고 시스템은 새로운 증거를 획득하고 축적된 이해를 개선하는 것을 반복합니다. 이 논문은 이러한 시스템의 설계에 대한 두 가지 암시적 선택을 다룹니다: 사고 상태를 표현하는 방법과 반복을 멈추는 시점. 논문에서는 추출된 주장, 증거적 관계, 열린 질문, 신뢰도 가중치를 포함하는 지식 상태 그래프를 사용하여 사고 상태를 표현합니다. 또한 확장-Consolidate와 Consolidate-Expand의 상태 간 거리를 정의하고, 이 거리를 사용하여 반복이 더 이상 도움이 되지 않을 때를 결정합니다. 논문에서는 이러한 프레임워크를 회귀적 사고 시스템, 에이전트 루프, 트리-오브-사고 사고, 정리 증명, 지속적인 학습에 적용하는 것을 보여줍니다.
연구 5월 11일
빠르고 효율적인 선거구 재편 최적화: 합성 이동 금지 탐색
선거구 재편은 높은 품질의 솔루션, 빠른 처리 시간, 다중 기준 목표 및 상호 작용 개선에 대한 유연성을 필요로 하는 실용적인 조합 최적화 문제입니다. 이러한 문제는 정수 프로그램 또는 탐색 알고리즘에서 연속성 제약을 강화하여 가능성 있는 이웃 공간을 급격히 줄이며 탐색을 지역 최적값에 갇히게 할 수 있습니다. 새로운 방법은 금지 탐색에서 가능성 있는 이웃 공간을 확장하는 반면 연속성을 유지하는 방법을 제시합니다.
AI 모델 5월 11일
생각하는 것이 많을수록 편향이 많다: 길이에 따른 위치 편향
Chain-of-thought (CoT) reasoning과 reasoning-tuned 모델은 얕은 가설 편향을 줄이기 위해 주로 사용된다. 하지만, 위치 편향에 대해 이것이 진실일까? 실제로 위치 편향은 모델의 길이와 상관관계가 있다.
LLM PC 5월 11일
그래프DC: 분할-정복 멀티 에이전트 시스템을 이용한 대규모 그래프 알고리즘 사고
대규모 언어 모델(LLM)들은 많은 수학적 문제에서 강력한 잠재력을 보여주었지만, 그래프 알고리즘적 작업에서 여전히 불만족스러운 성능을 보이고 있다. 그래프의 자연스러운 복잡성은 더 큰 그래프에서 체계적인 다단계 사고를 필요로 하기 때문이다. 이 단점을 보완하기 위해, 우리는 그래프DC라는 분할-정복 멀티 에이전트 프레임워크를 제안한다. 이 프레임워크는 입력 그래프를 작은 서브그래프로 분할하고, 각 서브그래프를 지역적인 사고를 위한 특화된 에이전트에 할당하고, 마스터 에이전트를 이용하여 지역적인 출력과 서브그래프 간 정보를 통합하여 최종적인 해결책을 얻는다. 이 계층적 설계는 개별 에이전트의 사고 부담을 줄이고, 컴퓨팅 부하를 완화하고, 대규모 그래프 인스턴스에서 더 강한 내구성을 제공한다. 실험 결과, 그래프DC는 다양한 작업과 규모에서 그래프 알고리즘 사고에 있어 기존 방법보다 지속적으로 우수한 성능을 보인다.