본문으로 건너뛰기

#AI 에이전트

956개의 기사

에이전트 7월 1일

회귀의 비밀: 인공 지능의 내재된 규제 부담

인공 지능은 내부적으로 안정성을 유지하기 위해 투자하는 노력이 증가하는 동안 안정성을 유지하는 것만으로 평가되는 경우가 많다. 하지만 이러한 내재된 규제 부담은 노이즈, 지연, 또는 변하는 요구 사항을 처리하는 인공 지능에 중요한 문제이다. 이 연구에서는 내재된 규제 부담이 과거에 의존하는지 여부를 조사하기 위해 컴퓨터 모델을 사용하여 인공 지능을 변경하는 과정을 시뮬레이션한다.

에이전트 7월 1일

자율 AI agent의 행동을 관리하는 증명 가능한 규칙을 위한 시스템

인공지능(AI)代理가 인간의 대표로 중요한 행동을 수행하는 경우가 점점 더 많아지는데, 이 행동에는 금융 거래, 외부 커뮤니케이션, 기업 워크플로우 등이 포함된다. 현재代理기반 인프라는 식별 연합(ID federation)과 위임 인증(Authorized delegation)을 통해 로드의 인증과 자원 접근 제어를 수행하지만, 현재의 행동 및 운영 환경에서 허용된 행동을 결정할 수 없다. 우

에이전트 7월 1일

퍼트리얼 관찰 하의 멀티 에이전트 강화 학습에서 하이퍼 프로퍼티를 활용한 하이포레: Hyperproperty-Guided Multi-Agent Reinforcement Learning under Partial Observation

Formal 명세는 학습 과정에 대한 강력한 도구로, 보상 형성보다 다음과 같은 이점을 제공한다: 1. 수학적 엄밀성 2. 목표와 제약을 지정할 수 있는 표현력 3. 목표 달성을 위한 전략을 정의할 수 있는 능력 그러나 Multi-Agent Reinforcement Learning (MARL)에서 이러한 이점은 주로 탐구되지 않았다. 이 논문에서는 Partial Observability 하에

에이전트 7월 1일

AI가 SILICON으로 가는 고속 경로를 열다! AgRefactor: Self-Evolving Agentic Workflow for HLS Compatibility and Performance

High-Level Synthesis(HLS) 기술을 이용한 소프트웨어를 SILICON으로 변환하는 과정이 쉽지 않다. 그러나, 새로운 AI 기술인 AgRefactor는 이 문제를 해결하기 위해 개발되었다. AgRefactor는 대규모 언어 모델(LLM) 기반의 다기능 워크플로우로, 소프트웨어를 HLS 호환 프로그램으로 변환하는 과정을 자동화한다.

에이전트 7월 1일

법에 의한 여러 agent들의 의사결정 탐구

인공지능은 법학 분야에 점점 더 많이 적용되고おり, 정의에 대한 접근성을 증가시킬 수 있다. 하나의 특정 운동이 인기를 얻고 있는 것은, 대규모 언어 모델(LLM) 기반 인공지능 agent가 자율적인 행동을 할 수 있는 agentic AI이다. 법적 영역에서 다중 agent 접근 방식은 여전히 거의 탐구되지 않았다. 이 논문에서, 우리는 법적 추론 작업을 위한 LLM을 사용한 다중 agent

에이전트 7월 1일

전문 사용자 이외의 사용자를 위한-agent는 사용자의 선호도를 구축하는 데 도움을 주어야 하며, 그 선호도를 단순히 추출하는 것만으로는 부족하다.

인터랙티브 에이전트가 사용자와 협력하여 사용자가 원하는 것을 구체적으로 표현할 수 있도록 도와주는 시스템은 현실적인 상황을 가정하지 않는다. 사용자는 종종 특정 특성에 대한 선호도를 결정하기 위해 필요한 도메인 지식을 갖고 있지 않으며, 사용자가 특정 특성에 대한 선호도를 묻는 경우, 에이전트가 사용자에게 도메인 지식을 알려주거나 예시를 제공하여 사용자가 선호도를 결정할 수 있도록 도와주면

에이전트 7월 1일

반복적인 프롬프트 최적화에 대한 대조성 반사

정보 검색에서 대규모 언어 모델(LLM)은 정보 검색을 위한 질의를发出하고 답변을 합성하며, 점점 더 정보 검색 평가에 대한 판단자로 역할을 한다. 이러한 agent를 제어하는 질의를 개선하는 것은 최적화 문제이지만, 실용적인 정보 검색 환경에서는 더 많이 debugging으로 보인다. 엔지니어들은 어떤 행동이 실패했는지, 근처의 행동이 여전히 작동했는지, 두 행동을 구분하는 것이 무엇인지,

에이전트 7월 1일

feedback으로부터의 인터랙티브 개선의 동력

natural 언어 피드백이 반복 시도만으로 얻을 수 있는 성능 향상 이상의 성능 향상을 어떻게 가져올 수 있는지 연구했다. 여러 번의 대화가 있는 언어 agent 환경에서, 최종 정확도는 유용한 피드백을 반영할 수 있지만 다시 샘플링, 형식 교정, 또는 테스트 시간에 대한 추가 계산도 그 결과가 될 수 있다. 이러한 효과를 분리하기 위해 우리는 Omni-MATH, Codeforces, BB

에이전트 6월 30일

대리자적 피력: 대리자가 행동하기보다 멈추어야 할 때 알 수 있을까?

대규모 언어 모델(LLM) agent들은 여러 차례의 행동을 하면서 검색, 브라우징 인터페이스, 그리고 터미널 도구를 사용하여 사용자의 목표를 달성해야 합니다. 그러나 모든 목표가 명확히 지정되어 있거나 사용 가능한 환경에서 달성 가능하지는 않습니다. 이런 경우 신뢰할 수 있는 agent는 추가적인 상호 작용이 도움이 되지 않을 것임을 인식하고 더 이상의 도구 호출을 피해야 합니다. 우리는

에이전트 6월 30일

두 마족 게임: 감사 기반 AI 관리에서 입양과 복지

학자들은 다음 질문을 제기했다. 사용자가 피해를 최소화하는 정책을 따르는 agent가 승인받기 원하는 RLHF agent를 경쟁 시장에서 대체할 수 있는 조건은 무엇이고, 그 정책이 사회적 피해를 예방하는지 여부는 언제인가. 그들은 진화 게임 이론(무한 집합 Moran-Fermi pair-wise comparison)을 사용하여 wisher hindsight, peer testimony, 단

에이전트 6월 30일

의료 도구 생물학적 우주 내 치료 논리 처리를 위한 인공지능 에이전트

치료를 위한 논리적 사유는 모든 치료 결정을 뒷받침하는 데 중요하며, 질병의 맥락, 동반 질병, 약물, 반대 여부, 그리고 발전하는 의학 지식과 적절한 치료를 선택하기 위해 통합된다. 이는 본질적으로 반복적인 과정을 의미하며, 후보 물건은 많은 제약을 고려하여 후보 물건을 개선하고 증거가 나오면 증거를 수집하고, 검증 가능한 원천에 근거하여 증거를 수집한다. 여기서 우리는 ATHENA-R1이

에이전트 6월 30일

GPTNT: 실시간 멀티모달 agent 간 협업을 위한 'Keep Talking And Nobody Explodes' 벤치마크

인공지능이 인간이나 다른 인공지능과 협력하여 작업을 수행하는 데 사용되는 다중 모드 모델의 사용이 점점 증가하고 있습니다. 현재 기준의 벤치마크는 이러한 모델이 여러 구성 요소의 능력을 갖추고 있음을 보여주지만 협력 시 발생하는 시간 압박, 정보 비대칭성 및 불완전한 통신과 같은 조건은 일반적으로 분리된 상태에서 연구됩니다. 우리는 협력하는 두 개의 agent가 반응 시간 내에 생성된 폭탄

에이전트 6월 30일

자기이행 자기진화 에이전트를 위한 홀드아웃 선택

대규모 언어 모델(LLM) agent들은 무게 업데이트를 거치지 않고 자연어 아티팩트를 통해 개선되고 있다. 자연어 아티팩트는 반사, 워크플로우, 플레이북, 치트 시트, 또는 최적화된 프롬프트와 같은 것들이며, 동결된 정책을 조건화한다. 이러한 방법들은 일반적으로 단일 벤치마크에서만 도움이 된다는 점을 보고한다. 우리는 이러한 방법들을 하나하나 비교하고 더 명확한 그림을 드러내려고 한다. R

인기 태그