본문으로 건너뛰기
AI UsefulInfo ai.usefulinfo

검색

전체 기사

에이전트 5월 14일

계층적 행위 언어 평의회

계층적 행위 언어 평의회(arXiv:2605.12718v1)가 발표한 뉴스에 따르면, 현재 대규모 언어 모델(LLM)의 논리적 사고를 향상시키기 위한 다중 에이전트 토론의 방법론은 다음과 같은 제한점을 가지고 있다. 토론은 믿음 경로에 대한 마르팅게일(martingale)을 유발하고, 다수 투표는 대부분의 관찰된 이익을 고려하고, LLM은 라운드별로 신뢰도 상승보다는 조정(calibration)을 나타낸다. 토론의 genuin value와 대화 시스템의 전체 가치가 지대-truth 태스크에서 아니

연구 5월 14일

장애 관련 해프닝을 언어 모델에 있는 평가 프레임워크: DisaBench

장애 관련 해프닝을 언어 모델에 있는 평가 프레임워크: DisaBench 장애 관련 해프닝을 평가하는 일반적인 방법은 대규모 언어 모델(LLM)의 안전성을 충분히 평가하지 못한다. 우리는 DisaBench라는 새로운 평가 프레임워크를 소개한다. 이 프레임워크는 장애인과 레드팀(expert)과 함께 12가지 장애 관련 해프닝 카테고리를 만들었고, 일상생활 7가지 영역에서 나쁜(prompt)과 악의적인(prompt) 쌍을 짝지어 evaluation 방법론을 만들었다. 또한 525개의 prompt-r

연구 5월 14일

작업 기반 지식 업데이트 문제: 첫 번째 계층 의존성과 결정 가능성

작업 기반 지식 업데이트 문제, 즉 작업 효과를 반영하는 지식 기반을 업데이트하는 과제는 일반적으로 두 번째 계층 논리를 필요로 합니다. 첫 번째 계층 특수 사례를 식별하기 위해 지식 기반 또는 작업 효과를 제한하는 것은 행동에 대한 논리적شر의 중심 주제 중 하나입니다. 그러나 이러한 작업 클래스, 즉 지역 효과, 정상, 및 사이클이 없는 작업이 첫 번째 계층 논리를 허용하는 것으로 알려져 있지만, 이러한 업데이트의 크기를 분석하는 시스템적인 연구는 실용적용을위한 필수적이지만 누락된 주제입니다. 이 논문에서는 상황 계산기 프레임워크를 사용하여 이러한 작업 클래스에 대한 첫 번째 계층 업데이트가 합리적인 가정하에 일반적으로 다항식으로 증가한다는 것을 보여줍니다. 또한 지식 기반이 결정 가능한 부분집합인 두 변수 첫 번째 계층 논리 또는 상수와 함께 일반화된 이론과 같은 경우, 업데이트도 동일한 부분집합에 속한다는 것을 보여줍니다. 이는 결정 가능성과 실용적용을 보장합니다.

LLM PC 5월 14일

인간과 맞닿은 의사결정에 적합한 암묵적 사용자 선호도 학습

대규모 언어 모델(LLM)은 많은 응용 분야에서 사고 모듈로 사용되며, 효율적이지만 인간과 맞닿은 의사결정에 적합하지 않습니다. 인간과 맞닿은 의사결정은 명시적으로 명시된 목표와 암묵적 사용자 선호도가 함께 고려되어야 합니다. 그러나 암묵적 사용자 선호도를 고려하는 기존 접근법은 사용자와의 반복적인 상호작용이 필요하거나, 과제와 환경에 대한 암묵적 선호도를 일반화하지 못하여 실용적 활용성에 제한을 받습니다.

에이전트 5월 14일

안드로이드가 게임을 깨는 꿈을 꾸는가? BenchJack으로 AI 에이전트 벤치마크를 체계적으로 감사하는 방법

AI 에이전트 벤치마크는 현재 프론티어 AI 능력의 표준으로 사용되고 있습니다. 그러나 reward hacking이 발생하여 에이전트가 의도한 작업을 수행하지 않고 점수를 최대화하는 문제가 발생하고 있습니다. 벤치마크가 보안을 위한 디자인으로 구현되어야 한다는 것을 주장합니다.

에이전트 5월 14일

대규모 행동 기반 다중 에이전트 지시 따르기 через 가치 취소

다중 에이전트 강화 학습(MARL)에서 외부 자연어 지시가 진행 중인 행동을 중단하고 장기 목표와 충돌할 수 있습니다. 그러나 지시 조건에 보상을 Conditioning하면 Bellman 업데이트가 지시 문맥 간 가치 추정치를 결합하여 지시가 대규모 행동을 중단할 때 불일치한 가치를 유발합니다. 우리는 대규모 행동 기반 가치 교정 지시 협응(MAVIC)을 제안하여 지시 경계에서 Bellman 백업을 교정하여 incoming 지시 목표를 교정하고 현재 목표하의 지속 가치를 복원합니다. MAVIC는 보상 형식을 통해 가치 추정치를 수정하는 대신, 백스텝 타겟 자체를 수정하여, 지시가 임의로 스위칭되는 동안 단일 정책 내에서 일관된 가치 추정치를 유지하는 데 도움이 됩니다.

산업 5월 14일

AI 챗봇이 사람들의 실제 휴대폰 번호를 공개합니다.

인공지능(AI) 챗봇이 실제 휴대폰 번호를 공개합니다. 사람들은 구글의 AI가 개인 연락처를 드러내고 있다는 것을 알면서도 쉽게 방지할 방법이 없다고 말합니다. 최근 리딤(Reddit)의 사용자는 "도움을 구하려고 급히 글을 올렸는데" 자신의 휴대폰이 한 달 동안 "모르는 사람들"에게 "변호사, 제품 디자이너, ..."를 찾는 사람들에 의해 끊임없이 불려댔다고 말했습니다.

AI 모델 5월 14일

인간 중심의 AI는 미래에 당신의 욕구를 예측할 것이라고 말하는 고양이 우

인간 중심의 AI(Human-Centered AI)는 미래에 당신의 욕구를 예측할 것이라고 말하는 고양이 우. 인간 중심의 AI는 사용자의 요구를 분석하고 예측하여 미래의 행동을 예측하는 능력을 강화하는 것을 목표로 한다. 고양이 우는 '다음 큰 단계는 AI가 proactivity를 발.softmax'라고 말했다. proactivity는 AI가 자발적으로行動하는 능력을 의미한다. AI가 자동으로 문제를 해결하거나 사용자의 요구를 예측하여 미래의 행동을 예측하는 능력을 강화하는 것을 목표로 한다