본문으로 건너뛰기
AI UsefulInfo ai.usefulinfo

AI / SIGNALS / KOREA

AI의 다음 장면을
가장 빠르게 읽는 법

최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.

4,478개 기사 6시간마다 업데이트
전체 AI 모델 에이전트 연구 산업 도구 LLM PC 허깅페이스

최신 기사

LLM PC 5월 14일

주의가 닫히는 순간: LLM이 멀티 턴 상호 작용에서 주제를 잃는 이유

대규모 언어 모델(LLM)은 단일 턴에서 복잡한 지시를 따르지만, 장기적인 멀티 턴 상호 작용에서 지시, 인격, 규칙을 잃을 수 있다. 이 감소는 행동적으로 측정되었지만, 기계적으로 설명되지 않았다. 우리는 주제 정의 토큰이 주의의 통로를 통해 더 이상 액세스할 수 없게 되며, 주제 관련 정보는 잔여 표현에서 지속될 수 있다는 채널 전환 설명을 제안한다. 주제 액세스성 비율(GAR)을 도입하여 생성된 토큰에서 목표 정의 토큰으로 주의를 측정하고, 슬라이딩 윈도우 절단 및 잔여 스트림 프로브를 결합한다. 주의가 지시를 닫는 순간, 무엇이 살아남는지가 아키텍처를 드러낸다. 다양한 아키텍처에서 전환은 질적으로 다른 실패 모드를 산출한다: 일부 모델은 주의가 사라지더라도 목표 조건된 행동을 보존하고, 다른 모델은 잔여 목표 정보가 디코딩될 수 있더라도 실패한다. 이 인코딩이 발생하는 레이어는 2에서 27까지 다양하다. 모델 내의 인과적 절단이 Mistral의 주의 통로를 강제로 닫으면, 20개 사실 보존 태스크에서 반환률이 11%에서 거의 완벽한 11%로 떨어지고, 불편한 압력 기반 대조군보다 인격 제약 위반률이 높아지며, 이 모든 효과는 예측 가능한 교차 턴에서 발생한다. 선형 프로브는 Aimed 표현에서 회귀 결과를 회복시키는 AUC가 0.99까지 모든 네 가지 주요 아키텍처에서 0.99까지 달성한다. 입력 임베딩은 기대치에 머물러 있다. 다양한 아키텍처와 모델 규모에서 주의 손실과 잔여 디코딩 가능성의 간격이 목표 조건된 행동이 주의 통로가 닫히는 경우에 살아남는지 여부를 예측한다. GAR를 진단도구로, 채널 전환 프레임워크를 제어된 기계적 설명으로, 윈도우드 주의 닫기로 실패 시간을 예측하는 파라미터 예측을 기여한다.

AI 모델 5월 14일

협력 시뮬레이터를 넘어서: 강력한 LLM 에이전트 평가를 위한 실제 사용자 프로필 생성

협력 시뮬레이터를 넘어서: 강력한 대규모 언어 모델(LLM) 에이전트 평가를 위한 실제 사용자 프로필 생성 대규모 언어 모델(LLM) 에이전트는 사용자와 다양한 사람을 상호작용하는 환경에서 점점 더 많이 배치되고 있다. 이들은 사용자가 불분명한, 서두르는, 또는 정보를 공유하기 꺼리는 사람들을 포함한다. 그러나 대규모 사용자 상호작용 데이터를 수집하는 것은 여전히 비용이 많이 들다. 이 분야는 대규모 언어 모델 기반 사용자 시뮬레이터를 대신 사용하기로 결정했지만, 이 시뮬레이터는 기본 모델의 행

LLM PC 5월 14일

다중 모드 히든 마르코프 모델을 이용한 지속적인 감정 상태 추적

대화의 감정 상태를 추적하는 것은 의료 및 임상적인 대화 상황에서 이해하고 대화의 지침을 줄 수 있는 중요한 요소입니다. 기존의 감정 인식 방법은 대화 단위로 작용하여 실제 대화 동적의 지속적인 단계를 숨기고 있습니다. 우리는 다중 모드 감정 표현을 이용하여 대화의 감정 상태를 지속적인 감정 상태로 모델링하는 가벼운 프레임워크를 제안합니다. 이 프레임워크는 지속적인 감정 상태를 추적하는 데 있어 가중치 요인 분산 혼합 모델-히든 마르코프 모델(Sticky Factorial HDP-HMM)을 이용합니다.

에이전트 5월 14일

계층적 행위 언어 평의회

계층적 행위 언어 평의회(arXiv:2605.12718v1)가 발표한 뉴스에 따르면, 현재 대규모 언어 모델(LLM)의 논리적 사고를 향상시키기 위한 다중 에이전트 토론의 방법론은 다음과 같은 제한점을 가지고 있다. 토론은 믿음 경로에 대한 마르팅게일(martingale)을 유발하고, 다수 투표는 대부분의 관찰된 이익을 고려하고, LLM은 라운드별로 신뢰도 상승보다는 조정(calibration)을 나타낸다. 토론의 genuin value와 대화 시스템의 전체 가치가 지대-truth 태스크에서 아니

연구 5월 14일

장애 관련 해프닝을 언어 모델에 있는 평가 프레임워크: DisaBench

장애 관련 해프닝을 언어 모델에 있는 평가 프레임워크: DisaBench 장애 관련 해프닝을 평가하는 일반적인 방법은 대규모 언어 모델(LLM)의 안전성을 충분히 평가하지 못한다. 우리는 DisaBench라는 새로운 평가 프레임워크를 소개한다. 이 프레임워크는 장애인과 레드팀(expert)과 함께 12가지 장애 관련 해프닝 카테고리를 만들었고, 일상생활 7가지 영역에서 나쁜(prompt)과 악의적인(prompt) 쌍을 짝지어 evaluation 방법론을 만들었다. 또한 525개의 prompt-r

연구 5월 14일

작업 기반 지식 업데이트 문제: 첫 번째 계층 의존성과 결정 가능성

작업 기반 지식 업데이트 문제, 즉 작업 효과를 반영하는 지식 기반을 업데이트하는 과제는 일반적으로 두 번째 계층 논리를 필요로 합니다. 첫 번째 계층 특수 사례를 식별하기 위해 지식 기반 또는 작업 효과를 제한하는 것은 행동에 대한 논리적شر의 중심 주제 중 하나입니다. 그러나 이러한 작업 클래스, 즉 지역 효과, 정상, 및 사이클이 없는 작업이 첫 번째 계층 논리를 허용하는 것으로 알려져 있지만, 이러한 업데이트의 크기를 분석하는 시스템적인 연구는 실용적용을위한 필수적이지만 누락된 주제입니다. 이 논문에서는 상황 계산기 프레임워크를 사용하여 이러한 작업 클래스에 대한 첫 번째 계층 업데이트가 합리적인 가정하에 일반적으로 다항식으로 증가한다는 것을 보여줍니다. 또한 지식 기반이 결정 가능한 부분집합인 두 변수 첫 번째 계층 논리 또는 상수와 함께 일반화된 이론과 같은 경우, 업데이트도 동일한 부분집합에 속한다는 것을 보여줍니다. 이는 결정 가능성과 실용적용을 보장합니다.

LLM PC 5월 14일

인간과 맞닿은 의사결정에 적합한 암묵적 사용자 선호도 학습

대규모 언어 모델(LLM)은 많은 응용 분야에서 사고 모듈로 사용되며, 효율적이지만 인간과 맞닿은 의사결정에 적합하지 않습니다. 인간과 맞닿은 의사결정은 명시적으로 명시된 목표와 암묵적 사용자 선호도가 함께 고려되어야 합니다. 그러나 암묵적 사용자 선호도를 고려하는 기존 접근법은 사용자와의 반복적인 상호작용이 필요하거나, 과제와 환경에 대한 암묵적 선호도를 일반화하지 못하여 실용적 활용성에 제한을 받습니다.

에이전트 5월 14일

안드로이드가 게임을 깨는 꿈을 꾸는가? BenchJack으로 AI 에이전트 벤치마크를 체계적으로 감사하는 방법

AI 에이전트 벤치마크는 현재 프론티어 AI 능력의 표준으로 사용되고 있습니다. 그러나 reward hacking이 발생하여 에이전트가 의도한 작업을 수행하지 않고 점수를 최대화하는 문제가 발생하고 있습니다. 벤치마크가 보안을 위한 디자인으로 구현되어야 한다는 것을 주장합니다.

에이전트 5월 14일

대규모 행동 기반 다중 에이전트 지시 따르기 через 가치 취소

다중 에이전트 강화 학습(MARL)에서 외부 자연어 지시가 진행 중인 행동을 중단하고 장기 목표와 충돌할 수 있습니다. 그러나 지시 조건에 보상을 Conditioning하면 Bellman 업데이트가 지시 문맥 간 가치 추정치를 결합하여 지시가 대규모 행동을 중단할 때 불일치한 가치를 유발합니다. 우리는 대규모 행동 기반 가치 교정 지시 협응(MAVIC)을 제안하여 지시 경계에서 Bellman 백업을 교정하여 incoming 지시 목표를 교정하고 현재 목표하의 지속 가치를 복원합니다. MAVIC는 보상 형식을 통해 가치 추정치를 수정하는 대신, 백스텝 타겟 자체를 수정하여, 지시가 임의로 스위칭되는 동안 단일 정책 내에서 일관된 가치 추정치를 유지하는 데 도움이 됩니다.

산업 5월 14일

AI 챗봇이 사람들의 실제 휴대폰 번호를 공개합니다.

인공지능(AI) 챗봇이 실제 휴대폰 번호를 공개합니다. 사람들은 구글의 AI가 개인 연락처를 드러내고 있다는 것을 알면서도 쉽게 방지할 방법이 없다고 말합니다. 최근 리딤(Reddit)의 사용자는 "도움을 구하려고 급히 글을 올렸는데" 자신의 휴대폰이 한 달 동안 "모르는 사람들"에게 "변호사, 제품 디자이너, ..."를 찾는 사람들에 의해 끊임없이 불려댔다고 말했습니다.

AI 모델 5월 14일

인간 중심의 AI는 미래에 당신의 욕구를 예측할 것이라고 말하는 고양이 우

인간 중심의 AI(Human-Centered AI)는 미래에 당신의 욕구를 예측할 것이라고 말하는 고양이 우. 인간 중심의 AI는 사용자의 요구를 분석하고 예측하여 미래의 행동을 예측하는 능력을 강화하는 것을 목표로 한다. 고양이 우는 '다음 큰 단계는 AI가 proactivity를 발.softmax'라고 말했다. proactivity는 AI가 자발적으로行動하는 능력을 의미한다. AI가 자동으로 문제를 해결하거나 사용자의 요구를 예측하여 미래의 행동을 예측하는 능력을 강화하는 것을 목표로 한다

산업 5월 13일

orbital에서 약물을 생산하는 방법과 NASA의 핵연료 공항선Spaceship

NASA의 핵연료 공항선 Spaceship 이라는 제목의 뉴스에 관한 이야기입니다. 오늘 뉴스레터 "The Download"의 일환으로, 기술계의 일일 뉴스를 제공하는 뉴스입니다. 오리진에서 약물을 생산하는 방법에 대한 계획이 상업화되었습니다. 스타트업인 Varda Space Industries는 약품의 미래가 천문학적 위치에 있음을 믿고 있습니다. 회사에서는...