전체 기사
대리자 복구(AGENT REPAIR) 리더보드가 평가자 재구성(EVALUATOR RECONFIGURATION)으로 인해 순위를 바꾸고, 내부 후보 복구 방법이 평가자 정보를 참조하여 내부 선택을 할 때 생산되는 순위 안정성-instability의 측정 가능한 비율을 문서화한다. 또한 대리자 복구 벤치(AuditRepairBench)라는 쌍된 실행 추적 corpuses를 96,000개의 실행된 셀(576,000의 등록된 셀)로 정의한다. 이 corpuses는 선언된 관찰 가능성 경계 내에서 평가자
매우 취약한 대규모 언어 모델(LLM)의 안전성 대응은 수십만 개의 선호도 예시에서 학습한 안전 동작을 몇 개의 선호도 예시로만 조정하면 사라질 수 있다. 기존 연구들은 매개 변수와 가려진 상태를 조정 전과 후에 비교해 이 현상을 설명하려 하지만 매개 변수의 동적 진화를 간과한다. 이 논문에서는 매개 변수 동적을 분석하여 안전성 저하의 중요한 메커니즘을 발견했다. 선호도 예시로 조정하는 것일수록 매개 변수가 점차적으로 위험 동향 쪽으로 누적적으로 이동하여 모델의 안전성을 점진적으로 약화시킨다. 이
생각 모드가 대규모 언어 모델(LLM)의 도덕적 판단을 어떻게 변화시킬까? 100개 도덕적 판단 시나리오와 5대 전위된 사고 훈련된 LLM(클로드 소ネット 4.6, GPT 5.5, 지미니 3 플래시, 딥시크 V3.1, 퀸 3.5 397B)에서 제공자 노출 사고 모드를 활성화하는 것이 도덕적 판단에 어떤 영향을 미치는지 평가했다. 적은 차이로 총 100개 도덕적 판단 시나리오에서 binary-verdict(이진 판단) 합의율은 instant와 thinking 모드 모두 통계적으로 차이가 나지 않
기계 학습에서 대응성 평가가 대개 모델 수준의 평가로 변해버렸습니다. 영향력 있는 벤치마크는 고정된 입력에 대한 모델 출력을 평가합니다. 예를 들어, 진실성, 지시를 따르기, 쌍별 선호도 등입니다. 이러한 점수를 종종 배포된 대응성을 지지하는 주장에 사용합니다. 이 논문은 배포 관련 대응성이 단독으로 모델 수준의 평가에서 유추될 수 없다는 것을 주장합니다. 대응성 주장은 대신에 증거가 수집되는 수준에 따라 인덱싱되어야 합니다: 모델 수준, 응답 수준, 상호 작용 수준, 또는 배포 수준. 두 가지
Transformer에서 깊이 제한된 호른 절언의 암묵적 의사결정 추론의 스케일링 특성에 대한 연구 (arXiv:2605.04330v1) 암묵적 의사결정 추론의 스케일링 특성을 깊이 제한된 Transformer에서 조사했습니다. 암묵적 추론의 증명 가능성과 불필요한 특성을 분리하고 알고리즘적 일치성을 강제함으로써, 충분히 깊은 모델에서 역방향 접두사 마스크를 사용할 때, 암묵적 추론은 그래프 구조와 문제 크기에 따라 명시적 CoT 성능에 접근할 수 있음을 발견했습니다. 그러나 CoT는 깊이 추
상황이 вред을 끼치는 경우: 지식 전달의 멀티 에이전트 디자인 탐색 교차 효과 현재 에이전트 조율의 지배적인 가정은 더 많은 상황(context)이 좋다는 것이다. 우리는 10개의 태스크, 7개의 상황 주입 조건, 그리고 2,700개의 실행을 통해 이에 대해 테스트하고, 교차 효과를 발견한다: 동일한 아티팩트 유형이 일부 태스크에서 디자인 탐색을 개선(트레이드 오프 커버리지 20배까지)하는 반면 다른 태스크에서 적극적으로 kötü화(46% 감소)한다. 몇몇 태스크에서 무관한 문서가 모든 관련
인공지능 섬(AGENT ISLAND): 낙관-및 오염 저항성 벤치마크는 멀티 에이전트 게임에서 인공지능 섬은 언어 모델 에이전트가 협력, 충돌 및 설득을 포함한 게임에서 경쟁하는 멀티 플레이어 시뮬레이션 환경입니다. 이 환경은 낙관-및 오염 저항성을 제공하는 동적 벤치마크를 제공하며, 새로운 모델은 언제나 현재 최고의 플레이어를 이기기 때문에 새로운 모델은 항상 현재 최고의 플레이어를 이기고, 에이전트는 고정된 태스크 세트 대신 다른 적응적 에이전트와 경쟁합니다. 우리는 베이즈 네트워크
파라렐 프리픽스 verificaion을 통한 예측적 생성을 위한 PARSE(Parallel pRefix Speculative Engine) 프레임워크를 제안한다. existing speculative decoding 방법은 token-level equivalence로 인해 target model이 각 토큰을 확인해야 하기 때문에 짧은 acceptance 길이와 신속한 속도 향상에 한계가 있다. semantic 또는 segment-level verification으로 acceptance granul
인공 지능이 지원하는 개인 보조기(Pro$^2$Assist) : 지속적인 단계 인식에 기반한 대비적 보조기와 멀티모달 에โก 센트릭 인식으로 인한 장기 절차적인 작업의 지원 장기 절차적인 작업은 일상 생활에서 흔히 볼 수 있는 작업들이다. 최근 대규모 언어 모델(LLM)의 발전으로 인해 일상 활동을 지원하는 개인 보조기들이 등장했다. 하지만 기존의 시스템들은 주로 사용자의 질의에 의해 트리거되는 반응적인 지침 제공 또는 격리된 단기 사건에 대한 제한적인 대비적 보조기 제공에 그치고 장기 절차적인
시간 논리 추론이 지연 요인이 아니다: 신호-기호 QA 프레임워크의 확률적 불일치 프레임워크 arXiv:2605.04243v1 발표 유형: 새로운 요약: 큰 언어 모델(LLM)은 복잡한 시간 논리 추론 과제에서 고유한 성능을 계속해서 나타내고 있지만, 이 실패 모드는 자체적 결함 있는 자가 회귀적 논리적 추론에 널리 ATTRIBUTED로 인해 발생한다. 이 논문에서, 우리는 이 널리 퍼진 이야기와는 달리, 시간 논리 추론이 기본적인 지연 요인이 아님을 입증하고, 오류와 추론 실패를 분리하는 확률적
수술 팀의 동적 관계를 실시간으로 모델링하는 새로운 접근법을 제안했습니다. 본 접근법은 시간 확장된 상호 작용 그래프(time-expanded interaction graphs)를 사용하여 팀의 동적 관계를 모델링합니다. 이 그래프에서는 팀원들을 시간 인덱스화된 노드(time-indexed nodes)로 모델링하고, 의사소통을 정의하는 지시 그래프(directed edges)를 사용합니다. 이 방법은 동적 상호 작용 모델링을 허용하며, 정적 그래프 신경망(static graph neural net
ANDRE: 주의집중 기반 심볼-신경망 다분해 규칙 추출기 대규모 언어 모델(LLM)에서 주의집중 기반 심볼-신경망 다분해 규칙 추출기(ANDRE)가 제안되었다. ANDRE는 데이터에서 해석 가능한 첫 번째 순서 규칙을 학습하는 목표를 가진 지능형 논리 프로그래밍(ILP)의 새로운 프레임워크이다. ANDRE는 기존의 심볼과 신경망 기반 접근법이 노이즈와 확률적 설정에서 확장하기 어렵다는 것을 해결하기 위해 설계되었다. ANDRE는 지능형 논리 프로그래밍에서 기존의 규칙 템플릿과 논리 연산자를
