전체 기사
대규모 언어 모델(LLM)의 행동 경향을 저렴한 심리학적 프로브로 예측하는 것은 안전한 배포를 위해 중요하지만, 자가 보고(self-report, SR)가 행동을 신뢰롭게 예측해야만 한다. 최근 연구에서 대규모 언어 모델의 SR-행동 분리 현상을 문서화했지만, 이에 근거한 것은 인간에서 특정 행동을 예측하는 데 약한 broaden 특성(broad personality traits)인 '5대
인간의 마음을 이해하기 위한 이론적 모델인 이론적 마음의 이해(ToM-U)가 개발되었습니다. 이 모델은 다른 사람의 믿음을 추론하는 문제를 컴퓨터 수준에서 해결하고, 그들의 믿음 상태를 추정하는 방법을 명시적으로 정의합니다. ToM-U는 이론적 마음의 이해를 위한 새로운 접근 방식으로, 인간의 마음을 이해하는 데 중요한 역할을 할 것으로 기대됩니다.
인공 일반 지능(Artificial General Intelligence, AGI)이 이미 도착했다는 주장과 여전히 수십 년 앞서 있다는 주장이 종종 겹치는 증거를 바탕으로 defended된다. "AGI"에는 단일 공유하고 안정적인 참조자가 없고 경쟁적 operationalization은 동일한 시스템에 대해 다른 판결을 반환할 수 있다. 이 글은 이러한 미분명함을 설계 및 관리 문제로 다룬
의료 AI 시스템의 실세계 유용성을 평가하기 위해, 우리는 대규모 언어 모델(LLM) 시스템을 포함하는 전자 의료 기록 시스템의 배포 중심 평가를 수행했습니다. 사용자 피드백이 희박하지만 배포 조건을 반영하는 시스템을 평가하기 위해, 우리는 미리 응답 분류기를 훈련하여 사용자가 LLM 응답을 거부할 위험이 있는지 예측했습니다. 사용자 피드백을 분석한 결과, 우리의 예측 모델이 AUROC 0.719을 달성했습니다. 또한, 우리는 두 가지 다운스트림 사용 사례(가드레일 트리거링 및 abstention)를 통해 이러한 예측의 이점을 추정했습니다.
인공지능(AI)이 인류 수준의 일반 인공지능(AGI)으로 진화하는 것은 사회에 미치는 영향이 크며, 앞으로의 연구에 많은 복잡한 질문을 제기합니다. 이 보고서는 인공지능이 AGI 이후에 어떻게 발전할지에 대해 조사합니다. AGI에서 인공지능 초월 지능(ASI)으로의 전환을 설명하고, ASI로의 4가지 잠재적 경로를 논의합니다.
작고 간소한 언어 모델(LM)은 도구 agent의 비용, 지연 시간, 배포 위험을 줄여주지만, MCP-style 도구 사용은 단순한 함수 호출만으로는 충분하지 않다. 이에 대해, Evoflux는 inference-time 진화 검색 방법을 소개하여, compact tool use를 tool workflow의 수정으로 다루고 있다.
TrajGenAgent은 사람들의 이동 경로를 생성하기 위한 계층적 LLM Agent입니다. 기존의 LLM 기반 생성기들은 보통 지시문 엔지니어링 또는 경로별 미세 조정에 의존하지만, TrajGenAgent은 모델 미세 조정을 하지 않고도 사람들의 이동 경로를 생성할 수 있습니다.
AI 모델의 믿음과 말하기를 평가하는 새로운 방법을 제안합니다. 기존의 모델은 믿음과 말하기를 평가하기 어렵다는 문제를 해결하기 위해 새로운 모델과 테스트베드를 개발했습니다. 새로운 모델과 테스트베드를 사용하여, AI 모델의 믿음과 말하기를 평가하는 새로운 방법을 제안합니다.
closed-loop 주행 시뮬레이터는 일반적으로 규칙 기반의 교통 관리자나 단일 행동 모드에 학습된 모델로 생성된 비 이고 트래픽 에이전트를 환경에 채우고 있습니다. 최근 연구는 관찰 데이터에 대한 후속 라벨이나 대규모 언어 모델(LLM)로 추정한 보상 가중치를 통해 스타일 변이를 소개했습니다. 그러나 이러한 신호는 스타일이 보상해야 하는 프록시로 작용하는 반면, 사람에게 스타일에 따라 주
최신 레인(Lean) 정리 증명 도구는 대량의 학습 및 추론 계산을 통해 성능을 달성하지만, 부족한 검증된 증명 데이터와 형식적 증명 탐색의 긴 추론 경로로 인해 양상교정 학습(Supervised Fine-tuning, SFT)과 샘플링이 비싸다. 우리는 Pythagoras-Prover라는 계산 효율적인 오픈 소스 레인 정리 증명 도구 가족을 제시한다. 이 가족은 두 가지 생성 패러다임을 포
기존의 의사결정 지원 연구는 인간이 기계 학습 모델을 이용하여 더 나은 의사결정을 하기 위해 연구되었습니다. 그러나 현대의 주체적 시스템에서는 역할의 분리가 점점 더 뒤집어지게 됩니다: AI agent는 사용자의 behalf를 위해 행동하며, 인간과 도구들은 그 주변에서 지원 역할을 합니다. 이러한 역할의 뒤집음은 신뢰성의 문제를 앞세우게 되는데, 주체적 오류는 결과에 미치는 영향을 미칠 수
arXiv:2606.12563v1을 발표한 연구팀은 대규모 언어 모델(LLM)의 추론 최적화에 대한 연구를 진행했습니다. 이 연구팀은 'Arbor'라는 이름의 다중 agent framework를 제안했습니다. Arbor는 구조화된 tree search를 자율 agent의 cognition layer로 도입하여, agent가 큰 stateful action space에서 작동할 수 있도록 합니
