본문으로 건너뛰기
AI UsefulInfo ai.usefulinfo

검색

전체 기사

AI 모델 6월 8일

AI 트레이닝 동적을 연구하는 과학 : 포스트 제작에서만 해결하는 것만은 아니야

AI에 대한 과학적 이해는 무엇을 의미할까요? 모델은 정적인 물체가 아니라 시간이 지남에 따라 데이터, 목표, 아키텍처, 최적화 동적에 의해 형성되는 과정의 순간적인 사진입니다. 그러나 AI 연구에서는 모델을 고정된 물체로 간주하고 훈련 후 행동을 분석하기보다 왜 그들이 발생하는지 물어보지 않습니다. 이 논문은 AI에 대한 과학이 후행적 보완을 넘어서 훈련 동적이 모델 행동을 생성하는 데 관

AI 모델 6월 8일

CARVE-Q: 양자 제안, 클래스적으로 인증된 인터랙티브 드라이브 리퍼어

자동차 제어에 대한 검토와 veto(차량 제어를 거부) 이후의 문제는 단순히 안전한 조작이 불가능한지 여부가 아니라, 차량 제어를 거부한 상호작용이 법적, 감사 가능한, 책임을 부여 받은修리(수리)를 허용하는지 여부를 결정해야 한다. 예측과 게임 이론 기반 계획자는 합리적인 협력을 제안할 수 있지만, 수리(수리)가 어려운 규칙, 우선 순위, 비용 배분 및 이고(ego, 나) fallback(

에이전트 6월 8일

전략적 공격 선택이 주관적 인공지능 제어 평가에서 안전성을 현실적으로 감소시킨다.

공격자가 전략적으로 공격할 때를 선택하는 공격자는 무작위로 공격하는 공격자보다 훨씬 더 어려운 경우를 잡을 수 있다. AI 제어는 미래에 쓸 수 있는 AI agent를 신뢰할 수 없는 weaker monitor와 한정된 human audit 예산의 감독하에 배포하는 안전 프레임워크이다. 제어 평가는 이러한 프로토콜을 검증하기 위해 red-team 공격 정책을 blue-team monitor와

AI 모델 6월 8일

crowd 수집된 수학 연구 토론 데이터셋

대규모 언어 모델(LLM)은 수학적 추론에서 상당한 진전을 이루었지만 기존 벤치마크는 일반적으로 완전한 답변, 단계별 해결책, 또는 완전한 증명과 같은 잘 정의된 문제를 평가한다. 그러나 그들은 협력적 개방형 문제 해결을 포착하지 못한다. 참여자들은 부분적인 논증을 제안하고 이전 단계의 오류나 빈칸을 식별하고 결함 있는 추론을 修復하고 점진적으로 증명에 incremental contribut

에이전트 6월 8일

Lean4Agent: 에이전트 워크플로우 및 트레젝토리 formal modeling과 verification

인공지능의 중심 과제가 된 것은 대규모 언어 모델(LLMs)을 신뢰할 수 있는 다단계 워크플로우를 수행할 수 있도록 하는 것입니다. 최근 LLM의 의사결정 능력에 대한 발전에도 불구하고, 대부분의 agent 시스템은 워크플로우와 실행 경로를 명시하고, 검증하고, 디버그하기 위한 공식적인 방법을 아직도 가지고 있지 않습니다. 이 문제는 수학의 오랜 문제와 비슷합니다. 자연 언어(NL)의 모호성

AI 모델 6월 8일

안전한 유전자: 재사용 가능한 전달 가능한 안전 동기화 어댑터

대규모 언어 모델(LLM)은 점점 더 맞춤형 보조기기로 최적화되지만, 다운스트림 최적화는 모델의 안정성과 악의적인 지시문을 받는 취약성을 약화시킬 수 있다. 훈련 데이터가 의도적으로 유해하지 않더라도 이 문제는 재래식 안전 회복 문제를 발생시킨다. 이는 목표 모델이 반복적으로 새로운 작업 데이터 또는 사용자 상호 작용과 함께 업데이트되기 때문이다. 우리는 각 아키텍처 호환 모델 가족 내에서

AI 모델 6월 8일

확산 정보에 기반한 branch 선택

스도쿠(Sudoku)는 엄격한 이산 제약 하에서 전역 구조적 사고가 필요한 대표적인 제약 만족 문제입니다. 현재 스도쿠를 해결하는 연구는 주로 두 가지 주요 접근 방식에 집중되어 왔는데, 그것은 전통적인 근거 추론과 깊은 학습 기반 해결사입니다. 그러나 두 가지 상보적인 제약이 존재하는데, 학습 기반 해결사는 강력한 정확성 보장을 하지 못하고 완전한 Symbolic 해결사는 여전히 긴 꼬리

허깅페이스 6월 8일

아주 특별한 디지털 치조골(아쉬운 실패작)

AI가 인간과 비슷한 수준의 지적 능력을 발휘할 수 있는지 여부는 한동안 논란의 여지가 있었지만, 최근 연구 결과가 나와 이에 대한 의문이 해소되고 있다. 미국 하버드대 연구팀은 '인공 지능 연구'라는 학술지에 발표한 연구 결과에 따르면, 대규모 언어 모델(LLM)을 사용한 AI는 인간과 비슷한 수준의 지적 능력을 발휘할 수 있는 것으로 나타났다. 연구팀은 인간과 비슷한 수준의 지적 능력을