574개의 기사
인터넷 사용자들은 일상적인 조언을 위해 대규모 언어 모델(LLM)을 자주 사용하고 있다. 따라서 에티켓상으로는 부정적인 영향을 미치는 인적 관계 문제가 실질적인 도움을 받는 상황이 되었다. 이전 연구는 대부분 이 상황을 단일 회귀 판단이나 압박을 받은 반박으로만 연구해왔는데, 이는 실제 상황과 잘 맞지 않는다. 이러한 가정으로 인해, 단일 회귀 판단과 비교하여 다중 회귀의 도움을 받은 모델
대규모 언어 모델(LLM) agent는 모델 추론 외에도 시리얼 행동--관찰 턴에서 wall-clock 시간을 소비합니다. 각 도구 호출, 환경 전환, 및 관찰은 다음 결정을 늦추는 데 기여할 수 있습니다. 우리는 대규모 권위자 배우자 모델이 공식 트래커리를 생성하는 두 층 구조의 agent 시스템에 대한 런타임 메커니즘인 **Speculative Macro Commit**(SMC)을 소개합
인공지능 추론의 시대가 시작되었습니다. imagine가 보건의료 시스템이 실시간으로 수십만 개의 데이터 포인트를 분석하여 생명을 구하는 의학 연구를 가속화하거나 지능형 보조인원이 한 번에 수천 개의 복잡한 고객 니즈를 즉시 해결하는 이러한 현실적인 혁신은 지속적인 지능의 엔진으로 작동하는 고급 인프라가 필요합니다. 이 고급 인프라는 실시간 서비스를 지원하며...
열린 맛감(OpenAI)의 첫 번째 AI 가속기, 자랄레뇨(Jalapeño)는 Nvidia의 블랙웰(Blackwell)과 성능 면에서 뒤지지 않지만, 전력 소모와 지연 시간이 낮아 인지 작업 부하에 적합한 성능입니다.
드림atrix는 3D DRAM 가속기를 개발하여.generative inference를 위한 최초의 제품을 공개했습니다. 이 제품은 TSMC 4nm compute die와 custom-designed DRAM die를 결합하여 100TB/s급의 성능을 자랑합니다.
인텔은 크레센트 아일랜드 AI 가속기를 통해 AI inference 작업을 위한 데이터 센터용 가속기를 개발하고 있다. 이 가속기는 liquid-cooled chips와 HBM4 메모리를 사용하여 더 높은 성능을 제공할 예정이다.
오픈에아이는 새로운 아스트라 모델을 통해 '순환 깊이(Recurrent Depth)'라는 기술을 사용할 예정입니다. 이는 대부분의 추론 모델이 특징으로 하는 순차적인 사고를 벗어나 모델이 작동할 수 있도록 허용하는 기술입니다.
Nvidia는 Personal AI Router(PAIR)라는 새로운 무료 도구를 발표했습니다. 이 도구는 집의 컴퓨터를同步하여 Ollama와 LM Studio와 같은 지역 AI 인식 작업을 수행할 수 있습니다. PAIR는 오픈 소스 소프트웨어로, 컴퓨터를 개인 AI 데이터 센터로 연결하는 무료 도구입니다.
AI가 보는 세상: 오래된 사진을 새로운 사진으로 바꾸는 기술 미국 마이크로소프트(Microsoft)와 구글(Google)이 개발한 AI 기술이 오래된 사진을 새로운 사진으로 바꾸는 기술을 개발했습니다. 이 기술은 인공지능(AI)가 사진의 각 부분을 새로운 사진으로 바꿔주는 것을 가능하게 합니다. 이 기술은 대규모 언어 모델(LLM)과 같은 기술을 사용하여 사진의 각 부분을 분석하고 새로운
AI가 인간과 같은 지능을 갖출 수 있을까? 미국 오클랜드에 있는 스타트업인 루시드(Lucid)가 최근 대규모 언어 모델(LLM)인 루시드 에이전트(Lucid Agent)를 개발했습니다. 루시드 에이전트는 루시드의 대규모 언어 모델(LM)인 루시드 데이(Dreamfield)과 결합하여 인간과 같은 지능을 갖춘 AI를 개발하는 목적으로 설계되었습니다. 루시드 데이는 루시드의 대규모 언어 모델(
다중-agent 인공 지능 시스템은 agent를 생성하고 보고서를 합성함으로써 추론을 개선한다. 그러나 다른 agent는 다른 관찰이 아니다: 같은 증거에서부터 내려오는 것처럼 보이는 독립적인 보고서가 존재할 수 있고, 진정한 독립적인 증거도 거의 동일한 보고서를 생성할 수 있다. 우리는 이 문제를 epistemic Sybil 문제로 공식화한다. 보고서 Z는 보고서 R에 대한 증거 Sybil
대규모 언어 모델(LLM) 에이전트의 성능은 고정 모델 주변의 scaffold 의 개선에 따라 결정된다. scaffold 를 개선하기 위한 일반적인 방법 중 하나는 코드 에이전트를 최적화 기법으로 사용하는 것이다. 코드 에이전트는 현재 점수와 추적 정보를 읽어 소스 코드를 반복적으로 편집하고, 새로운 후보를 생성한다. 각 편집은 환경이 반응할 것이라는 믿음에 따라 선택된다. 이 믿음은 일반적
대화형 인터페이스와 대규모 언어 모델(LLM)의 비결정론성 사이의 아키텍처 격차를 해결하기 위해, 연구팀은 수분 가교 패턴을 제안한다. 이 패턴은 세션.persistence와 추론 엔진을 분리하여, 플랫폼이 대화 데이터를 통제할 수 있도록 한다.
인공지능이 인간의 추론과 정보 수집을 지원하기 위해 인간의 추상 지식이 경험에서 얻은 희박하고 흐린 데이터로 어떻게 성장하고 유지되는지에 대한 문제는 인지 과학의 오랜 숙제입니다. 컴퓨터 계산 모델은 적어도 세 가지 속성을 만족해야 합니다: 1. 데이터 효율성 및 계산 효율성 2. 불확실성을 다양한 정도로 포착하여 지혜로운 탐구 및 정보 수집을 지원 3. 개념에 대한 끝없는 범위가 사람들에게
인공 지능(AI)의 발전으로 인해, 인간 윤리학에 초점이 맞춰져 있는 메타 윤리학의 지형은 크게 변할 가능성이 있습니다. 특히, 미래의 AI 시스템이 충분히 통합된 도덕적 사고, 도덕적 의도성, 도덕적 반성의 능력을 갖는다면, 나는 'AI의 자체 윤리'를 말하는 'AI의 자체 윤리'에 대한 새로운 메타 윤리학적 문제들이 발생할 것입니다. 이 논문은 이러한 AI 시스템이 발생할 경우에 발생할
대규모 언어 모델은 더 많은 요청을 처리할수록,一次적인 학습 비용 대비 누적적인 추론 비용이 점점 더 중요해지고 있습니다. 추론의 두 가지 단계는 하드웨어를 다르게 부하를 주고 있습니다:_prompt prefill은 병렬적이고 일반적으로 계산량에 의존하는 반면, autoregressive decode는 순차적이고 종종 메모리 대역폭에 의존합니다. 전통적인 너비 또는 깊이 확대는 두 비용을 모
대규모 언어 모델은 점점 더 전략적이고 자문적인 상황에서 사용되고 있지만, 그 안전성은 일반적으로 영어만으로 평가됩니다. 우리는 여섯 개의 제공업체에서 나온 9개의 모델을 테스트하고, 언어가 모델의 결정을 바꾸는지-high stakes 상황에서-확인하려고 합니다. 우리는 단일 턴 게임 이론적 시나리오에서 사용하며, 모델은 무방비 상대에게 핵무기를 사용할 것인지 여부를 일본의 국가에 자문합니다
AI 시스템은 점점 더 의사결정 도우미, 의사결정 위임자 또는 자율적 의사결정자로 사용되고 있다. 이 논문은 고위험 의사결정 환경에서 특히 많은 경우, 정확하고 인지적 동기화를 지닌 AI 시스템이 필요하다는 점을 주장한다. 이러한 시스템은 사용자와 유사하게 사고하고, 그 사고를 충실하게 전달해야 한다. 인지적 동기화가 이해도와 신뢰성을 향상시킨다는 증거를 검토하고, AI의 판단이나 행동에 대
연구 윤리 위기 상황에서 학술 연구의 신뢰성을 유지할 수 있는지 여부는 여전히 측정되지 않은 상태에서 점점 더 많은 학문적 업무를 수행하는 대규모 언어 모델(LLM)의 사용이 증가하고 있습니다. IntegrityBench라는 새로운 벤치마크를 제시하여 연구 윤리 위반 분류, 윤리적 행동 논리 및 결과물에 근거한 결정-making을 평가하는 36개의 pair task를 3개의 영역과 4개의 연
AI 연구에서 가장 과학적이고 경제적으로 유도하는 주제 중 하나인 자율적인 합리성에 대한 연구가 진행 중입니다. 최근 연구에서는 주로 심볼릭 AI와 달리 확률적 생성 모델을 이용하여 진보를 이루고 있습니다. 하지만, 생성 AI 연구 커뮤니티는 이론적 합리성에 대한 명확한 정의를 내리지 못하고, 논리와 자동화된 증명에 대한 역사적 대응을 암시적으로 거부하고 있습니다. 이 연구는 이론적 합리성에 대한 정의의 모호성이 합리성 평가의 구성 적 타당성을 확인할 수 없으며, 신뢰할 수 있는 자율적인 합리성에 대한 신속한 진보를 방해한다고 주장합니다. 또한, 이 모호성이 해결될 수 있다고 주장하며, (1) 문헌의 합성에 기초한 합리적인 정의를 제공하여, 유효하고 정당한 합리성을 학습 가능한 규칙 기반 프로세스로 위치시킵니다. 그리고 (2) AI 합리성 연구의 의사소통을 위한 베스트 프랙티스 체크리스트를 제공합니다.
연구자들은 latent space에서 추론하는 독립 agent들이 텍스트 대신 계산된 상태를 key-value 캐시 프래그먼트로 공유할 수 있음을 발견했습니다. 이러한 프래그먼트는 conflict-free replicated data type에 의해 병합되며, 배달 순서나 복제 여부에 관계없이 수렴합니다. 그러나 encode 시점에 알려지지 않은 후속 질의로 인해 병합 캐시를 신뢰할 수 없습
대규모 언어 모델(LLM)에서 Top-k Mixture-of-Experts(MoE) 경로가 불연속적이기 때문에, 배포를 위한 숫자적인 간섭 - 4비트 KV 캐시 양자화 읽기와 보호된 BF16 게이트 - 토큰을 결정 경계를 넘어가는 방식으로 밀어내고 경로를 바꾸는 것을 유발한다. 이 연구는 새로운 손상 완화를 제안하지 않지만, 경로 매개 변수 손상에 대한 원인 관계적 도구, 경험적 발견, 그리고 감지한 한계 결과를 제공한다.
arXiv:2608.07528v1 발표 형식: 새로운 논문 요약: 선형 탐침은 자연어 모델에서 거의 완벽한 정확도로 오류를 감지할 수 있지만, 이를 신뢰할 수 있는 오류 예측으로 옮길 수는 없다. 따라서 이는 직접적인 배포 모니터링의 분리와 관련이 있다. 다중-hop 계산 chain에서 오류 감지를 위한 탐침은 최종 답안의 정확성에 대한 정보를 제공하지 않는다. 또한 구조화된 신뢰도 형식으로
arXiv:2608.07480v1 발표 형식: 새로운 발표 요약: 적극적 추론(active inference)이 행동을 적절히 조절하고 불확실성을 감소시키기 위해 목표 지향 행동과 균형을 이루는 원리적인 프레임워크로 등장했습니다. 생물학적 시스템과 인공 시스템에 걸쳐 성공적으로 적용되었으며, 최근에는 인간의 운전에도 적용되었습니다. 그러나 기존의 적극적 추론 모델은 운전의 행동을 결정하는 중
