AI / SIGNALS / KOREA
최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.
바바 인 원더랜드: 온라인 자가 학습 동역학 발견을 위한 실행 가능한 세계 모델 실행 가능한 세계 모델은 읽을 수 있고, 편집할 수 있으며, 실행할 수 있으며, 계획을 위해 재사용할 수 있지만, 프로그램이 환경의 전이 법칙을 캡처하기보다는 표면 언어의 의미적 단축을 캡처하지 않는다면만 가능하다. 우리는 표준화된 규칙 설명, 보상 신호, 신뢰할 수 있는 어휘 전제가 없이 상호 작용 증거만으로 상태 종속 동역학을 유도해야 하는 에이전트가 온라인 실행 가능한 세계 모델 학습을 하는 경우를 연구한다.
보안 지식 그래프를 구축하는 것은 어려운 작업으로, 보안 도메인 지식이 부족한 대규모 언어 모델(LLM)와 end-to-end 문서-그래프 훈련이 어려운 문제가 있습니다. GRID은 보안 텍스트 지식 그래프 구축을 위한 end-to-end 프레임워크입니다. GRID은 CTI 기사에서 보안 도메인 감독을 생성하기 위해 그래프 추출과 지식 그래프 조건에 의한 텍스트 수정을 통해 추적 가능한 기사-그래프 정렬을 만듭니다. 그리고 문서-그래프 학습을 스크립트된 태스크 뱅크로 변환하여, 4 옵션 멀티 셀렉트 질문과 트리플 레벨 정규 표현식 매칭 타겟을 결합하여, LLM 판독기와 반복적으로 전체 그래프 출력을 스코어하는 것보다 더 안정적인 태스크 스페시픽 보상을 얻을 수 있습니다.
개인화된 언어 시스템은 일반적으로 개인화성을 회상 문제로 다루지만, 실제로는 시스템이 약속을 지속할 때 많은 실패가 발생한다. 이 연구에서는 약속 범위 설정을 위한 Contract-Bounded Evidence Activation (CBEA)와 Lexicographic Commitment Validation (LCV) 기법을 제안한다. CBEA+LCV는 360 개의 테스트 케이스와 세 가지 생성 백엔드에서 실패율이 0.49-0.60로 유지되며, raw와 long-context baseline은 0.003-0.092의 실패율만큼 유지할 수 없다.
지식 그래프를 이용한 자기주도 지식 보강 기술인 MetaKGEnrich를 소개합니다. 이 기술은 대규모 언어 모델(LLM) 응용 프로그램에 자기주도 지식 보강 기능을 제공합니다. MetaKGEnrich는 세 가지 주요 단계를 거칩니다: 지식 그래프 생성, 구멍을 찾기 위한 그래프 메트릭 탐색, 웹 증거를 검색 및 처리.
대규모 언어 모델의 선형 대수 산술 오류를 평가하기 위한 새로운 벤치마크를 소개합니다. 이 벤치마크는 3x3, 4x4, 5x5 행렬에 대한 10개의 대규모 언어 모델을 평가하고, 9개의 과제 유형과 660개의 SymPy-인증 문제를 포함합니다. 벤치마크는 6,600개의 모델 출력을 평가하고, 1,156개의 오류를 분류하여 LLM의 산술 오류가 무작위적이지 않고 구조적으로 제약된다는 것을 밝혀냈습니다.
자연 속 생물 다양성의 급격한 감소는 효과적인 모니터링의 긴급성을 강조한다. 그러나 수동 조사를 위한 수작업 조사는 자원에 대한 확장성 있는 대안을 제공한다. обыч AI는 환경의 변동성으로 인해 자연 속에서 성능을 발휘하는 데 어려움을 겪는다. 현재의 방법은 모델을 다시 훈련하기 위해 필드 데이터를 지속적으로 업로드하는 클라우드 자원에 의존한다. 그러나 이러한 접근 방식은 제한된 전력과 네트워크 연결로 인해 원격 배포에 적합하지 않다. 이러한 제약을 해결하기 위해 이 연구에서는 모델 적응에서 지식 적응으로 전환하는 것을 제안한다. 우리는 시각적 인지와 사유를 분리하는 아키텍처를 소개한다. 시각 인코더와 동적 지식베이스를 결합하여 시각 인코더와 동적 지식베이스를 결합한다. 우리는 암묵적으로 모델 매개변수에 전문 지식을 인코딩하는 대신 명시적인 지식베이스를 사용한다. 또한 지식의 지속성을 지원하여 구조화된 형식으로 전문가 인사이트를 보존한다. 생물학자와 원주민 공동체와의 교차 학문적 협력으로 이 작업은 윤리적인 AI 공동 개발을 진전시키고, 책임 있는 생태계 관리를 위한 문화적으로 교육된 생태계 관리를 지원한다.
연구진은 Chain-of-Thought(CoT) 논리를 통해 Universal Multimodal Embedding(UME)의 성능을 크게 향상시켰다. 하지만 CoT를 생성하는 데 필요한 컴퓨팅 자원은 종종 부담이 된다. 연구진은 CoT를 생성하는 대신 latent think 토큰을 사용하여 CoT를 생성하는 것을 방지한다. 이 연구에서는 think 토큰과 임베딩 토큰을 추출하는 방법과 think 토큰과 임베딩 토큰을 학습하는 방법에 대한 두 가지 주요 아키텍처 디자인을 조사한다.
물리학 기반 시뮬레이션 대신 머신 러닝을 사용하는 재료 과학의 주요 과제 중 하나는 목표 특성과 관련된 후보 재료를 빠르게 식별하는 것입니다. 머신 러닝은 재료의 안정성과 다른 목표 특성에 따라 재료를 필터링하는 더 빠르고 저렴한 방법을 제공하여 비용이 많이 드는 합성 단계에 도달하는 후보 재료의 수를 줄입니다. 최근 대규모 언어 모델(LLM)들이 이 역할에 적용되었습니다. 그러나 이러한 모델들은 훈련 단계와 추론 단계 모두에서 매개 변수가 많고 계산 비용이 높아 대량 처리 작업에 적합하지 않습니
대리인 모델링을 사용하는 대규모 언어 모델(LLM) 협상자들이 실제로 전략적인 협상을 수행할 수 있는지 연구한 결과, 현재의 LLM 협상자들이 대리인 모델링을 정확하게 수행하지만, 이를 전략적인 협상으로 변환하는 데 실패한다는 것이 밝혀졌다.
지식 그래프는 의미 데이터 통합에 중요합니다. 그러나 실제 세계 데이터를 모델링하는 것은 종종 본질적으로 불확실합니다. 지식 그래프 내에서 불확실성은 세 가지 DISTINCT 수준에서 나타납니다: 불확실한 속성 값, 확률적 triple 존재, 그리고 불완전한 스키마 지식. 그러나 현재 Semantic Web 표준은 이러한 불확실성에 대한 reasoning을 native하게 지원하지 않으며, 나"이브한 확장은 계산적으로 불가항력적입니다. 이 논문에서는 EACH 수준을 통해 tailored 기술을 개발하는 모듈러 프레임워크를 개발하는 것을 목표로 합니다: (1) 연속 속성에 대한 확률적 리터럴 정의 및 해당하는 쿼리 대수; (2) 불확실한 triple에 대한 SPARQL provenance를 트랙터블한 확률적 회로로 변환하는 컴파일레이션 기반 프레임워크; 그리고 (3) 통계적 스키마 reasoning을 위한 toplogy-aware 지오메트릭 임베딩. 중추 가설은 의미적 정밀성과 계산적 트랙터블성을 조화시키는 tailored reasoning 기법, 즉 대수적, 논리적, 그리고 지오메트릭 접근이 reconcile할 수 있다는 것입니다.
Skim은 웹 에이전트의 예측 가능한 구조를 이용하여 웹 사이트의 예측 가능한 패턴을 이용한 유추 실행 프레임워크입니다. Skim은 웹 에이전트의 비용이 과도한 컴포넌트의 적용에 의해 발생하는 것임을 발견하였으며, 사이트별로 한 번만 프로파일링하여 이러한 패턴을 캡처한 후 런타임에 각 쿼리를 템플릿과 매치하여 목적 URL을 합성하고 결과를 추출하는 방식으로 성능을 향상시킵니다.
연구실 자동화를 통해 과학 실험의 빠르기, 안전성, 정확성, 재현성을 높일 수 있다. 하지만 연구실 자동화를 위해 여러 장비와 로봇을 조정하는 것은 과학자들에게 코드 작성, 설정 파일 관리, 복잡한 소프트웨어 인프라 탐색과 같은 어려움을 собою 둔다. 이에 대한 해결책으로, 과학자들이 자연어를 통해 자동화된 실험 프로토콜을 생성하고 모니터링할 수 있는 AI 에이전트 아키텍처를 제시한다.
대규모 언어 모델(LLM) 기반 에이전트는 개별 실행 오류를 회복할 수 있지만, 동일한 오류가 반복적으로 발생하는 경우 underlying process knowledge가 수정되지 않으면 계속해서 실패합니다. 새로운 기술 ANNEAL은 이러한 문제를 해결하기 위해 governed symbolic patch learning을 사용하여 process knowledge graph를 수정합니다.
자율 AI 에이전트의 안전성은 점점 더 중요한 오픈 문제로 인식되고 있습니다. 에이전트가 패스िव 텍스트 생성기에서 액티브 액터로 전환하면서, 셸 명령어를 실행, 파일을 수정, API를 호출, 웹을 탐색하는 등 안전하지 못하거나 적대적으로 조작된 행동의 결과가 즉각적이고 현실적인 것입니다. 기존의 AI 안전성 연구는 모델 정렬과 입력 필터링에 초점을 맞추었지만, 에이전트의 의도가 실제 머신에서 실제 행동으로 변하는 순간에 이를 해결하지 못했습니다. 특히 로컬 환경에서 개발자가 에이전트를 자신의 파일 시스템, 자격 증명, 인프라에 실행하는 동안 런타임 제어가 거의 없기 때문에 이러한 결함은 특히 심각합니다. 이 논문은 로컬 AI 에이전트의 런타임 안전성과 관찰성 레이어인 AgentWall을 소개합니다. AgentWall은 에이전트의 제안된 행동을 호스트 환경에 도달하기 전에 모든 행동을 중계하고, 명시적 선언적 정책에 따라 평가하고, 민감한 작업에 대한 인간 승인을 요구하고, 감사 및 재생을 위한 완전한 실행 기록을 기록합니다. AgentWall은 정책 집행 MCP 프록시와 네이티브 OpenClaw 플러그인으로 구현되어 Claude Desktop, Cursor, Windsurf, Claude Code, OpenClaw와 같은 단일 설치 명령어로 작동합니다.
인간 중심(AI) 기술 기업 Anthropic이 OpenAI, Google, Cloudflare가 사용하는 개발 도구 스타트업인 Stainless를 인수했다. Stainless는 SDK(소프트웨어 개발 키트)를 자동화하여 개발자들이 API와 상호 작용할 수 있도록 도와주는 기술을 제공했다.
샌드박스AQ는 컴퓨터 학위를 필요하지 않아도 약물 발견 모델을 클라우드에 올릴 수 있게 해주는 서비스를 제공합니다. 다른 벤처 투자 회사들도 클라우드 기반 약물 발견 모델을 개발하기 위해 경쟁하고 있습니다. 샌드박스AQ는 클라우드에 모델을 올릴 수 있는 권한이 더 큰 장애물인 것이라며, 클라우드 기반 대규모 언어 모델(LLM)인 클라우드가 이를 해결할 수 있다고 믿고 있습니다.
마스커 대 알트만 사례는 AI가 잘못된 사람들에 의해 이끌리고 있다는 것을 입증했다. 올해의 기술 사례인 마스커 대 알트만은 결국 contro contro control의 권력 투쟁이었다. 엘론 마스커는 OpenAI라는 현재 거대한 회사에 함께 설립한 샘 알트만이 AI의 미래를 결정 shouldn't시키기 shouldn't라고 주장했다. 반면에 알트만의 변호사들은 마스커의 own credibility를 추궁했다. 월요일에 재판심판진은 단지 [...]
마스와 알트만이 상호 신뢰성을 비난하며, 이제는 심판이 어느 편을 선택할 차례입니다. 마스 VS 알트만 시합의 마지막 주에 대한 자세한 내용을 확인해보세요.
안드릴(Anduril)이라는 국방 기술 회사와 메타(Meta)가 공동으로 개발 중인 군용 스마트 글래스에 대한 새로운 정보가 공개되었습니다. 이 스마트 글래스는 눈-tracking(eye-tracking)과 음성 명령(vocal command)을 통해 드론 공격을 지시할 수 있는 기능을 포함합니다. 안드릴의 부사장인 퀘이 번넷(Quay Barnett)은 군의 특수 작전 사령부에서 근무한 후 안드릴에 입사한 후 이 프로젝트를 이끌고 있는 사람입니다. 그는 이 스마트 글래스의 핵심 기능은 군인들이 현
구글이 올 주에 무엇을 발표할지 기대해 보자. 이 기사는 처음에 AI에 관한 주간 뉴스레터인 The Algorithm에 실렸습니다. 이와 같은 이야기를 이메일로 받으려면 여기서 가입하세요. 구글이 내일 annual developer conference, I/O를 열 때, foundation model 경쟁에서 뚜렷한 3위로 등장할 것입니다. 작년 구글 I/O에서, 구글은 대규모 언어 모델(LLM)인 Bard를 발표하였고, Microsoft는 그 이후 OpenAI와의 합병을 발표했습니다.
대학 졸업식에서 AI 찬양 논평에 학생들이 실망과 불만을 표출하는 장면이 벌어졌다. AI 찬양 논평을 하던 전 구글 CEO인 에릭 슈미트는 학생들의 시끄러운 반응에 부딪혔다. 그는 AI가
앨렉사+가 사용자 맞춤형 AI 팟캐스트를 생성할 수 있는 기능을 제공하며, 대규모 언어 모델(LLM)로 콘텐츠를 생성합니다. 사용자는 다양한 주제와 스타일로 맞춤형 팟캐스트를 생성할 수 있습니다.
엘론 뮝크가 오픈 AI의 공동 창립자 샘 알트만과 소송에서 패했습니다. 그는 오픈 AI에서 대규모 언어 모델(LLM) 개발과 같은 문제로 인해 자신이 약혼자와 함께 대우를 받지 못했다고 주장했지만, 캘리포니아의 9명의 심판단이 일치한 판결을 내렸습니다.
