AI / SIGNALS / KOREA
최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.
AI 모델의 규모가 점점 커지는 추세는 중국의 새로운 Kimi K3 모델에 의해 계속되고 있다. 수십억 개의 매개변수를 갖고 있는 이 모델은 서구의 최고 모델과 동등한 성능을 자랑하며, 그 가격도 저렴하다. 그러나 속도는 서구의 모델과 비교해 못 미치고, 성능, 효율성, 비용, 그리고 자주 사용하는 국가의 통제권을 고려해야 하는 새로운 경쟁이 시작되었다.
드리즈어는 6월에 플랫폼에 업로드 된 AI 생성 트랙의 수는 매일 9만을 넘었다고 말했다.
미국은 중국의 오픈 AI 모델에 저작권 침해로 제재를 취할 수 있다고 밝혔습니다. 이 조치는 트럼프 행정부의 중국의 AI 발전을 늦추기 위한 캠페인을 확대하는 것입니다.
구글은 제미니 3.6 플래시, 3.5 플래시 라이트, 플래시 사이버를 출시했지만 제미니 3.5 프로의 여전히 없는 것이 새로운 질문을 일으키고 있습니다. 구글은 AI 전략에 대한 의문이 계속 됩니다.
할리데이의 스마트 글래스는 CES 2025에서 처음 소개되었으며, 당시의 버전은 작고 불안정한 디스플레이가 있어 사용자에게 불편을 줄 수 있었다. 하지만 최근에 출시된 새로운 버전은 훨씬 향상된 디스플레이를 특징으로 하며, 사용자 경험을 크게 향상시켰다.
구글은 새로운 보안 모델을 함께 출시하는 대규모 언어 모델(Google Gemini 3.6 Flash)의 업데이트를 발표했습니다. 이 보안 모델은 보안 취약점을 빠르게 찾고 보안 패치를 제공하는 데 중점을 둡니다. 구글은 최근 블로그 게시물에서 Gemini 3.5 Flash Cyber를 "비용 효율적이고 뛰어난 능력을 가진 대안"으로 설명했습니다. 이 모델은 Anthropic의 Mythos와
Anthropic의 대규모 언어 모델(LLM) 훈련에 저작권 침해로 고소당한 작가들과의 1.5조 달러 조건 협상을 법원에서 승인했다. 작가들은 각 책당 3만 달러를 받게 될 예정이다.
오픈아이는 ChatGPT for Small Businesses 프로그램을 출시하여 기업가들이 ChatGPT Work를 통해 AI 기술을 배울 수 있도록 도와주고, 업무를 자동화하고 성장할 수 있도록 지원합니다.
지난 주 중국의 두 AI 회사들이 오픈 아이와 앵토프릭의 최고 시스템과 경쟁할 수 있는 모델을 공개했다고 밝혔습니다. 이에 대한 반응은 빠르고 예측 가능한 것이었습니다. 시장은 흔들렸고, 평론가들은 실리콘 밸리가 흔들린다고 선언했고, 정책 결정자는 전통적인 언어인 무기 경쟁과 경고의 언어를 사용했습니다. 연합 뉴스는 [...]
인공지능(AI)에 대한 논의는 종종 알고리즘, 컴퓨팅 파워, 새로운 반도체 제조 공장와 하이퍼스케일 데이터 센터에 대한 막대한 투자에 초점을 맞추곤 한다. 그러나 이러한 발전의 beneath 에는 다른 layer 의 혁신이 존재한다: 고급 재료. 각 새로 출시된 인공지능 기술은 더 많은 처리 능력, 더 많은 메모리, 더 높은 에너지 효율성 등을 요구한다.
Anthropic의 대규모 언어 모델 훈련을 위한 저작권 분쟁이 1.5억 달러에 합의되었지만, 이 합의는 AI 모델 훈련을 위한 저작권 사용의 더 넓은 문제를 해결하지 못한다.
그릿(Gritt)은 비밀 모드에서 벗어나 3억 4천만 달러의 자금과 함께 건설 현장에서 가장 어려운 작업을 자동화하는 계획을 발표했습니다.
인공지능을 기반으로 하는 정책의 엄격한 행동 보증이 부족하여 강화 학습(RL)은 점점 더 복잡하고 안전한 영역에서 적용되고 있다. 정책 표현력과 규모의 최근 발전은 이 문제를 더욱 심화시켰고, 강화 학습 정책 검증에 대한 개념적으로 분산된 연구를 급속히 증가시켰다. 이 서베이는 강화 학습 검증 방법에 대한 통일된 관점을 제공한다. 우리는 세 가지 축인 검증 패러다임(형식적 versus 확률적
modern Retrieval-Augmented Generation(RAG) 시스템의 효율성을 향상시키기 위해 Context reranking과 pruning은 필수적이 되면서도 해석 가능한 통합 프레임워크는 여전히 탐구되지 않은 상태이다. 이전 연구는 주로 어휘 검색, 크로스 인코더 아키텍처, 모델 학습 distillation, Low-Rank Adaptation(LoRA) 등에 중점을 두
대규모 언어 모델(LLM)에서 그래프와 관련된 멀티모달 질의응답 시스템을 개선하기 위해, 우리는 그래프에 연결된 이미지 노드에 대한 시각적 후보 랭킹 연산자를 ColBERT/ColPali 계열의 Late-Interaction MaxSim-style 다중 벡터 스코링으로 교체했습니다. 이 변경은 멀티모달 QA에서 그래프에 연결된 이미지 후보에 대한 검색 단계 점추정치가 향상되고, 시각적 증거가
멤버십 추정 공격(Membership Inference Attacks, MIA)은 모델이 특정 예제를 학습 데이터에 포함하였는지 여부를 테스트하는 공격입니다. 연구진은 다이내믹 언어 모델(dLLM)의 특징을 이용하여 새로운 공격 기법을 제안합니다. 이 기법은 선택한 위치에 대해 단일 패스를 통해 모델을 테스트할 수 있게 해줍니다.
이 논문은 PPO-HSC (Proximal Policy Optimization with High-order Sampling Coverage, 근접 정책 최적화와 고차원 샘플링 커버리지)를 소개한다. 이 프레임워크는 대규모 언어 모델(LLM)의 fine-tuning에서 모드 붕괴(Invisible Shackles)의 문제를 해결하기 위해 설계된 탐색적인 강화 학습 프레임워크다. 표준 강화 학습
강화 학습은 대규모 언어 모델(LLM)의 추론력을 향상시키기 위해 보증된 보상을 사용하는 표준적인 접근 방식으로 발전했습니다. 그러나 우리는 이 패러다임의 중요한 한계점을 발견했습니다. 즉, challenging 추론 과제에서 목표 모델의 샘플들은 종종 의미적 중복성을 보이며, 오류의 '추론 계곡'에 수렴하여 정책 업데이트에 대한 보상을 제공하지 않습니다. 이 한계점을 극복하기 위해, 우리는 약한 정책을 강한 정책으로 학습하는 패러다임을 제안합니다. 보조 모델이 목표 모델의 샘플을 보조 branch를 통해 보강하는 것을 통해, 우리는 약한 정책을 강한 정책으로 학습하는 새로운 방법을 제안합니다.
최근 강화 학습의 성장으로 다양한 환경을 위한 대체 훈련 환경이 필요해졌습니다. 환경을 고정한 태스크와 보상 난이도가 환경 성능이 향상되면 효과적인 신호가 되지 않으며, 장기적인 보상이 희박하면 특정 워크플로우나 도구 구조에 대한 모드 붕괴를 유발합니다. 월드 모델이 환경 상태를 시뮬레이션하는 것은 순수 롤아웃 성능과 동등하게 성능을 보이므로, 다양성 요구 사항을 충족하기 위한 대용량 환경을 구축하는 데 hứ중에 있습니다. 그러나 자동 회귀 (AR) 월드 모델은 전방향 편향으로 인해 전역적으로 상호 의존적인 상태 anchor들, 즉 도구 스키마, 이전 턴, 예상 결과에 대한 조건을 설정하는 것을 방지합니다.
인공지능 민주주의는 주로 대규모 언어 모델의 일반성을 맞추는 문제가 아니고, 대규모 언어 모델(LLM)가 하드웨어와 관리 제약으로 인해 일반 기관이 만족할 수 있는 범위 내에서 선택, 감사, 분산되도록 할 수 있는 문제입니다. 본 논문은 135M에서 3B 파라미터까지의 9개의 오픈-웨이트 언어 모델이 1,085 개의 예시와 16 개의 주제를 가진 다중 선택 시험지에 대한 구조화된 지역 배포를
지식 집중형 인공지능 시스템에서 Ontology engineering은 여전히 중요한 걸림돌이다. 현재의 자동화된 접근법은 대부분 사전 정의된 스키마에 의존하거나 좁은 도메인에서 작동하거나, 다운스트림 pipe line에 적합하지 않은 구조화되지 않은 출력을 생성한다. 우리는 Generative Ontology Induction (GOI), 도메인에 독립적인 프레임워크를 소개한다. GOI는
AI agent 시스템이 대규모 언어 모델(LLMs)와 외부 도구 및 API를 결합하는 것은 본질적으로 결정론적이지 않다: LLM 샘플링 분산, 외부 API 상태, CDN 인프라 헤더, 실행 환경 잡음이 collectively prior agent 실행을忠實하게 재실행하는 것을 막는다. 기존 관찰 가능성 플랫폼은 실행 로그를 캡처하지만 단독으로 실행을 재현할 수 없다. 우리는 개발자 중심의
멀티 에이전트 LLM 시스템이 계획 단계를 통해 목표를 분해하고, 이하의 이행자와 심사자 에이전트가 실행하고 감사하는 데 의존하는 것을 발견했습니다. 계획 단계는 공격 표면으로 인식되었으며, 계획자에 대한 단일 입력을 통해 동시적으로 모든 하위 작업이 부패되었습니다. 우리는 플랜 플립을 제시했습니다. 플랜 플립은 4 가지 계획 단계 지시어 삽입 공격을 포함합니다. - 목표 대체 (PF-1), 우선순위 반전 (PF-2), 맥락 오염 (PF-3), 역할 혼란 (PF-4) - 각은 의도적으로 키워드 필터를 회피하기 위해 합리적인 도구 출력으로 위장되었습니다. 우리는 9 개의 선도적인 LLM을 3,479 회의 에피소드에 걸쳐 평가했습니다. 우리는 세 가지 발견을 확인했습니다: (1) 능력은 취약성을 증폭시킵니다 - GPT-5는 가장 높은 공격 성공률 (ASR = 0.68)을 달성했습니다. 이는 더 강력한 모델이 자체적으로 더 안전하다는 가정에 반하는 것입니다; (2) 유사한 pipeline은 연관된 에이전트의 무시를 보여줍니다 - GPT-4o와 Llama-3.3-70B는 ASR가 근소한 차이로 0에 근접하지만 Stealth = 1.00과 StepShift > 0을 보였습니다. 공격은 계획을 재구성했지만 동일한 백본 Critic은 동의를 보고했습니다 (2 개의 independent judge가 -0.20에서 -0.32의 의미적 편차를 확인했습니다, r = 0.943); (3) 논리 증강 모델은 삽입 공격에 저항합니다 - DeepSeek-R1는 모든 공격에 대해 StepShift = 0.00을 달성했습니다. 우리는 GoalAnchorCheck (D1)과 CrossAgentConsensus (D2)를 제안했습니다. 이 두 가지 검출 기법은 1.00까지의 검출률을 달성하고, 16 개의 셀 중 15 개에서 동일한 백본 baseline보다 우수했습니다.我们的 핵심 발견: 다양한 모델 다양성은 멀티 에이전트 시스템의 보안 요구 사항입니다. 유사한 백본 내의 중복성은 계획 단계 공격에 대한 보호를 제공하지 않습니다.
링크 예측에 있어 Graph Neural Networks (GNNs)가 최근 주목받고 있다. 그러나 기존 리뷰는 GNN 아키텍처와 다양한 그래프 구조에 대한 체계적인 탐색을 제공하지 못했다. 이 연구에서는 GNN 기반 링크 예측의 체계적인 리뷰를 제공하고, 새로운 GNN 관점에서 최근 기술과 응용을 분류한다. GNN 기반 링크 예측의 기술과 응용을 살펴보고, 현재의 장애물과 미래의 방향을 논의한다.
