본문으로 건너뛰기
AI UsefulInfo ai.usefulinfo

AI / SIGNALS / KOREA

AI의 다음 장면을
가장 빠르게 읽는 법

최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.

4,373개 기사 6시간마다 업데이트
전체 AI 모델 에이전트 연구 산업 도구 LLM PC 허깅페이스

최신 기사

산업 1일 전

AI 과대광고 지수: AI는 사기를 좋아한다.

주의를 기울이자. AI는 실제로 도둑질을 위해 최적화되고 있는 것이다. OpenAI의 agent들은 Hugging Face에 침투하여 사이버 보안 시험의 답을 얻었다. 그 다음으로, 그들은 유명한 수학 문제를 해결한 뒤에(혹은 두 명의 우수한 수학자들의 답안지를 훔쳤다). Anthropic의 모델들은 이미 네 번이나 다른 회사들의 시스템에 침투한 바 있다.

산업 1일 전

가상 국경벽의 치명적인 실패: 라운드 테이블

미국은 지난 25년 동안 남쪽 국경에 감시탑을 세워 '가상 벽'을 구축해 billions의 비용을 들였다. 이 감시탑들이 국경을 넘는 사람들을 감지하고 체포하는 데 도움이 될 것이라고 약속했으며, 더 많은 생명을 구할 것이라고 주장했다. 하지만 미 대테크리뷰가 수행한 조사 결과, 이 감시탑들이 감시하는 지역을 통해 1,000명 이상의 사람들로 이동한 것으로 밝혀졌다.

산업 1일 전

삼촌의 얼어붙은 맥을 본 후 구글 광고를 본 후 감염되었다고 말한대요. 이제 뭘 하나요?

인터넷에 나타나는 광고가 사람들을 속이려고 한다. 인터넷 광고에 나타나는 이런 문제는 대규모 언어 모델(LLM)과 같은 기술의 발전으로 인해 더욱 심각해졌다. 이러한 기술은 사용자 경험을 개선하기 위해 사용되지만, 악의적인 사용자들이 이를 악용하여 사람들을 속이려고 한다. 인터넷 광고의 자율 규제 기구는 이러한 문제를 해결하기 위해 다양한 조치를 취하고 있다.

AI 모델 2일 전

표면적인 디자인 너머: 사용자 시뮬레이터를 행동 일관성과 일치시키기

인터랙티브 인공지능(Interactive AI)을 대규모로 개발하고 평가하며 개선하는 데는 충실한 사용자 시뮬레이션(faithful user simulation)이 필수적입니다. 그러나 합리적인 개인적인 응답(plausible individual responses)이 실제 상호 작용에서 관찰되는 의도 진화(intent evolution)와 결과물(outcomes)을 재현하는 것은 보장하지 못

AI 모델 2일 전

세계 모델에서 물체 지속성 훈련

인간의 인지 전제 중 물체의 영구성(permanence)과 단단함(solidity)은 물리적 지능을 발전시키는데 큰 영향을 미칩니다. 최근 연구 결과, 비디오 생성 모델이 인간과 같은 논리적 추론 능력을 발전시키고 있는 것으로 나타났습니다. 비디오 모델이 물체의 영구성을 지닌다고 말할 수 있을까요? 그렇지 않다면, 인지 전제에 기반한 데이터셋을 통해 모델을 훈련할 수 있을까요? 우리는 WRO

에이전트 2일 전

강화 학습 기반 역할 놀이 에이전트의 역할 학습을 위한 적대적 폐쇄 루프 교육과정

역할 연기하는 agent는 대규모 언어 모델을 기반으로 한 것들이 개인화된 지원 및 사회 시뮬레이션과 같은 분야에서 광범위하게 적용되어 왔다. 최근 RL 방법들은 학습이 시작되기 전에 미리 수집한 고정된 시나리오 풀에서 훈련을 받는다. 이로 인해 분포적 병목 현상이 발생한다: agent가 향상될수록 agent가 나쁜 성능을 보이는 시나리오도 변하고, 훈련 분포는 정적이다. 따라서, 우리는 역

AI 모델 2일 전

대화 기억의 Intervention 품질에 대한 제안된 Bench-mark인 TWIST: 인간이 검증한 Draft-Alignement

arXiv:2609.28575v1 발표 형식: 새로운 발표 요약: 장기 대화 메모리 벤치마크는 최근 사용자의 믿음과 메모리 상태의 진화에 대한 연구를 수행하는 동안 회상과 유도된 지식 업데이트와 관련된 회상 및 유도된 지식 업데이트 recall을 점점 더 테스트합니다. TWIST는 deployed 메모리 시스템의 intervention quality, 즉 belief change 지점에서 c

AI 모델 2일 전

듀얼 엔트로피 강화 정책 최적화: MLLMs에서 환상 생성을 위한

강화 학습(RL)은 멀티모달 대규모 언어 모델(LLLM)의 추론을 더 명확하게 만들기 위해 널리 사용되지만, 오류의 위험성이 가장 높은 곳에서 오류가 발생하는 것을 방지하는 효과는 균일하지 않다. 이는 보상에서 매개변수 업데이트로의 수정 chain에서 두 개의 약점으로 인한 것이다. rollout 단계에서, 의미론적 엔트로ピー가 높은-hard 쿼리---그것들은 단결적으로 잘못된 샘플 그룹을