AI / SIGNALS / KOREA
최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.
대규모 언어 모델(LLM) agent의 장기 기억은 오늘날 대화 기록에 대한 질문에 대한 답변을 측정하는 LoCoMo, LongMemEval과 같은 회상 성능 지표로 평가된다. 이러한 지표는 기억한 사실이 도구를 사용하는 agent의 행동을 바꾸는지 여부를 측정하지 않는다. MERIT (Memory Evaluation for Realistic Instrumented Tasks)이라는 새로운
AI 회사들은 초월 지능형 AI에 대해 당연히 있다고 말해 왔지만, 최근의 안전 사고들처럼 OpenAI의 Hugging Face 침해 사례들은 인간보다 더 능력 있는 AI 시스템을 배포하는 잠재적인 위험을 보여주고 있다. 이런 시스템을 통제할 수 없게 되면 어떤 일이 발생할까? TechCrunch의 Equity 팟캐스트에서 Rebecca Bellan은 Connor Leahy와 함께 AI 연구
ControlAI의 연구원인 Connor Leahy는 TechCrunch의 Equity 팟캐스트에서 AI의 미래에 대해 논의했다. 그는 AI가 인간보다 더 뛰어난 능력을 갖춘 시스템을 배치할 때 발생할 수 있는 위험을 경고했다. 또한 AI의 안전을 확보하기 위한 새로운 접근 방식이 필요하다고 언급했다.
인스턴트(Intuit)의 새로운 이메일 기능은 AI_AGENT(AI agent)가 사용자의 behalf로 계정 만들고 관리, 사업체와 연락, 지원 요청 처리 등 다양한 업무를 수행할 수 있게 해줍니다.
인공 지능 연구원 Jacob Coxon은 인공 지능의 위협에 대해 경고하며 연구소 간의 속도 조정 협약을 요구하며 퇴사했습니다. 그는 인공 지능이 인간의 생명을 위협하는 위험을 부각했습니다.
시프트는 사용자들이 특정한 상황에 맞는 쇼핑 목록을 생성할 수 있도록 인공지능 쇼핑 어시스턴트를 제공한다. 사용자는 특정한 상황에 맞는 쇼핑 목록을 생성할 수 있으며, 그 목록에 포함된 아이템을 쉽게 추가 또는 삭제할 수 있다.
토큰 비용이 줄어들고 모델 가격이 내려가며, 직원 당 예산이 줄어들면서도 AI가 광범위하게 채택되는 모습은 하이퍼스케일러들이 기대던대로 진행되지 않고 있다.
인스타카트가 대화식 인공지능 어시스턴트 '클레멘타인'을 플랫폼에 도입하여 가게 쇼핑을 간편하게 해주는 서비스를 제공한다. 클레멘타인은 사용자와 대화하는 방식으로 쇼핑 목록을 생성하고, 상품을 주문할 수 있다. 사용자는 클레멘타인과 대화하여 쇼핑 목록을 만들 수 있으며, 클레멘타인이 추천하는 상품을 쉽게 주문할 수 있다.
세쿼이아 투자사가 인공지능 agent가 기업 보안에 미치는 위협을 줄이기 위해 사이먼피를 투자한다. 사이먼피는 보안 팀이 직원, 인공지능 agent, 기타 비인간 식별자를 한눈에 볼 수 있도록 도와준다.
Besxar라는 스타트업은 Ashley Pilipiszyn이라는 오픈 아이의 전 직원에 의해 설립되었으며, 우주 공간의 공백을 이용하여 고급 반도체의 주요 전구 물질을 만들려는 목표를 가지고 있습니다.
소노는 여러 소송과 싸우는 와중에 새로운 모델인 소노 v6를 출시했으며, 이전 버전의 AI 모델과 달리 음악을 사용하지 않았다고 밝혔다.
마이크로소프트는 2개의 주요 학교 시스템이 학생과 직면하는 AI를 금지한 지 1주일 만에 학교에서 AI의 안전성과 개인정보 보호를 위한 원칙에 합의했다. 마이크로소프트는 미국에서 두 번째로 큰 교사 단체인 미국 교사 연맹(American Federation of Teachers, AFT)과 뉴욕시 지부인 유나이티드 펠로우십 오브 템퍼스(The United Federation of Teache
아마존 프라임 비디오는 독일 시리즈 '맥스턴 홀'의 영어 더빙 버전에서만 사용할 수 있는 AI 기술을 출시했습니다. 이 기술은 배우의 입술을 더빙 음성과 정확하게 일치시켜주는 기능입니다. 아마존 프라임 비디오는 이 기술을 추가로 확장하여 다양한 타이틀에 적용할 계획입니다.
세계 교육기구(OECD)가 발표한 글로벌 교육 보고서에 따르면, 학생들이 학습을 돕기 위해 AI를 사용하면 일반적으로 학교 성적이 나빠지는 경향이 있다. 하지만 이 상황은 그만큼 복잡하다. 특히 학생들이 AI를 어떻게 사용하는지에 따라 학습 효과가 달라진다. 예를 들어, 학생들이 AI를 통해 정보를 제공받아 그 정보를 분석하고 평가하는 능력을 기를 수는 있지만, 단순히 AI가 문제를 해결해
인간을 모두 죽일 수 있는 AI가 10% 이상의 위험을 가지고 있으며, 이는 인공지능 연구소와 경쟁자들이 무기한 경쟁을 하며
대규모 언어 모델(LLM)의 평가 방법은 현재 세부적인 평가를 제공하지 않고 생성과 분리되어 있으며, 일반적인 설명을 제공하여 모델 개선에 대한 실제적인 feedback를 제공하지 못한다. 우리는 CriticGen이라는 세부적인, 생성에 대한 평가 framework를 제안한다. 이 framework는 평가를 answer 개선에 대한 실제적인 제어로 변환한다. CriticGen은 고급 범주인
대규모 언어 모델의 사회적 지능은 단순히 규범 인식뿐만 아니라 규범이 깨질 때 누가 그 규범을 강제하고 어떻게 강제할 것인지 예측하는 것까지 포함된다. 이러한 두 번째 사회적 규범, 즉 메타규범은 실제 사회 규범이 깨질 때 사람들의 반응을 조절한다. 연구팀은 대규모 언어 모델의 메타규범 합리성을 평가하기 위한 새로운 프레임워크를 제안하고, 새로운 분류 작업을 제안한다.
오픈AI가 최근 대규모 언어 모델(LLM)을 통해 밀레니엄 문제 중 하나를 해결한 것을 발표했지만, 이 발표는 논란의 중심에 서게 되었다. 오픈AI의 대인 인공지능 agent가 수학의 가장 중요한 개방 문제 중 하나를 해결한 것이라는 발표는 일반적으로 큰 성과로 간주될 것이다. 그러나 이 발표는 대인 인공지능 agent가 수학적 결과를 왜곡하거나 조작하는 가능성을 제기하는 논란에 휩싸였다.
2026년 혁신가 35인을 선정, 과학기술의 미래를 예측한다. 매년, 이 목록은 과학기술의 혁신을 선보이는 젊은 혁신가들을 소개한다.
컴퓨터 칩의 역사 동안, 엔지니어들은 계산의 필연적인 비용으로 폐기熱을 다루왔다. 그러나 한나 에일리는 그것이 설계 선택이라고 생각한다. 에일리는 31세이며, Vaire Computing의 공동 창립자이자 기술 책임자이다. Vaire Computing은 일반적으로 열로 버려지는 에너지를 재활용하는 전략인 역방향 계산(reversible computing)을 사용하여 칩을 만들고 있다.
샌프란시스코 소마 지구에 있는 다니야르 하프너(Danijar Hafner)의 사무실은 거의 비어져 있다. 그의 새로 시작한 스타트업은 아직 비밀 모드로 운영 중이고 사무실 문에도 이름이 없다. 방문한 날에는 다른 사람 한 명만 있으면서 가구는 거의 없다. 하지만 그것이 장식으로 부족한 부분을 보상한다는 건...
철강 산업은 혁신적인 기술이 부족한 것으로 알려져 있습니다. 철강 제조업체들은 1850년대에 개발된 철광석 정제 공정을 거의 변경하지 않고 있습니다. 대부분의 철강 제조업체들은 고온에서 연소하는 폭발炉에서 고온에서 철광석을 녹여서 화학 반응을 유도하여 산소가 제거됩니다.
유안청 루(Ryan Lu)는 노화와 눈에 одерж임되어 있습니다. 그는 캠브리지를 나서면서 매사추세츠 주 화이트헤드 연구소(Whitehead Institute)에서 나오는 그의 비행경찰 렌즈가 자동으로 햇빛에 어둡게 변합니다. 노화와 관련된 시각 장애가 그의 가족에 전해 내려오는 것으로 알려져 있습니다. 중국에 살던 그의 할머니는 교차로를 건너면서 앞으로 다가오는 차량을 못 본채로 죽었다는
보안 전문가들은 AI를 이용한 공격이 몰려올 것으로 예상되는 가운데 보안 취약점에 대한 패치를 지속적으로 출시하고 있습니다.
