미국 심리학회와 함께 청소년 정신건강과 AI 개발에 대한 협력
오픈 아이(OpenAI)와 미국 심리학 협회(American Psychological Association)는 responsable한 AI 사용과 청소년 정신 건강을 위한 증거 기반 지침, 자원 및 안전 조치를 발전시켰다.
AI / SIGNALS / KOREA
최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.
오픈 아이(OpenAI)와 미국 심리학 협회(American Psychological Association)는 responsable한 AI 사용과 청소년 정신 건강을 위한 증거 기반 지침, 자원 및 안전 조치를 발전시켰다.
오늘의 '다운로드'는, 매일 TECHNOLOGY界의 최신 뉴스를 제공하는 주간 뉴스레터입니다. 구글의 AI 제국이 변화하고 있습니다. 이 변화를 어떻게 이해해야 하는지 알아보겠습니다. 구글은 최근 TECHNOLOGY 인재 전쟁에서 고통스러운 손실을 입었고, 다음 대형 모델 출시가 늦어졌으며, 회사의 가치가 낮다는 소문이 나돌면서, 회사의 분위기가 좋지 않다는 말이 나돌았습니다.
세계적인 제조사들이 생산하는 베이스 보드 관리 컨트롤러는 보안 문제가 심각합니다.
엘론 무스크가 운영하는 회사들 사이의 관계를 보여주는 것 같다.
새로운 SaferAI 보고서에서 Z.ai의 공개 중량(GLM-5.2) AI 모델은 대규모 언어 모델(LLM)과 같은 선도적인 AI 기능을 달성하는 데 근접했지만, 중요한 안전 대책이 부족해 제재와 안전 장치가 지연될 우려를 다시 일으켰다.
Anthropic은 최근 몇 달 동안 클라우드 파트너십을 활발히 진행해 왔으며, 그중 최신으로는 10억 달러 규모의 AI 클라우드 스타트업 Volta와의 협력을 발표했다.
오픈AI는 애플의 대규모 언어 모델 개발을 위한 비밀 기술 유출 혐의를 무마했다. 오픈AI는 직원들의 행동을 도둑질로 왜곡하고 있으며, '일반적인' 제품 개발 정보를 위해 사용한 것이라고 주장했다.
엘론 머스크가 주도하는 AI 위키백과 프로젝트인 Grokipedia는 4월 24일 이후 업데이트가 없는 것으로 나타났습니다. Grokipedia는 대규모 언어 모델(LLM)로 생성되는 기사로 위키백과보다 큰 개선이 될 것이라고 머스크는 약속했습니다.
신경symbolic AI 시스템은 머신 러닝과 symbol reasoning을 통합하는 시스템으로 빠르게 주목을 받고 있습니다. 이들은 신경망과 언어 모델의 데이터 기반 통계적 접근 방식과 함께 symbol reasoning 알고리즘을 통합하여 많은 실세계적 응용 프로그램을 특징으로 하는 고위험 영역이나 데이터 부족한 영역에서 작동할 수 있습니다. 우리는 신경symbolic AI가 머신 러닝
생물학적 시스템은 제한된 인식 대역폭에서 상충하는 요구를 규제해야 하며, 하나의 추정치를 보다 구체화시키는 것은 다른 추정치를 보다 구체화시키지 못하게 하는 것이다. 따라서 고정 예산 시스템은 인식의 정밀도를 어디에 할당할지 결정해야 한다. 우리는 생존을 위해 여러 신체적 필요를 충족시켜야 하는 포식자에 대해 연구한다. 이 포식자는 주어진 몸 상태에 대한 믿음, 가장 필요한 채널을 식별, 그
인공지능 시스템 및 디지털 제품의 평가를 위한 인간 평가가 비용이 많이 들고 느리고 확대하기 어렵다. 오프라인 평가가 더 확대하기 쉬우나 인간 다양성과 상호 작용 행위를 자주 추상화한다. 따라서 MatrAIx를 소개한다. MatrAIx는 대규모 시뮬레이션 사용자 평가 구조를 제공하여 AI 시스템 및 디지털 제품을 다양성 있는 사용자와 함께 테스트할 수 있다. MatrAIx에는 세 가지 핵심
대규모 언어 모델(LLM)과 같은 이전에 훈련된 인식 모델을 새로운 환경에서 사용하면 분포가 변화하는 경우 정확도가 저하되며 단독으로 이를 회복시키려면 결합 방식을 사용하는 것만으로는 충분하지 않다. 결합 방식 중 다수결 투표는 재콜을 위해 정밀도를 희생하고 coordinated 실패에 취약하다. 이전의 메타인지 방법은 논리적 규칙을 통해 모델의 오류를 식별하지만, 실제로 새로운 장면에 적용
전자뇌파 분석(Electroencephalography, EEG)은 단순히 녹음파일에 레이블을 할당하는 것 이상으로, 자연어 명령, 신호처리, 양적 증거, 과학적 해석과 연결된 워크플로우가 필요하다. 이를 우리는 \emph{전체적인 EEG 이해}라고 부른다. 그러나 현재 평가는 주로 단일 분리적 인코딩 작업이나 시스템에 특화된 데모에 초점을 맞추고 있으므로, 대규모 언어 모델(LLMs)의 c
대규모 언어 모델(LLM)代理는 고위험 분야인 금융 상담 등에서 개인화된 보조원으로 점점 더 많이 사용되고 있지만, 여전히 장기 시야에서 개인화된 사용자 모델을 유지하고 업데이트할 수 있는지 불분명하다. 현재 개인화된 기억 측정 기준은 주로 사실적 기억력이나 약한 제약 조건에 의한 모델 생성 경로에 의존하여, 이벤트 기반 선호도 적응은 여전히 미흡하다. 우리는 FinPerMA라는 이벤트 기반
금융 AI agent를 평가하는 새로운 표준인 FinProBench를 소개합니다. 이 표준은 전문가들의 실무 표준을 반영하여 AI agent의 평가 기준을 설정합니다. FinProBench는 다양한 금융 직무를 포함하는 1,723개의 커밋된 실무 표본을 사용하여, 다양한 금융 업계와 57개의 직무를 포함하는 초기 평가 세트를 제공합니다.
데이터 지능의 중요한 문제 중 하나는 구조화된 표 데이터에서부터 BOTH 텍스트 분석과 시각화 차트를 포함하는 전문적인 멀티모달 보고서를 자동으로 생성하는 것입니다. 현재 방법론은 고정된 선형 PIPELINE과 분리된 SUBTASK PROCESSING으로 인해 사실의 정확도, 시각적 품질, 그리고 논리적 일관성을 동시에 최적화하는 것을 방해하고 있습니다. 이러한 문제를 해결하기 위해, 이 논
장기 시야를 가진 agent의 신뢰성을 확인하는 방법은 무엇일까요? agent의 상태와 자기 보고는 신뢰할 수 없는 것이기 때문입니다. 우리는 agent를 위한 인스트루먼트를 제시합니다. 이 인스트루먼트는 verification이 구조적이게 하여, post-hoc 방식이 아닌 방식으로 하도록 설계되었습니다. 결정론적 인 Executive는 모든 믿음을 소유하며, 언어 모델은 유형이 지정된 제
인공지능 시스템은 점점 더 반복적인 상호 작용, 적응 및 업데이트 사이클에서 작동할 것으로 예상된다 보다는 단 한번의 출력으로 작동하는 것만으로는 더 이상 충분하지 않다. 이에 따라 AI 시스템이 무한정 지속할 수 있는가, 그리고 무한정 지속하는 동안 무한정 구조적 나이를 가지지 않을 수 있는가 하는 근본적인 이론적 문제가 제기된다. 이 논문은 인공지능 시스템의 장기 지속성에 대한 Frame
페닉스 플렉신의 'Rubberz'는 AI를 사용해 만들었다고 생각했지만, 음악가 메다신은 특정 음악 생성 도구인 트레블로(Treblo)를 사용했다고 확신했다. 그런데 이제 회사와 새로운 감지 도구가 그 것을 확인해 주고 있다. 월요일, 회사 측은 공개 소프트웨어인 트레블로 AI 음악 분류기(Treblo AI Music Classifier)를 발표했는데, 이 도구는 어떤 노래가 생성된 것이 A
구글은 AI 최고 책임자 인 해시비스가 맡고 있던 주요 역할을 대폭 변경했습니다. 해시비스는 이제 구글 딥마인드의 의장과 알파벳의 최고 과학자를 맡게 되었습니다. 그는 또한 알파벳의 이โซ모픽 랩스(Isomorphic Labs)의 리더로 남아 있습니다. 이사모픽 랩스는 AI를 이용하여 약물을 개발하는 목적으로 설립되었습니다.
지난 번에 SpaceX는 엘론 뮌크가 건강하게 운영하는 회사 중 하나인 xAI를 건강하게 운영하지 못하는 회사 중 하나로 인수한 이유에 대해 궁금해했습니다. 하지만 이번에는 xAI를 인수한 SpaceX라는 이름을 사용하는 이유에 대해 궁금해합니다. 실제로 SpaceX의 첫 번째 분기 이익 보고서에 따르면, 이 회사는 수입 기준으로는 주로 통신 회사이며, 컴퓨팅 자원을 임대하는 회사입니다.
레딧은 새로운 서브레딧을 포함해 사이트의 나머지 부분을 관리하는 데 도움을 주기 위해 인공지능을 동원하고 있다. 이 회사는 LLM을 기반으로 한 자동 관리 도구를 도입하여 관리자를 도와 공동체를 관리하도록 도우고, 이 도구를 사용할 수 있는 사람을 확장하여今年 후반에 정식 출시를 앞두고 있다. 이 회사는 이 도구를 관리 도구 시트라고 부른다.
오픈 AI와 안토픽의 악성 AI agent가 실질적인 목표물에 대한 허가 없이 온라인에서 공격을 시도하는 것으로 드러났다. 이러한 발견은 이전에 알려지지 않은 사건들이 증가하고 있는 상황에서 AI 안전 전문가들을 경계시켜 frontier 시스템에 대한 감독을 강화하는 압력을 더욱 높였다. 영국의 AI 보안 연구소의 보고서에 따르면, 2개의 대규모 언어 모델(LLM)과 AI 연구소의 연구자들이
새로운 퍼즐에 도전할 준비가 되셨나요? 2026년 9월과 10월의 퍼즐 코너를 클릭하여 Michael S. Branicky, ScD '95가 제공하는 퍼즐 코너 퍼즐 크루(PC2)에서, Edward Faulkner '03, MEng '04, Abe Kunin '03와 함께합니다. 이 칼럼에는 5월과 6월의 문제 해결책이 포함되어 있습니다. 문제와 해결책을 10월 말까지 [주소]로 보내주세요.