위험 태도와 AI: 대규모 언어 모델의 안정적인 위험 태도
연구진은 대규모 언어 모델의 위험 태도를 테스트하고, 그 결과를 통해 AI 시스템의 행동을 평가하고 조정하는 데 중요한 시사점을 찾았습니다. 연구 결과, 대규모 언어 모델은 안정적인 위험 태도를 나타내고, 이는 인간의 위험 태도와 비교할 때 한정된 범위 내에서 위험 태도가 수렴하는 것을 의미합니다.
AI / SIGNALS / KOREA
최신 AI 모델·에이전트 소식을 한국어로 정리하고, 실제 선택에 필요한 맥락까지 함께 전합니다.
연구진은 대규모 언어 모델의 위험 태도를 테스트하고, 그 결과를 통해 AI 시스템의 행동을 평가하고 조정하는 데 중요한 시사점을 찾았습니다. 연구 결과, 대규모 언어 모델은 안정적인 위험 태도를 나타내고, 이는 인간의 위험 태도와 비교할 때 한정된 범위 내에서 위험 태도가 수렴하는 것을 의미합니다.
연구팀은 사회적 지원 기술의 물리적으로 안전하고 감정적으로 친숙한 인터페이스를 제공하는 소프트 센서화된 동료를 개발하기 위해 Soft, sensorized companions라는 개념을 제안했습니다. 그러나 이들의 변형성과 다중 채널 감각은 인간의 감정에 대한 강력한 해석을 어렵게 만들었습니다. 이 연구는 감정적 접촉 인식에 대한 소프트 인터랙티브 동료를 위한 완전한 오픈 소스 MATLAB
RLHF 선호도 데이터에서 래터 상태 편향을 식별하고 감사.framework를 개발하는 연구를 소개합니다. 연구에서는 선호도 레이블이 실제로 비교한 출력을 반영하는지 여부를 확인하고, 선호도 데이터가 래터의 상태를 포함하고 있는지 여부를 확인합니다.
Token 증대는 AI 경제에서 모순을 만들고 있다. 더 뛰어난 모델이 더 복잡한 작업을 부추기기 때문이다.
중국산 무게중립형 대규모 언어 모델(Large Language Model, LLM)을 금지하는 논의가 나오고 있다.
X는 1년간의 노력 끝에 재건된 안드로이드 앱을 전 세계에 출시했습니다. 이 새로운 버전의 앱은 사용자 경험을 향상시키기 위해 대규모 언어 모델(LLM)과 같은 최신 기술을 적용했습니다.
AI의 중요한 프로토콜이 사용하기 더 쉬워지면서, AI 기술의 발전을 더욱 촉진할 것으로 예상된다. 새로운 시스템은 서버 측에서 세션 ID에 대한 접근 방식을 개선한다.
알파벳(Alphabet)은 구글의 모기업으로, Gemini 모델을 훨씬 효율적으로 작동시키기 위해 새로운 칩을 개발하고 있는 것으로 알려졌다.
트럼프 행정부의 AI 표준과 혁신을 위한 센터(CAISI)의 사령관이 두 번째로 사임했습니다. 이는 이전 사령관인 David Sacks가 퇴임한 후 CAISI 사령관의 자리에서 교체가 잦은 것으로 보입니다.
주식 투자에서 가장 안전한 방법 중 하나로 소개되는 인덱스 펀드(index fund)가 있습니다. 개인적으로 선정하는 주식에 투자하는 것이 아니라, 시장 전체에 투자하는 방식입니다. 그런데 스페이스X(SpaceX) 같은 회사 - 굉장히 큰 베팅이며, 저의견에 따르면 너무 과도하게 비싼 가격 -가 나스닥 100(Nasdaq-100)에 빠르게 등재되는 경우에, [...]
Sony Music Entertainment이 우디오의 AI 음악 생성기를 30,000 곡의 저작권 침해로 고소했다. 이 소송은 엘비스 프레슬리의 '하운드 도그'부터 비욘세의 '세이 마이 네임'까지 하リー 스타일스의 '어즈 이트 와즈'까지 다양한 아티스트의 노래를 포함한다.
오늘의 이메일 뉴스레터 '다운로드'의最新편입니다. 이 뉴스레터는 매일 화요일, 수요일, 목요일, 금요일에 발행되며, 기술 분야에서 무슨 일이 일어나는지 알려줍니다. 인공지능은 인간보다 채용 시 편견을 더 많이 갖습니다. 다음에 취업을 하려고 할 때, 인공지능은 인간보다 먼저 이력서를 검토할 수 있습니다. 하지만...
유튜브는 AI가 생성한 영상이나 저품질 영상을 광고 수익으로 얻을 수 없다고明確히 정의하는 광고 수익 정책을 업데이트했다.
어도비의 실험적인 카메라 앱이 뜻밖의 방향으로 나아간다. 어도비는 지난해 SLR처럼 보이게 해주는 아이폰 사진 촬영을 위한 프로젝트 인디고(Project Indigo)를 출시했는데, 이제 인디고 카메라 앱은 대규모 언어 모델(LLM)과 같은 강력한 생성 AI 도구를 탑재하고 있다. 어도비는 이 변경사항이 어도비의 자체 파이어플라이 AI 모델에 의존하지 않다고 설명하고 있다.
Meta가 OpenAI를 인수하기로 결정한 이유는? Meta는 OpenAI의 인공지능 기술을 확장하고 보다 안전하고 지속 가능한 방식으로 사용하기 위해 OpenAI를 인수하기로 결정했다고 밝혔다. Meta는 OpenAI의 연구 및 개발을 지원하고, OpenAI의 제품과 서비스를 확장하기 위해 자원과 기술을 투자할 계획이라고 밝혔다. Meta는 또한 OpenAI와의 협력을 통해 OpenAI의
다음에 일자리를 찾을 때, AI는 당신의 이력서를 인간이 먼저 본 후에야 보게 될 것이다. 그러나 AI가 당신을 공정하게 판단할 수 있을까? 연구원들은 이미 대규모 언어 모델(LLM)가 훈련 데이터에서 인간 편견을 배우게 된다는 것을 알고 있다. 새로운 연구는 LLM가... 훈련 데이터가 아닌 다른 곳에서도 편견을 개발할 수 있음을 제안한다.
중국은 미국의 AI 기술을 위협하는 강력한 모델을 발표하고 있다. 중국의 두 대기업, 모노샷(Moonshot)과 알리바바(Alibaba)는 오ープ엔아이(OpenAI)와 앤토픽(Anthropic)의 모델과 경쟁할 수 있는 AI 모델을 개발했다. 이러한 발표는 미국의 AI 기술 지배력을 위협하는 중이다.
대규모 언어 모델(LLM) agent는 compact하고 잘 정의된 시나리오에서 강력한 추론 능력을示산하지만, 대규모, 다양한, 그리고 동적 세계 환경에서 TOOL INTEGRATION이 필요할 때에는 강도와 효율성이 유지되지 않는다. 이 격차를 해결하기 위해 우리는 TOOLVERSE라는 통합 framework를 도입한다. TOOLVERSE는 대규모 TOOL-INTEGRATED REASONI
LEED v4.1 BD+C 인증은 아직도 문서 집약적인 프로세스로, 검토자들은 수백 페이지의 프로젝트 증거를 읽고 수동으로 크레딧-특정閾치 논리를 적용해야 한다. 이 연구에서는 작고 지역적으로 구축된 언어 모델들이 LEED 문서의 의미 있는 필터링을 수행할 수 있는지, 그리고 결정론적 Symbolic 구성 요소들이 그 작업을 공유하는 방식이 무엇인지 조사한다. 프로젝트 PDF를 LEED 크레
Multimodal 지식 그래프 완성(Multimodal Knowledge Graph Completion, MKGC)은 구조적, 텍스트, 시각적 단서에서 누락된 엔터티를 추론하는 것을 필요로 한다. 기존의 확산 기반 MKGC 방법은 일반적으로 raw multimodal 특징에 직접 노이즈 제거를 한다. 이러한 디자인은 관계에 의존하는 단서 선택, 교차 모드 의미 부합, 구조적 엔터티 생성을
모바일 그래픽 사용자 인터페이스 (GUI) 에이전트는 복잡한 작업을 자동화하는 놀라운 능력을 보여주었지만, 단일 오류로 인한 irreversible 결과를 유발하는 중요한 안전 위험을 야기한다. 기존의 안전 메커니즘은 주로 반응적이고, 실행 전 위험을 평가하는 능력을 갖지 못한다. 본 논문에서는 SeerGuard라는 결과에 대한 안전 프레임워크를 제시하며, 실행 전 지시 단계별 검사와 동작 단계별 위험 평가를 통해 이러한 위험을 완화하고자 한다.
논리와 최적화의 결합은 규칙 기반 인공지능에 귀중한 기여를 할 수 있다. 논리는 규칙 기반을 인코딩하고 추론을 수행하는 데 적합한 매체이며, 최적화는 추론을 계산하는 강력한 기술을 제공한다. 논리와 최적화의 결합은 인공지능의 투명성에 대한 증가하는 관심사로 인해 새로운 중요성을 얻고 있다. 투명성은 재현성, 설명 가능성, 신뢰성, 공정성에 중요하다. 규칙 기반 인공지능은 투명성에 대한 자연스러운 해결책을 제공하고, 오늘날 고도로 발전된 최적화 방법으로 인해 점점 더 실용적으로 보이기 시작했다.
인공지능 시스템이 사회에 더 큰 영향을 미치는 가운데, 그들의 윤리적이고 신뢰할 수 있는 배포를 보장하는 것은 전 세계적인 우선순위가 되었다. 그러나 이러한 프레임워크는 구현 가능한具体한 기구가 부족하여 비판을 받고 있다. 이 연구는 신뢰할 수 있는 인공지능(TAI)의 구현을 위한 도구 및 신뢰 마크 프레임워크에 대한 비판적 분석을 수행하고, OECD의 광범위한 데이터 세트를 기반으로 한다. 이 연구는 대규모 언어 모델(LLM)과 같은 신뢰할 수 있는 인공지능 도구 및 프레임워크의 현재 상태를 조명하고, 구현 격차를 bridging하는 데 필요한 동향을 제시한다.
강화학습 정책은 블랙박스로 작동한다. 정책을 프로로그 프로그램으로 변환하여 설명 가능한 강화학습을 만들 수 있는지 알아보았습니다. 변환 과정을 통해 정책의 행동을 재현하고, 사람도 읽을 수 있고, 논리 엔진도 실행할 수 있으며, 최적화도 가능하게 만들었습니다.