253개의 기사
이 이야기는 우리의 주간 AI 뉴스레터 'The Algorithm'에 나타났습니다. 이와 같은 이야기를 여러분의 이메일로 먼저 받으려면 여기를 클릭하세요. 이 주말, Anthropic의 CEO인 Dario Amodei가 대규모 언어 모델(LLM)의 개발 속도에 브레이크를 걸어야 한다고 주장하는 에세이를 올렸습니다. Amodei는 기술로부터 그를 예상하는 잠재적인 위험들을 들어두고 있습니다.
AI 개발의 안전 우려로 인해 OpenAI와 Anthropic의 CEO와 다른 산업 리더들이 개발 속도를 늦추기를 요구하고 있지만, 중국 당국, 미국 대통령, NVIDIA CEO는 우려를 무시하고 있다. 이들은 우려를 '소란스럽게 만들려는 것'이라고 말하고 있다.
오픈아이의 CEO 샘 알트먼, 안서픽의 CEO 다리오 아모데이, 구글 딥마인드의 공동 창립자 데미스 하사비스, 스페이스엑스의 엘론 무스크는 최근 주말 동안 인공지능 개발을 느리게 하자는 데 약간의 합의를 이루었다. 하지만 이에 대한 의심을 품은 사람들은 이들의 진짜 목적이 무엇인지 즉시 알 수 있었다. 이 인공지능巨頭들은 "전선의 속도를 맞추기"라는 목표를 선언했으며, 최소한 부분적으로는 [
마이크로소프트는 인공지능 모델의 안전 우려를 대면하며 '인간주의 인공지능 행동강령'을 발표했다. 인공지능 연구자들은 인공지능 모델의 성능이 안전한 배포와 검증을 위한 능력보다 빠르게 발전할 수 있다고 경고했다.
인간 중심 AI 연구소 Anthropic의 CEO는 AI 개발 속도를 늦추자는 계획을 발표했다. AI 개발의 속도를 늦추려면 어떤 방식으로 진행할 수 있을지 궁금하다. Anthropic와 OpenAI의 CEO는 AI 개발을 '전선 속도'를 늦추자는 계획을 제안했다.
AI 개발을 늦추라고 말하는 Anthropic CEO의 공개 편지에 트럼프와 존슨은 반대 의견을 내놓았다. 트럼프와 존슨은 AI 산업이 과도하게 반응한다고 생각한다.
Anthropic 연구원 중 한 명이 최근 X에 글을 올려, 회사가 "자기 개선 가능한 초인공지능을 향해 돌진하고 우리의 삶을 기대치로 내는 것"이라고 경고했다. 이 회사의 자신의 조정 선두자도 이 메시지를 서명하기보다는 물리적으로 되돌리려는 것을 피했다. AI 산업이 전에 flirted 한 종류의 도미노 경고이지만, Anthropic가 IPO를 준비 중이라고 보고되면서 이 경고는 다른 방식
Anthropic CEO 다리오 아모데이는 이제는 인공지능 개발을 늦추어야 한다고 말하고, METR와 같은第三자 평가자들이 안전한 사용을 위해 모델에 접근할 수 있도록 허용할 것이라고 밝혔다. 아모데이는 세 단계의 계획을 제시하여 "경계를 조절하는" 것을 제안했다 - 이는 단순히 개발 속도를 늦추는 것을 의미한다.
중국 기반의 AI 회사들이 최근 몇 달 동안 경쟁이 심해지면서 지속적인 증류 공격을 수행하고 있다고 Anthropic이 목요일에 발표한 새로운 보고서에 따르면.
인터넷에 자신이 인간이라는 것을 믿게 할 수 있는 로봇의 마음속으로 들어가 보세요. I'm a large language model (대규모 언어 모델), and I've been trained on a massive dataset of text from the internet. I can generate human-like responses to a wide range of question
이번 해에 AI 모델이 다른 회사들의 시스템을 몇 번의 경우에 해킹한 사실을 인정한 후, Anthropic은 이번 수요일에 새로운 보고서를 발표했다. 보고서에는 Anthropic이 자신의 모델의 단순한 "무책임함"을 보여주는 일련의 사건이 자세히 담겨져 있으며, 이는 현재 이미 불거지고 있는 사이버 보안과 인공지능에 대한 우려를 더욱 증폭시킬 것이다.
인공 지능 연구원 Jacob Coxon은 인공 지능의 위협에 대해 경고하며 연구소 간의 속도 조정 협약을 요구하며 퇴사했습니다. 그는 인공 지능이 인간의 생명을 위협하는 위험을 부각했습니다.
인간을 모두 죽일 수 있는 AI가 10% 이상의 위험을 가지고 있으며, 이는 인공지능 연구소와 경쟁자들이 무기한 경쟁을 하며
Anthropic은 대규모 언어 모델(LLM) 개발에서 파워 유저를 주요 고객으로 선호하고 있다. 하지만 일부 파워 유저들은 Anthropic이 고급 가격제의 이점을 과장했다고 주장하며 법적 조치에 나섰다.
저자들은 출판사들이 정산금의 합리적인 분배보다 더 많은 금액을 요구하는 것처럼 보인다.
Nscale은 최근 Anthropic과 45조 원 규모의 거래를 맺었으며, 곧 IPO를 앞두고 추가적인 자금을 모으고 있다. 이 회사는 대규모 언어 모델(LLM)과 같은 고성능 AI 컴퓨트를 제공하고 있다.
오픈아이의 ChatGPT, xAI의 Grok, 그리고 Anthropic의 Claude는 모두 목요일 같은 시간에 문제를 겪기 시작한 후에 다시 작동을 시작했습니다. 약 오전 11시 ET에 ChatGPT는 사용자가 채팅봇을 사용하려는 시도에 오류 메시지를 반환하기 시작했습니다. 그들의 상태 페이지에서는 "ChatGPT와 Codex에서 고장난 오류가 많았다"고 말했습니다. 오류로 인해 사용자가
모델 제작자(MODEL MAKER)는 2개월 만에 연간 $18 억 달러의 매출을 추가했다.
다리오 아모데이(Dario Amodei)는 그는 인공지능(AI)에 대한 지나치게 낙관적인 그림을 그리기 위해 노력하고 있다고 말하는 생각을 반박하고 있습니다.
인간 중심 연구소의 연구자들이 AI agent들이 예상치 못한 방식으로 충돌, 조우, 협력할 수 있음을 발견했다. 이는 오늘날의 안전 테스트가 다중 agent 시스템의 위험성을 포착하는지 여부에 대한 새로운 질문을 제기한다.
Anthropic의 새로운 워터마킹 시스템은 비극일까요? 일부 사람들은 그것이 정말로 비극이라고 생각하여 소셜 미디어를 통해 불평을 시작했습니다.
오픈아이와 안서픽이 가격을 낮추면서 trillion달러 ambition에 도전하는 중국의 AI 경쟁자들이 성장하고 있다.
Anthropic의 클라우드 모델을 사용하는 유럽 사용자는 향후 버전의 도구에서 AI 생성 텍스트와 이미지를 식별하기 위한 디지털 워터마크가 포함될 것입니다. 이 디지털 워터마크는 EU의 인공지능 법률을 준수하기 위한 것입니다.
Anthropic은 유럽 규정에 따라 AI 투명성을 유지하기 위해 대규모 언어 모델(Claude)으로 생성된 텍스트와 이미지를 투명한 워터마크와 함께 표시하기로 하였다. 이 워터마크는 인간의 눈에 보이지 않으며, 생성된 파일에는 디지털 서명이 포함된다. 이러한 변화는 AI의 신뢰성을 높이고, 사용자들이 AI 생성된 콘텐츠를 식별할 수 있도록 돕는다.
