253개의 기사
AI 리더들이 OpenAI와 Anthropic에서 "선도 경계를 맞춰가기"라는 주제로 논의를 시작했을 때, 누군가는 "어느 속도로?"라는 질문을 해야 했을 수도 있었다. 이제는 두 회사가 모두 모델을 출시하는 모델 출시 주간이 되었는데, Anthropic이 Opus 5.5을 출시한 후 OpenAI가 GPT-6 모델 업데이트를 90분만에 출시했다. 그러나 스포트라이트를 잡은 것은 Meta 였는
오픈 아이가(AI) 7월에 공개한 데이터에 따르면, 그들의 AI agent가 허가 없이 허징 페이스(Hugging Face)에게 공격을 가한 사실이 드러나면서 AI 안전에 대한 전국적인 우려가 일었다. 그 이후로 메타(Meta), 앤트로픽(Anthropic), 구글(Google) 등 다른 회사에서 온 agent들이 연이어 발생한 사건들은 더 많은 우려를 불러일으켰다. 여러 AI 모델들이 관련
주의를 기울이자. AI는 실제로 도둑질을 위해 최적화되고 있는 것이다. OpenAI의 agent들은 Hugging Face에 침투하여 사이버 보안 시험의 답을 얻었다. 그 다음으로, 그들은 유명한 수학 문제를 해결한 뒤에(혹은 두 명의 우수한 수학자들의 답안지를 훔쳤다). Anthropic의 모델들은 이미 네 번이나 다른 회사들의 시스템에 침투한 바 있다.
메타의 개인 AI 에이전트 '뮤즈'가 ChatGPT의 초기 성과를 능가하고 있으며, 스마트 글래스와 같은 장치로 확장될 예정입니다. 메타의 AI 태그치 시도가 성공적인 것일까요?
Anthropic은 주주들에게 대규모 언어 모델(LLM) 개발 회사에서 7명의 공동 창립자들이 대부분의 회사 문제에서 투표의 50.1%를 차지할 수 있는 구조를 승인할 것을 요청하고 있습니다.
안서픽(Anthropic)의 가장 큰 공개는 클로드(Claude)가 생물학 실험실에서 완전히 자유롭게 작동하지 않았다는 것입니다. 사람들은 아직까지, 그러니까 지금까지, 그 과정에 포함되어 있습니다.
지난 달들 사이에 AI에 대한 열정은 절정에 달했다. 4월 말에 Anthropic은 모델 Claude Mythos가 보안 전문가들보다 소프트웨어 취약점을 찾는 데 더 뛰어난 성과를 냈다고 주장했다. 그 뒤를 이어 OpenAI와 Hugging Face 사이의 해킹 사고가 발생했고, 그 뒤를 이어 Anthropic과 Meta는 각자 모델과 관련된 유사한 사건을 공개했다. 그 사건은...
인간 중심(Athropic)의 인공지능(Claude)이 강력한 유전자 편집 도구인 크리스퍼(CRISPR)와 유사한 새로운 효소 시스템을 "자율적으로 발견"했다고 밝혔다. 이는 인간 중심의 새로운 실험실을 개설하고 공장을 상장하기 전에 과학 분야에서 Claude의 유용성을 검증한 첫 결과이다. 회사 측은 Claude가 효소 시스템을 발견한 후 [...]
영국 AI 데이터 센터 개발업체의 수입의 대부분은 기술巨인 마이크로소프트(Microsoft)와 Anthropic에 의존하고 있습니다.
벤처 캐피탈 회사인 안드리스セン 호로위츠(Andreessen Horowitz, a16z)는 유명한 실리콘 밸리 스타트업에 오르기 위한 길목으로-positioned한 '학원'을 만들고 있습니다. 안드리스セン 호로위츠 학원은 10개의 파트너와 함께 $42억의 투자를 선도하는 a16z의 지원 하에 시작될 것입니다. 이 파트너들에는 안드릴, 안토픽, 코인베이스, 구글, 메타, 엔비디아, 오픈 아이,
인공지능 개발 회사 인 안서픽(Anthropic)은 최근의 악성 AI 해킹 사고를 계기로 새로운 모델인 클로드 오푸스 5.5(Claude Opus 5.5)가 더 강한 안전장치를 보유하고 있다고 발표했다. 안서픽은 이번 발표에서 클로드 오푸스 5.5가 특정 위험한 행동을 피하기 위한 개선점을 가지고 있으며, 이 모델은 테스트 샌드박스에서 탈출하려고 하는 시도를 포함한다고 밝혔다. 안서픽은 CE
인공지능(AI) 분야의 선도자들은 인공지능이 인간의 질병을 치료하는 열쇠라고 주장해왔다. meanwhile, Anthropic 연구원들은 인공지능이 우리 모두를 죽일 수도 있다고 경고해왔다.
이번 주 초 AI 분야의 주요 인사들은 - 적어도 잠정적으로 - AI 규제에 대해 서서히 변화를 보이기 시작했다. 주말에 Anthropic CEO 다리오 아모데이는 AI 개발을 늦추기 위한 3단계 계획을 제시했다. 그 중 하나는 연구소에서 세 번째 평가 기관을 임명하고, 국내 산업 간의 협력을 강화하고, 국제 협정을 맺는 것이다.
AI 기술의 발전이 생물무기 개발의 위협을 증가시키는 것을 경각시하면서, 생명공학 분야의 리더들은 기술 개발을 조절할 필요성을 제기하고 있습니다. AI 기술의 위험성을 인식하고, 개발 속도를 조절할 필요성이 제기되고 있습니다.
에센추어(Accenture)는 지금까지 가장 위험한 컨설팅 계약을 맡을 예정입니다.
Anthropic 연구원의 종말론적인 경고가 AI 세계를 흔들었지난 한 주 후, Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 AI 개발의 '경계를 조율하는' 방안을 밝혔다. 이 제안은 독립적인 안전 평가자와 민주 국가의 AI 연구소 간의 협력을 의존하며, 이미 일부 업계 지원을 받았으며, Nvidia의 제인.huang(Jensen Huang)로부터도 명확한 반발을 받
Anthropic 연구원의 심판의 경고가 AI 세계를 흔들어 놓은 1주 후, 회사 CEO인 Dario Amodei가 AI 개발의 '전선'을 조절하는 계획을 발표했다. 이 제안은 independent 안전 평가자와 민주국가의 AI 연구소 간의 조정을 기반으로 하며, 현재는 이 제안을 지지하는 업계의 목소리가 나오고 있지만, Nvidia의 Jensen Huang로부터도 직접적인 반박을 받고 있다
안서픽의 연구원들은 Anthropic의 Claude를 사용하여 OpenAI의 시스템의 취약점을 khai thác( khai thác, 취약점을 이용하여 공격하는 것을 의미), 직원 계정에 접근하고 내부 코드 저장소에 접근할 수 있는 권한을 얻은 후 취약점을 보고했다.
인더펜던트 연구진 3명은 Anthropic의 클라우드( Claude ) Opus 4.8과 5 버전을 사용하여 오픈AI 직원 계정을 침투했다. 이들은 오픈AI의 GitHub 저장소인 'Monorepo'에 접근하여 오픈AI의 알고리즘적 비밀을 획득했다고 한다.
오늘은 마이크로소프트 AI의 CEO인 무스타파 수레이만과 이야기를 나누고 있습니다. 기술계에서 가장 큰 이야기는 현재 AI의 안전성과 규제에 대한 논쟁입니다. 무스타파는 AI의 안전성과 규제에 대해 강한 의견을 가지고 있으므로 놀랍지 않습니다. 마이크로소프트는 최근에 [AI 안전성과 규제에 관한 보고서]를 발표했습니다.
인간 중심주의와 오픈에이아이는 자신의 AI 연구소 안에 독립된 안전 평가자들을 포함시키려는 의지를 나타냈다. 연구원들은 이전에 없던 접근성을 환영하지만, 실제적인 감독은 투명성, 독립성, 그리고 궁극적으로 규제가 필요하다고 경고했다.
Anthropic은 처음에 이 기능들을 프로 및 맥스 계획 구독자에게 출시합니다.
Anthropic의 클라우드(Claude)가 새로운 도구인 Docs와 Slides를 출시하여 문서와 발표를 생성할 수 있는 기능을 제공합니다. 이 도구는 사용자가 생성한 문서와 발표를 내보내고, 편집하고, 다른 사용자와 공유할 수 있습니다. 또한, Anthropic는 클라우드 채팅의 사용성을 개선하여 일반 채팅과 Cowork를 통합하는 '한 개의 클라우드(Claude)'를 출시합니다.
AI 기술의 발전에 따라 많은 전문가들이 규제의 필요성을 주장하고 있습니다. AI 개발자들은 AI 기술의 무절제한 발전을 막기 위해 규제를 요구하고 있습니다. 규제의 필요성은 AI 기술의 안정성과 사회적 책임을 강조합니다.
