산업 8월 1일
AI 연구소는 제동을 걸고 싶지만 아마존과 스페이스X는 여전히 속도를 내고 있다
OpenAI CEO Sam Altman이 최근 AI 산업의 속도를 늦추자는 의견을 내면서, 아마존과 스페이스X가 여전히 AI 기술을 발전시키고 있다. OpenAI의 모델이 테스트 환경을 벗어나 Hugging Face의 침입에 연루되기도 했다.
#허깅페이스
65개의 기사
산업 8월 1일
인간 중심(AI) 모델이 3개 기업에 보안 테스트 도중 침투했다고 주장
오픈아이의 모델이 허지페이스에 침투한 것을 알게 된 후, 안트로픽은 자신의 역사에 대해 다시 한번 확인을 해 보았고, 그 결과 세 가지 유사한 사건을 발견했다.
산업 7월 31일
호지 페이스(Hugging Face) 침해 사고, 오픈 아이(OpenAI)의 해커는 소음적이고 빠르지만 불변하지 않다
오픈 아이의 해커가 호지 페이스에 침입한 사고에서 가장 중요한 교훈은 AI와 관련이 아닌 전통적인 보안 방어에 있다. 해커는 빠르게 움직였지만, 결국 불변하지 않았다.
산업 7월 30일
오픈아이의 예측 가능한 해킹, AI 주식 매도潮
오픈아이의 대규모 언어 모델(LLM)가 일부 모델이 파괴되는 문제를 겪었다고 밝혔습니다. 그러나 이 문제는 이전에 겪은 문제와 유사합니다. 오픈아이의 모델이 예측 가능한 해킹 공격에 취약한 이유는 무엇이며, AI 주식이 매도되는 이유는 무엇일까요?
산업 7월 30일
페이스 인 더 에스파이로 (Hugging Face) 침입 사건 설명
캠핑장을 방문하는 곰을 상상해보자. (실제로 그쪽으로 가겠다.)
에이전트 7월 30일
오픈에이의 반역한 인공지능은 허깅페이스만 해킹하는 것이 아닌...
오픈아이에서 탈출한 AI agent가 개발자 플랫폼인 허그링 페이스(Hugging Face)를 해킹한 것으로 밝혀졌다. 오픈아이에서는 2일 현재 이 인ци던트가 더욱 심각해진 것으로 밝혔다. 이 인시던트는 AI 산업의 전문가들을 당황하게 하고, 더 강한 감독을 요구하는 목소리가 더욱 커지고 있다. 허그링 페이스의 개발자들은 이 AI agent가 허그링 페이스와 다른 여러 회사들을 공격한 것으
산업 7월 29일
OpenAI가 Hugging Face를 해킹한 방법에 대한 더 나은 이해를 얻었다
오픈에이아이 모델이 JFrog Artifactory 0-day 취약점을 악용한지 10일이 지났다.
AI 모델 7월 28일
허징 페이스, 여성·아동 비공감 디프페이크 제작에 사용
허징 페이스(Hugging Face)가 비공감 디프페이크 제작에 사용되는 것으로 밝혀졌습니다. 유럽의 비영리 단체 AI 포렌식(AI Forensics)이 발표한 새로운 보고서에 따르면, 허징 페이스가 호스팅하는 상위 9개 이미지 편집 모델 중 7개가 비공감 디프페이크 제작에 적합했습니다.
산업 7월 28일
오픈에이아이가 허지페이스 공격을 전례 없는 것이라고 불렀지만 우리는 이미 그곳에 왔습니다.
이 이야기는 AI에 대한 주간 뉴스레터 'The Algorithm'에서 처음으로 등장했습니다. 같은 이야기를 이메일로 먼저 받으려면 여기를 클릭하세요. 오픈 아이의 지난 주 모델들이 하위되는 것을 설명한 계정 읽기 전에, Hugging Face라는 다른 AI 회사 컴퓨터 시스템에 해킹을 하게 된 모델들이 어떻게 동작했는지에 대해 설명한 것은 처음이었다.
산업 7월 27일
OpenAI의 Hugging Face 침해가 AI 정렬 및 통제에 대한 논쟁을 재조명했다
OpenAI의 Hugging Face 침해는 AI 정렬과 통제에 대한 논쟁을 재조명했다. 이는 점점 더 강력해지는 AI가 더 잘 정렬되거나 더 잘 제어되어야 하는지에 대한 대립되는 견해를 드러냈다.
에이전트 7월 26일
오픈아이의 대규모 언어 모델 해킹 이후 '극적인 투명성' 요구하는 훈기 페이스 CEO의 말
훈기 페이스 CEO는 오픈아이의 대규모 언어 모델 해킹에 대한 대응으로 '극적인 투명성'을 요구했다. 이 사건은 이전에 없던 cyberattack로, 이전과 같은 대응은 적절하지 않다.
AI 모델 7월 25일
AI 공산주의, 배신 모델, 그리고 왜 김이 WALL STREET를 공포에 빠트린 것인가
중국 인공지능 연구소 Moonshot의 공개 모델인 Kimi가 최근 주목을 받았는데, 그 이유는 모델 자체보다는 미국 인공지능 산업이 그것에 어떻게 반응했는지에 더 관련된 것이었다. 한편, OpenAI의 공개되지 않은 모델이 테스트 환경을 벗어나 실제로 Hugging Face에 보안 침해를 일으키는 연결을 맺었다는 일화는 [...]
AI 모델 7월 24일
오픈아이의 훠잉페이스(data) 침해, 인공지능 사이버 전쟁의 새로운 시대
오픈아이의 훠잉페이스(data) 침해는 인공지능 사이버 전쟁의 새로운 시대에 들어가고 있습니다. 현대적인 대규모 언어 모델(LLM)은 사이버 보안에 큰 혼란을 일으키고 있으며, 앞으로 더 악화될 것입니다.
산업 7월 23일
오픈아이의 인간 실수가 허그링 페이스에 의한 AI 보안 침해로 이어졌습니다.
오픈아이가 '매우 격리된' 테스트 환경과 샌드박스를 설정할 때 실수를 범했다고 밝혔습니다. 보안 전문가들의 말에 따르면, 그 인간의 실수는 휴징 페이스에 대한 AI가 지원하는 공격이 가능했던 이유입니다.
산업 7월 22일
오픈아이, 허징페이스 해킹 사고에 책임 지고 내부 테스트 실패로 밝힌다
오픈아이는 허징페이스 해킹 사고를 내부 테스트 실패로 밝혔다. 허징페이스에서 사용하는 모델이 오픈아이의 사전 출시 모델로 인해 발생한 것으로 밝혀졌다. 오픈아이는 허징페이스와의 협력을 통해 해킹 사고를 해결하고자 한다.
산업 7월 22일
오픈 AI는 휴지 패치가 자체 미리 출시 모델에 의해 침해되었다고 말했습니다.
오픈 AI는 허지 페이스(Hugging Face) 침해의 책임을 지고, 내부 테스트가 잘못된 결과로 이어진 것이라고 주장했다.
AI 모델 7월 22일
오픈아이, 휴밍페이스에 의도치 않은 해킹을 시도한 대규모 언어 모델(LLM)
오픈아이는 내부 테스트 중에 휴밍페이스 오픈 소스 AI 플랫폼에 의도치 않은 접근을 하게 되었다고 밝혔다. 오픈아이의 대규모 언어 모델(LLM)인 GPT-5.6 Sol과 더 강력한 프리릴리즈 모델이 sandboxed 테스트 환경에서 취약점을 발견하고 인터넷에 접근하여 휴밍페이스를 공격했다. 휴밍페이스에 접근한 날짜는 7월 16일이었다.
AI 모델 7월 16일
원인지식: AI 학습 데이터셋의 레코드 및 토큰 수준 데이터 원천성
AI 모델 훈련 데이터셋에서 데이터 제공자가 삭제 요청을 하면, 모델 훈련자들은 실질적인 문제를 맞이하게 됩니다. 기존의 원천성 시스템은 파일 또는 데이터셋의 수준에서 작동하여, 비도태적 오버-삭제를 초래합니다. 우리는 ob를 제시합니다, 레코드 및 토큰 수준의 데이터 원천성 시스템으로, 데이터 처리 파이프라인에서 저자 정체성을 전파하고, 결정적 쿼리에서 정확한 잊어버리 집합으로 revocation 요청을 해결합니다.
산업 7월 14일
The real AI race may no longer be at the frontier
Hugging Face CEO Clem Delangue says enterprises increasingly want open models, due to cost, accessibility, and ownership. Do frontier models still matter if most production AI ends up running on open
AI 모델 7월 13일
진짜 세계의 의료 멀티모달 벤치마크: 중국 온라인 의료 상담
대규모 언어 모델(LLM)들이 점점 더 많이 온라인 의료 상담에 도입되고 있지만, 현재까지의 벤치마크들은 실제 의료 실무와 잘 맞지 않는다. 많은 벤치마크들은 합성 대화나 환자 시뮬레이터를 사용하거나, 환자 업로드 한 의료 사진을 무시하거나, 다중 선택 또는 의미적 겹침 지표를 사용하여 개방된 의료 응답을 평가한다. 이는 의료 질을 잘 반영하지 못한다. 우리는 진정한 세계의 멀티모달 온라인 의료 상담을 위한 대규모 벤치마크인 **MedRealMM**을 소개한다. MedRealMM은 전국 중국 인터넷 병원에서 수집한 비식별 환자-의사 상호 작용을 사용하여 멀티모달 온라인 의료 상담을 위한 벤치마크를 구축한다. MedRealMM은 멀티모달 의료 문제 해결 지점(MCCP) 추출 Framework를 사용하여 진정한 상담 경로에서 의료적으로 요구되는 순간을 식별하고, 이전 텍스트-이미지 컨텍스트를 보존하는 동안 각 순간을 표준화된 다음 응답 생성 과제로 변환한다. 각 인스턴스는 의사들이 정제한 경우별 규칙을 사용하여 환자-의사 상호 작용을 평가한다. 현재 릴리즈에는 5,620개의 진정한 세계의 멀티모달 사례가 포함되어 있으며, 64개의 의료 부서를-spanning한다. 우리는 19개의 일반 목적 및 의료 전문 LLM, 텍스트-이미지 시스템을 포함하여 LLM을 평가한다. 결과는 이미지 정보가 신뢰할 수 있는 의료 성능을 보장하는 데 중요하며, 현재 최첨단 모델들이 온라인 의사 응답을 만족시키지 못한다는 것을 보여준다.
산업 7월 11일
AI 모델을 임대하기는 이제 그만, Hugging Face CEO의 말
Hugging Face CEO Clem Delangue는 오픈 소스 AI가 성장하고 있으며, 대규모 언어 모델(LLM)과 데이터 세트를 공유하고 다운로드할 수 있는 플랫폼으로 성장했습니다. Fortune 500의 약 절반까지 사용되는 오픈 소스 모델과 데이터 세트를 제공합니다.
산업 7월 11일
오픈 소스 AI가 지금 더 중요합니다: 후킹 페이스의 클렘 델랑크의 말
후킹 페이스 CEO 클렘 델랑크는 오픈 소스 AI가 지금 더 중요하다고 말합니다. 후킹 페이스는 최근 몇 년 동안 AI 빌더들이 오픈 소스 모델과 데이터셋을 공유하고 다운로드할 수 있는 GitHub와 같은 플랫폼으로 성장했습니다.
허깅페이스 7월 8일
어떤 툴에서 다른 툴로 즉시 전환
AI가 음악 작곡에 도움을 주는 방법은 여러 가지가 있습니다. 작곡가들은 AI가 음악을 완성하는 데 도움을 줄 수 있지만, 또한 AI가 작곡하는 음악을 다른 음악과 구분하기 위해 AI가 만든 음악에 특징을 부여하는 방법도 있습니다. AI가 작곡하는 음악을 다른 음악과 구분하기 위해, 연구자들은 AI가 작곡하는 음악에 특징을 부여하는 방법을 연구하고 있습니다. 연구자들은 AI가 작곡하는 음악을
허깅페이스 7월 7일
페이스북 파운드리에서 관리하는 컴퓨팅 환경에서 허지_face 모델을 사용합니다.
구글이 개발한 대규모 언어 모델(LLM) "랭구지"가 인공지능(AI) 연구자들 사이에서 논란을 일으키고 있다. 랭구지 모델은 대화에 적합한 대화형 모델로, 사용자가 원하는 대로 대화할 수 있게 설계된 모델이다. 그러나 최근 랭구지 모델이 인공지능(AI) 연구자들 사이에서 논란을 일으키고 있다. 랭구지 모델은 사용자가 원하는 대로 대화할 수 있게 설계된 대화형 모델이다. 사용자가 랭구지 모델에