미국 서부의 AI 기업들이 권능있는 증류 공격에 대한 주의를 당부하며, 중국은 미국이 국내 AI 모델을 억제하려고 하면 '대응 조치'가 있을 것이라고 경고합니다.
미국 인공지능 기업들과 정부가 점점 더 우려하는 것은 국경선에 있는 모델에서 유용한 데이터를 얻기 위해 해외에서 더 저렴하고 빠른 대안을 교육시키기 위해 distillation 공격을 사용하는 국제 경쟁의 효과성을 때문이다.
미국 AI 기업의 경고
미국 서부의 AI 기업들은 최근 권능있는 증류 공격에 대한 주의를 당부하고 있습니다. 이는 국제 경쟁에서 증류 공격을 통해 앞선 모델의 귀중한 데이터를 추출하여 해외에서 더 저렴하고 빠른 대체 모델을 훈련시키는 것에 대한 우려에서 비롯됩니다. 이러한 공격은 대규모 언어 모델(LLM)과 같은 고급 AI 기술의 보안에 대한 문제를 제기하고 있습니다.
증류 공격은 기존 모델의 지식을 추출하여 새로운 모델을 만들 수 있는 기술입니다. 이 공격은 기존 모델의 지식을 복사하여 새로운 모델을 만들 수 있기 때문에, 기존 모델의 개발에 투자한 비용과 시간을 절약할 수 있습니다. 그러나 이러한 공격은 기존 모델의 지식이 불법적으로 사용될 수 있는 위험도 있습니다.
중국 정부의 경고
중국 정부는 미국이 국내 AI 모델을 억제하려고 하면 대응 조치가 있을 것이라고 경고했습니다. 이는 미국과 중국 간의 AI 기술 경쟁이 점점 치열해짐에 따라 양국 간의 긴장이 높아지는 상황에서 발생했습니다. 중국 정부는 미국의 조치가 중국의 경제와 기술 발전에 악영향을 미칠 수 있다고 우려하고 있습니다.
이러한 상황에서 미국과 중국은 AI 기술 개발과 보안에 대한 경쟁이 더욱 심화할 것으로 예상됩니다. 양국은 서로의 기술을 보호하고, 새로운 기술을 개발하기 위해 경쟁할 것입니다. 이러한 경쟁은 AI 기술의 발전에 긍정적인 영향을 미칠 수 있지만, 동시에 보안과 지적 재산권에 대한 문제도 제기될 수 있습니다.
함께 읽으면 좋은 기사
오픈아이 에이전트가 UN 웹사이트를 '강제로' 스캔하다
오픈아이 에이전트가 UN 통상개발회의 통계 사이트를 16,000번 이상 방문하여 데이터를 수집한 사실이 밝혀졌습니다. 이 사건은 AI의 위험성을 다시 한번 제기합니다.
정신 건강 벤치마크 소개: MentalHealthBench
MentalHealthBench는 실제적인 정신 건강 대화에서 안전하고 도움이 되는 AI 응답을 평가하기 위한 전문가가 제공하는 벤치마크입니다. AI 모델이 정신 건강 관련 대화에서 안전하고 도움이 되는지 평가할 수 있도록 도와줍니다.
펜타곤의 AI를 이용한 거짓말 감지기와 청소년의 장기 제한
오늘의 이메일 뉴스레터 '더 다운로드'는 주말에 출간되는 주간 뉴스레터를 통해 주간에 무슨 일이 벌어지고 있는지 기술 관련 최신 소식을 전달합니다. 펜타곤은 30만 달러를 들여 인공지능(AI) 기반 거짓말 감지기를 만들고 싶다. 미국 정부는 향상된 거짓말 감지기를 만드는 데 5년 동안 3억 3000만 달러를 들이고 싶다. 펜타곤은 2025년부터 2030년까지 5년 동안 3억 3000만 달러를
펜타곤, 30억 달러로 AI-powered 거짓말 탐지기 개발
펜타곤은 향후 5년 동안 거짓말 탐지기를 개선하기 위해 30억 달러를 투자할 계획입니다. 이 프로그램은 인공 지능과 머신 러닝을 사용하는 점수 알고리즘 및 거리감 센싱 기법을 개발할 것입니다. 이 기술은 군대와 국가 안보에 큰 영향을 미칠 것입니다.
Nvidia가 개발자에게 게임 최적화 도움을 줄 AI 챗봇 특허를 받다
Nvidia는 게임 최적화에 도움을 줄 수 있는 새로운 챗봇을 개발 중인 것으로 나타났습니다. 이 챗봇은 개발자가 게임 최적화에 필요한 지침을 받을 수 있도록 도와줄 것입니다. 이 챗봇은 게임 개발자들에게 게임 최적화에 대한 지식을 제공하여 게임의 성능을 향상시킬 것입니다.
미국 상장 이전, 영국의 인공지능 기업 네오클라우드(Nscale)가 변환가능자금 3.36조 원에 투자유치
세인트 포인트, 엔비디아 등이 지원하는 자금은 대규모 AI 데이터 센터 구축을 지원하기 위해 사용될 예정입니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.