커뮤니티 안전을 위한 우리의 약속: ChatGPT의 모델 보안과 위험 감지
OpenAI는 대규모 언어 모델(LLM)인 ChatGPT의 커뮤니티 안전을 보장하기 위해 다양한 방안을 취해 왔습니다. 모델 보안, 위험 감지, 정책 집행, 그리고 안전 전문가와의 협력을 통해 커뮤니티 안전을 유지하고 있습니다.
460개의 기사
OpenAI는 대규모 언어 모델(LLM)인 ChatGPT의 커뮤니티 안전을 보장하기 위해 다양한 방안을 취해 왔습니다. 모델 보안, 위험 감지, 정책 집행, 그리고 안전 전문가와의 협력을 통해 커뮤니티 안전을 유지하고 있습니다.
OpenAI는 인텔리전스 시대 보안 강화를 위해 AI-powered 보안 방어의 민주화를 목표로 5가지 전략을 제시했다. 이 전략은.args critical 시스템을 보호하기 위해 집중하고 있다.
OpenAI는 Stargate를 확장하여 AGI를 구동하는 컴퓨팅 인프라를 구축하고, 성장하는 AI 수요를 충족하기 위해 새로운 데이터 센터 용량을 추가했습니다.
OpenAI의 프라이버시 필터를 사용하여 대규모 언어 모델(LLM) 기반 웹 앱을 구축하는 방법에 대해 알아보겠습니다. 프라이버시 필터를 사용하면 웹 앱의 확장성을 높일 수 있습니다.
개인 데이터를 보호하고 AI 모델을 안전하게 유지하기 위해 '추출' 기술이 중요한 역할을 하고 있다. 이 기술은 대규모 언어 모델(LLM)과 같은 고급 AI 모델을 보다 효율적으로 학습시키고 보안을 강화하는 데 도움이 된다.
OpenAI는 ChatGPT 계정에 대한 추가적인 옵트인 보호를 출시하고 있습니다. 이 새로운 보안 이니셔브에는 보안 키 제공업체 Yubico와의 파트너십이 포함됩니다. 이 새로운 보안 기능은 사용자가 자신의 계정에 대한 추가적인 보호를 제공하는 데 도움이 될 것입니다.
오픈AI는 대규모 언어 모델(GPT-5.5 Cyber)을 처음에 '중요한 사이버 방어자'에게만 제공할 예정입니다. 오픈AI는 사이버 공격 예방을 위한 도구를 개발했습니다. 하지만, 이 도구를 제한하는 조치는 Anthropic의 'Mythos'를 제한한 것과 비슷합니다.
엘론 무스크가 미국 캘리포니아의 연방 법정에서 증언한 결과, 그의 인공지능 스타트업인 xAI가 오픈 AI의 모델을 사용해 Grok을 훈련했다고 확인했다. 이 문제는 모델 추출(model distillation), 하나의 더 큰 인공지능 모델이 다른 더 작은 모델에게 지식을 전달하는 '선생' 역할을 하는 산업 일반 관행에 관한 것이다.
오픈AI는 고블린과 같은 동물이나 몬스터에 대한 참조를 피하는
마이크로소프트와 오픈에이아이의 파트너십이 끝났습니다. 이 파트너십은 여러 차례의 계약 재정의와 인프라 구축에 대한 불만 등으로 긴장감을 불러일으켰습니다. 하지만 Against all odds, 마이크로소프트와 오픈에이아이는 이 파트너십을 끝냈습니다.
Runway는 AI-generated 비디오 기술에서 혁신적인 도구로 급격히 변모하고 있다. 이 뉴욕 기반 회사에는 860만 달러가 넘는 자금이 투입되어 5.3억 달러의 평가로 도약했다. Runway의 모델은 세계 최고의 연구소와 경쟁력을 보여주고 있다. 구글과 OpenAI를 포함한 세계 최고의 연구소와 경쟁력을 보여주고 있다.
마이크로소프트는 오픈AI의 기술을 클라우드 고객에게 제공할 수 있으며, 이를 위해 어떠한 비용도 지불하지 않습니다. 나들라 사장은 "이 기술을 충분히 이용할 계획입니다."라고 밝혔습니다.
엘론 무스크가 자신의 트윗에서 벗어날 수 없는 선상에 서있다. 그는 오픈 AI를 법적으로 해체하려고 하는 시도를 위해 두 번째 날에 증인으로 출두했다.
마스 대 알트만 사건이 진행 중에 있으며, 이에 따라 법정에서 제시할 증거 중 일부가 공개되고 있습니다. 현재까지 공개된 증거는 이메일 교환, 사진, 그리고 오픈에이아이의 초기 시절부터 시작된 기업 문서 등이 포함됩니다. 이 중 일부 주요 사실은 다음과 같습니다.
캐나다 투블러 리지 학교 총격 사건에서 부상 또는 사망한 7가족이 오픈 AI와 이사 사무총장 샘 얼트만을 상대로 소송을 제기했습니다. 그들은 회사와 리더십이 의심되는 총격자들의 ChatGPT 활동에 대해 경찰에 경고하지 않아.negligence로 인한 결과라고 주장합니다. 그들은 오픈 AI가 시스템이 활동을 경고한 후 침묵을 지키고 있다고 주장합니다. 그들은 오픈 AI가 주요 동기인 이익을 추구하기 위해 상업적 목적을 위해 ChatGPT를 사용했으며, 이는 사용자들의 안전을 위협했다고 주장합니다.
마스쿠스는 이전 인터뷰와 베스트셀러 전기에서 이야기한 것과 같이, 오래된 친구의 이야기를 재거했다. 재판에서 처음으로 진술한 것이었다.
에이마존은 오픈AI가 마이크로소프트와 독점권을 끝내자마자 AWS에서 새로운 오픈AI 모델 제품을 발표했습니다. 이 제품들은 대규모 언어 모델(LLM)과 같은 최신 기술을 사용합니다. 새로운 에이전트 서비스도 포함됩니다.
엘론 머스크와 오픈AI CEO 샘 알트만이 법정에 나선 오픈AI의 미래에 대한 충돌이 일어날 예정입니다. 이 사건은 기술 세계의 미래에 큰 영향을 미칠 것으로 예상됩니다.
마이크로소프트와 오픈AI는 관계를 재구성했다. 마이크로소프트는 더 이상 오픈AI에 수익 공유를 지불하지 않지만, 오픈AI는 마이크로소프트에 모델 액세스와 Azure 서버 서비스의 첫 번째 거부권을 유지할 것이다. 하지만 오픈AI는 다른 CSP와도 작업할 수 있다.
엘론 마스쿠스와 오픈AI가 주목받는 법정 싸움에 나선다. 이 싸움은 AI의 초기 시절에 대한 주장과 보상, 그리고 더 많은 것에 대한 권리와 자산을 놓고 벌어지는 것이 될 것이다. 법정에서 나온 정보는 다음 몇 주 동안 중요 인물들의 비밀을 드러내는 것을 포함할 것이다.
판사들의 판단: LLM-as-a-Judge 파이프라인에서 편향 완화 전략의 체계적 평가 연구자들은 언어 모델의 출력을 평가하는 데 사용되는 LLM-as-a-Judge 패러다임에 대한 한계를 발견했다. 연구자들은 LLM 판사들이 시스템적인 편향을 보이며 평가의 신뢰성을 저하한다고 밝혔다. 연구자들은 네 개의 제공사(구글, Anthropic, OpenAI, Meta)에서 다섯 개의 판사 모델(Google, Anthropic, OpenAI, Meta, Meta)과 세 개의 벤치마크(MT-Bench n
엘론 뮤크와 오픈 AI 사장 샘 알트만이 법정에 서게 됩니다. 오픈 AI가 IPO를 앞두고 있는 가운데,-court에서 이 회사가 대규모 언어 모델(LLM)과 같은 AI 기술을 상업적으로 사용할 수 있는지 결정할 수 있습니다.
오픈AI는 마이크로소프트와의 정상적인 협력관계를 유지할 수 있게 되었다. 오픈AI는 마이크로소프트가 주식의 상당 부분을 보유하고 있는 상태였기 때문에, 마이크로소프트의 반대여부에 따라 AWS에서 제품을 판매할 수 있는 여부가 결정되었다. 하지만 마이크로소프트와의 협의를 통해, 오픈AI는 AWS에서 제품을 판매할 수 있게 되었다.
마이크로소프트와 오픈AI의 파트너십은 더욱 불확실해졌고, 몇 년 동안 그들의 계약의 미래를 결정한 인공 일반 지능(AI) 관련 조항이 공식적으로 삭제되었다. 마이크로소프트는 오픈AI의 주요 클라우드 파트너로 남을 것이며, 오픈AI 제품은 마이크로소프트 클라우드에서 출시될 예정이다.