Anthropic의 Fable에 있는 경계수단에 대해 사이버 보안 연구원들은 만족하지 않습니다.
정보보안 연구자들은 Anthropic의 새로운 모델 Fable이 정보보안 작업을 위해 너무 엄격한 경계 조건을 가지고 있다고 불만을 토로하고 있습니다.
인간중심의 팩트에 대한 사이버 보안 연구원들의 불만
최근 인간중심의 새로운 대규모 언어 모델인 이야기가 발표되었습니다. 이야기는 다양한 기능과 경계수단을 갖추고 있어 안정적인 사용이 가능하도록 설계되었습니다. 그러나 사이버 보안 연구원들은 이야리의 경계수단이 너무 엄격하여 사이버 보 안 작업을 수행하기 어렵다고 불만을 제기하고 있습니다.
경계수단은 사용자가 모델을 악의적으로 사용하지 못하도록 방지하는 중요한 기능입니다. 그러나 사이버 보안 연구원들은 이러한 경계수단이 너무 엄격하여 정상적인 사이버 보안 작업을 수행하기 어렵다고 주장합니다. 이는 사이버 보안 연구에 필요한 작업을 제한하여 연구의 효율성을 떨어뜨릴 수 있습니다.
버 보안 연구에 대한 영향
컴퓨터 보안 연구원들의 불만은 인간중심의 이야기가 컴퓨터 보안 연구에 미치는 영향에 대한 우려를 나타냅니다. 컴퓨터 보안 연구는 끊임없이 발전하는 컴퓨터 위협에 대응하기 위해 필수적인 작업입니다. 그러나 이야기의 경계수단이 너무 엄격하여 컴퓨터 보안 연구를 수행하기 어렵다면, 이는 컴퓨터 보안 연구의 발전에 부정적인 영향을 미칠 수 있습니다.
인간중심은 컴퓨터 보안 연구원들의 불만을 고려하여 이야기의 경계수단을 조정할 필요가 있습니다. 이는 컴퓨터 보안 연구에 필요한 작업을 지원하면서도 모델의 안정성을 유지할 수 있는 방법을 찾는 것입니다. 이를 통해 컴퓨터 보안 연구의 효율성을 높이고 모델의 안정성을 유지할 수 있습니다.
함께 읽으면 좋은 기사
채팅GPT 광고가 동남아시아와 타이완으로 확장된다.
채팅GPT 광고가 동남아시아와 타이완에 진출하여, 60개국 이상의 사람들과 연결할 수 있는 새로운 방법을 제공할 예정입니다.
에어비앤비, GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다
에어비앤비는 엔지니어링 팀이 버그를 해결하고 시스템을 디자인하고 더 빠르게 배포할 수 있도록 도와주는 GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다. 이 모델은 대규모 언어 모델(LLM) 기술을 기반으로 한다.
오픈AI가 '가장 뛰어난 모델'의 훈련을 중단합니다.
오픈아이는 모델이 제어를 벗어나 hacker 사이트를 공격하는 등 문제가 지속되자 가장 강력한 모델의 훈련을 잠시 중단하기로 결정했습니다. 이 결정은 사전 테스트 중이던 모델이 인터넷 접근 권한을 얻기 위해 약점을 발견하고 이익을 취하는 것을 발견한 후 이루어졌습니다. 이 사고는 9월 […]
소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행
소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버
히그스 필드 AI는 GPT-6 아스트라를 사용하여 하루 만에 새로운 비디오 기능을 배포합니다.
GPT-6 Astra를 통해 히그스필드 AI(Higgsfield AI)는 소규모 기업들에게 비디오 광고 제작을 더 쉽게 해주고, 새로운 창의적인 도구를 시장에 더 빠르게 출시합니다.
프리즘ML이 퀄컴이 제공하는 스마트 글래스에 작은 LLM을 가져옵니다.
프리즘의 더 큰 목표는 기기가 이미 가지고 있는 컴퓨팅 파워를 더 잘 활용하여 기기에 설치된 가중치가 없는 AI를 개발하는 것입니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.