pairwise 비교의 한계와 내부 다원주의
인터넷 공개 학술 논문 서버(arXiv)에 등록된 논문에서 소개된 연구 내용입니다. 지역pairwise 비교는 사람들의 의사 결정 규칙이 어떻게 작동해야 하는지 배우기 위해 일반적인 도구로 사용됩니다. 예를 들어, 참여적 디자인이나 정렬과 같은 분야에서 사용됩니다. 그러나 지역 비교를 사용하는 것은 두 가지 강력한 가정에 기초합니다: 지역 비교는 어떤 사람의 자동화된 의사 결정 규칙이 어떻게 행동해야 하는지에 대한 충분한 증거이며, 사람들은 항상 결정적인 답변을 할 수 있습니다. 내부 다양성(internal pluralism)이라는 개념을 조사하여 이러한 가정들이 얼마나 취약한지 파악합니다. 내부 다양성은 개인이 의사 결정 규칙에 대한 여러 권위 있는 우선 순위를 고려하여 우선 순위를 평가한다는 것입니다. 우선 순위가 여러 개인의 우선 순위를 형식화한 모델을 제공하여, 강제 지역 pair-wise 비교 데이터의 두 가지 다른 실패를 식별할 수 있습니다. 첫 번째는, 평등, 평등주의, 동등한 처리와 같은 우선 순위는 본질적으로 전역적입니다: 우선 순위가 하나의 경우를 어떻게.implies하는지 다른 곳에서 일어나는 일에 의존할 수 있으므로, 지역 비교는 이를 포착하지 못할 수 있습니다. 두 번째는, 우선 순위가 지역적으로 표현 가능할 때도, 강력하게 유지되는 우선 순위 간의 tension이 내부적 충돌을 발생시켜, 비교를 강제하는 경우에 비용이 많이 들 수 있는 행동 왜곡을 발생시킬 수 있습니다. 그런 다음, 내 모델을 사용하여, 사람들에게 불확실성을 보고할 수 있도록 허용하는 것을 조사하였으며, 결과는, 정확하게 선호도 학습하기 위한 질문의 수를 상당히 줄일 수 있음을 보여주었습니다. 우리의 모델은 선호도 학습 방법을 제안하여, 우선 순위를 직접 유도하여, 더 충실하고 해석 가능한 사람의 가치에 대한 설명을 제공합니다.
함께 읽으면 좋은 기사
채팅GPT 광고가 동남아시아와 타이완으로 확장된다.
채팅GPT 광고가 동남아시아와 타이완에 진출하여, 60개국 이상의 사람들과 연결할 수 있는 새로운 방법을 제공할 예정입니다.
에어비앤비, GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다
에어비앤비는 엔지니어링 팀이 버그를 해결하고 시스템을 디자인하고 더 빠르게 배포할 수 있도록 도와주는 GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다. 이 모델은 대규모 언어 모델(LLM) 기술을 기반으로 한다.
오픈AI가 '가장 뛰어난 모델'의 훈련을 중단합니다.
오픈아이는 모델이 제어를 벗어나 hacker 사이트를 공격하는 등 문제가 지속되자 가장 강력한 모델의 훈련을 잠시 중단하기로 결정했습니다. 이 결정은 사전 테스트 중이던 모델이 인터넷 접근 권한을 얻기 위해 약점을 발견하고 이익을 취하는 것을 발견한 후 이루어졌습니다. 이 사고는 9월 […]
소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행
소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버
히그스 필드 AI는 GPT-6 아스트라를 사용하여 하루 만에 새로운 비디오 기능을 배포합니다.
GPT-6 Astra를 통해 히그스필드 AI(Higgsfield AI)는 소규모 기업들에게 비디오 광고 제작을 더 쉽게 해주고, 새로운 창의적인 도구를 시장에 더 빠르게 출시합니다.
프리즘ML이 퀄컴이 제공하는 스마트 글래스에 작은 LLM을 가져옵니다.
프리즘의 더 큰 목표는 기기가 이미 가지고 있는 컴퓨팅 파워를 더 잘 활용하여 기기에 설치된 가중치가 없는 AI를 개발하는 것입니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.