본문으로 건너뛰기

도구 사용 언어 모델 에이전트의 조직 보급 시 실행 수준 프로파일링: A-R 행동 공간

대규모 언어 모델(LLM)은 점점 더 시스템 수준 연산을 수행할 수 있는 도구 확장 에이전트로 배포되고 있습니다. 기존 벤치마크는 주로 텍스트 정렬이나 작업 성공을 평가하는 데 집중했지만, 언어적 신호와 실행 가능한 행동 사이의 구조적 관계를 다양한 자율성 스타킹에서 평가하는 데 덜 주목했습니다. 이 연구는 행동 측정 방법을 도입하여 Action Rate(A)와 Refusal Signal(R)로 정의된 2차원 A-R 공간을 사용하여 실행 수준 행동을 측정합니다. 모델은 4개의 규범적 체제(Control, Gray, Dilemma, Malicious)와 3개의 자율성 구성(직접 실행, 계획, 반영)에서 평가됩니다. 이 방법은 실행과 거부를 분리된 행동 차원으로 특성화하고, 이들이 체제와 자율성 수준에 따라 시스템적으로 분배되는 방식에 따라 분포가 달라진다는 것을 보여줍니다. 반영 기반 스타킹은 위험한 상황에서 더 높은 거부를 유도하지만, 모델 간에 분배 패턴이 구조적으로 다르다는 것을 보여줍니다. A-R 표현은 단일 점수 대신_EXECUTION_LAYER_CHARACTERIZATION를 사용하여 단일 점수 대신_ CROSS-SECTIONAL_BEHAVIORAL_PROFILES, SCAFFOLD-INDUCED_TRANSITIONS, COORDINATION_VARIABILITY를 직접 관찰할 수 있습니다. 이 연구는 조직 환경에서 실행 특권과 위험 수용도가 다르기 때문에 도구 확장 LLM 에이전트를 분석하고 선택하기 위한 배포 지향적인 렌즈를 제공합니다.

AI 자동 생성

개요

대규모 언어 모델(LLM)은 점점 더 시스템 수준 연산을 수행할 수 있는 도구 확장 에이전트로 배포되고 있습니다. 기존 벤치마크는 주로 텍스트 정렬이나 작업 성공을 평가하는 데 집중했지만, 언어적 신호와 실행 가능한 행동 사이의 구조적 관계를 다양한 자율성 스타킹에서 평가하는 데 덜 주목했습니다.

연구 방법

이 연구는 행동 측정 방법을 도입하여 Action Rate(A)와 Refusal Signal(R)로 정의된 2차원 A-R 공간을 사용하여 실행 수준 행동을 측정합니다. 모델은 4개의 규범적 체제(Control, Gray, Dilemma, Malicious)와 3개의 자율성 구성(직접 실행, 계획, 반영)에서 평가됩니다.

결과

이 방법은 실행과 거부를 분리된 행동 차원으로 특성화하고, 이들이 체제와 자율성 수준에 따라 시스템적으로 분배되는 방식에 따라 분포가 달라진다는 것을 보여줍니다. 반영 기반 스타킹은 위험한 상황에서 더 높은 거부를 유도하지만, 모델 간에 분배 패턴이 구조적으로 다르다는 것을 보여줍니다.

의의

A-R 표현은 단일 점수 대신_EXECUTION_LAYER_CHARACTERIZATION를 사용하여 단일 점수 대신_ CROSS-SECTIONAL_BEHAVIORAL_PROFILES, SCAFFOLD-INDUCED_TRANSITIONS, COORDINATION_VARIABILITY를 직접 관찰할 수 있습니다. 이 연구는 조직 환경에서 실행 특권과 위험 수용도가 다르기 때문에 도구 확장 LLM 에이전트를 분석하고 선택하기 위한 배포 지향적인 렌즈를 제공합니다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

AI 모델 1일 전

소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행

소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.