인간-기계 협생에서 인공지능의 역할
인공지능이 인간과 기계의 경계를 점점 모호하게 만들면서, 인간-기계 협생에서 발생하는 인공지능이 생성한 정보의 정의가 어려워지고 있습니다. 이러한 정보는 인간과 기계가 상호 작용하여 생성되기 때문에, 인공지능이 참여했는지를 의심하는 것이 아니라, 어떻게 참여했는지를 살펴보아야 합니다. 이 연구에서는 인공지능이 자연어 생성에서 수행하는 기능 역할을 추적하는 문제를 다루고, 입력 프롬프트에서 작성을 추론하고, 생성 과정에 이 역할을 삽입하여, 결과 텍스트에서 AI 참여의 본질을 회복하는 방법을 제안합니다.
인공지능(AI) 기술이 발전하면서, 인간과 기계의 경계가 점점 모호해지고 있습니다. 인간-기계 협생에서 발생하는 인공지능이 생성한 정보의 정의가 어려워지고 있습니다. 이러한 정보는 인간과 기계가 상호 작용하여 생성되기 때문에, 인공지능이 참여했는지를 의심하는 것이 아니라, 어떻게 참여했는지를 살펴보아야 합니다.
이 연구에서는 인공지능이 자연어 생성에서 수행하는 기능 역할을 추적하는 문제를 다루고, 입력 프롬프트에서 작성을 추론하고, 생성 과정에 이 역할을 삽입하여, 결과 텍스트에서 AI 참여의 본질을 회복하는 방법을 제안합니다.
연구 방법
이 연구에서는 대규모 언어 모델(LLM)과 같은 인공지능이 생성한 텍스트를 분석하여, AI가 참여한 역할을 추적하는 방법을 제안합니다. 연구에서는 인공지능이 인간의 작성한 콘텐츠를 편집하는 보조 역할을 수행하거나, 짧은 개념으로부터 새로운 콘텐츠를 생성하는 창의 역할을 수행하는 두 가지 시나리오를 실험합니다.
실험 결과는 제안된 방법이 역할을 구별하고, robustness에 대한 robustness를 보장하고, 언어적 품질을 유지하는 것을 지원합니다.
결과
이 연구는 인공지능이 자연어 생성에서 수행하는 기능 역할을 추적하는 방법을 제안하고, 결과 텍스트에서 AI 참여의 본질을 회복하는 방법을 제안합니다. 연구 결과는 인공지능이 인간-기계 협생에서 참여하는 역할을 더욱 명확하게 밝히는 데 기여할 것으로 기대됩니다.
함께 읽으면 좋은 기사
LLM이 핵 공격을 추천하지 않으려면? 일본어로 물어보세요
대규모 언어 모델은 점점 더 전략적이고 자문적인 상황에서 사용되고 있지만, 그 안전성은 일반적으로 영어만으로 평가됩니다. 우리는 여섯 개의 제공업체에서 나온 9개의 모델을 테스트하고, 언어가 모델의 결정을 바꾸는지-high stakes 상황에서-확인하려고 합니다. 우리는 단일 턴 게임 이론적 시나리오에서 사용하며, 모델은 무방비 상대에게 핵무기를 사용할 것인지 여부를 일본의 국가에 자문합니다
Bayesian 모델 칼리브레이션을 위한 문헌 정보를 기반으로 한 전역 분포 설계
Bayesian 기반의 프로세스 기반 모델의 감리 작업을 위해서는 각 모델의 매개변수에 대한 사전 분포가 필요하다. 많은 연구자들은 이 작업을 수행하기 위해 유니폼 사전 분포를 사용한다. 하지만 유니폼 사전 분포를 사용하는 이유는 이 작업을 수행하기 위한 도메인 지식과 통계 지식이 필요하고, 이를 통해 유의미한 사전 분포를 구축하는 데 시간이 많이 걸린다는 것이다. 우리는 Distribird
세계 모델에서 중요한 것에 집중하는 TaskSense
대규모 언어 모델(LLM)을 통해 학습된 시각적 제어 모델은 일반적으로 compact한 잠재 상태를 학습하기 위해 관찰치를 재구성하는 것을 통해 정보를 전체 시각적 입력에 걸쳐 보존하도록 암묵적으로 장려합니다. 그러나 과제 관련 내용은 관찰치의 작은 부분만을 차지하며 배경 잡음 및 가리키는 요소는 유용한 표현적 능력을 소모합니다. 시각 재구성과 제어 목표 사이의 불일치로 인해 잠재 표현은 과
중간 층의 주의 집중 예측을 통해 시각 토큰 압축
대규모 멀티모달 언어 모델(Multimodal Large Language Model, MLLM)의 효율성을 향상시키기 위해 시각 토큰 압축을 사용하는 방법을 제안합니다. 이 방법은 중간 언어 모델 층의 주의 집중을 예측하여 시각 토큰의 중요도를 평가합니다. 이 방법은 existing inference acceleration techniques와 호환되며, 10개의 benchmark에서 97.5%의 unpruned model 성능을 유지하며, 5.56%의 시각 토큰만 사용하여 3.09배의 end-to-end speedup을 달성합니다.
Ignition 지수: 언어 모델의 글로벌 워크스페이스 동적 측정
Ignition Index를 제시합니다. 이는 전이 모델 언어 모델에서 Global Workspace Theory의 (GWT) 모든-아니면-점화 예측을 operationalize하는 유효한 스칼라 지표입니다. 이 지표는 입력 신호 강도의 함수로 per-layer 선형 프로브 정확도를 4-매개 변수 시그모이드에 적합시켜, 기울기 매개변수 beta-hat을 추출합니다: 높은 값은 급격한, 점화와
도구 사용 LLM_AGENT를 위한 도구-스키마 하이퍼그래프에서 계획 및 행동
대규모 언어 모델(LLM) agent가 점점 더 복잡한 현실 세계 작업을 완료하기 위해 외부 도구에 의존하고 있습니다. 그러나 신뢰할 수 있는 도구 사용 계획은 암묵적 추론의 한계와 현실 세계 실행 환경의 변화에 의해 어려움을 겪고 있습니다. 기존의 도구 사용 agent는 일반적으로 텍스트 설명에서 도구 구성이 추론되는 LLM을 의존하여, 복잡한 작업에서 효율적인 탐색과 불신할 수 있는 실행
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.