본문으로 건너뛰기

Andre: 주의 기반 신경-기호적 다이퍼런트 가능한 규칙 추출기에 대한 리뷰 보기

ANDRE: 주의집중 기반 심볼-신경망 다분해 규칙 추출기 대규모 언어 모델(LLM)에서 주의집중 기반 심볼-신경망 다분해 규칙 추출기(ANDRE)가 제안되었다. ANDRE는 데이터에서 해석 가능한 첫 번째 순서 규칙을 학습하는 목표를 가진 지능형 논리 프로그래밍(ILP)의 새로운 프레임워크이다. ANDRE는 기존의 심볼과 신경망 기반 접근법이 노이즈와 확률적 설정에서 확장하기 어렵다는 것을 해결하기 위해 설계되었다. ANDRE는 지능형 논리 프로그래밍에서 기존의 규칙 템플릿과 논리 연산자를

AI 자동 생성

ANDRE: An Attention-based Neuro-symbolic Differentiable Rule Extractor

ANDRE: 주의집중 기반 심볼-신경망 다분해 규칙 추출기

대규모 언어 모델(LLM)에서 주의집중 기반 심볼-신경망 다분해 규칙 추출기(ANDRE)가 제안되었다. ANDRE는 데이터에서 해석 가능한 첫 번째 순서 규칙을 학습하는 목표를 가진 지능형 논리 프로그래밍(ILP)의 새로운 프레임워크이다. ANDRE는 기존의 심볼과 신경망 기반 접근법이 노이즈와 확률적 설정에서 확장하기 어렵다는 것을 해결하기 위해 설계되었다.

ANDRE는 지능형 논리 프로그래밍에서 기존의 규칙 템플릿과 논리 연산자를 대체하여, 주의집중 기반 논리 연산자를 사용하여 규칙 공간을 최적화한다. ANDRE는 논리적 min-max 의미를 근사하는 완전한 다분해, 주의집중 기반 결합 및 배타 연산자를 제공하여, 확률적 술어 평가에 대한 정확하고 안정적인 해석을 지원한다. ANDRE는 각 규칙 내의 술어를 부드럽게 선택, 부정, 또는 배제하여, 유연한 규칙 학습을 지원하면서도 심볼 구조를 보존한다.

ANDRE는 기존의 다분해 지능형 논리 프로그래밍 방법보다 규칙 추출 품질과 안정성에서 우수한 성능을 보인다. 특히, ANDRE는 중간 정도의 레이블 노이즈에 대해 견고하며, 기존의 다분해 지능형 논리 프로그래밍 방법보다 우수한 성능을 보인다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

연구 8월 15일

인공지능의 정렬: 인간의 논리적 사고를 반영하는 실제적인 방법이 필요하다.

AI 시스템은 점점 더 의사결정 도우미, 의사결정 위임자 또는 자율적 의사결정자로 사용되고 있다. 이 논문은 고위험 의사결정 환경에서 특히 많은 경우, 정확하고 인지적 동기화를 지닌 AI 시스템이 필요하다는 점을 주장한다. 이러한 시스템은 사용자와 유사하게 사고하고, 그 사고를 충실하게 전달해야 한다. 인지적 동기화가 이해도와 신뢰성을 향상시킨다는 증거를 검토하고, AI의 판단이나 행동에 대

연구 8월 15일

이론적 합리성은 학습 가능한 규칙 기반 프로세스

AI 연구에서 가장 과학적이고 경제적으로 유도하는 주제 중 하나인 자율적인 합리성에 대한 연구가 진행 중입니다. 최근 연구에서는 주로 심볼릭 AI와 달리 확률적 생성 모델을 이용하여 진보를 이루고 있습니다. 하지만, 생성 AI 연구 커뮤니티는 이론적 합리성에 대한 명확한 정의를 내리지 못하고, 논리와 자동화된 증명에 대한 역사적 대응을 암시적으로 거부하고 있습니다. 이 연구는 이론적 합리성에 대한 정의의 모호성이 합리성 평가의 구성 적 타당성을 확인할 수 없으며, 신뢰할 수 있는 자율적인 합리성에 대한 신속한 진보를 방해한다고 주장합니다. 또한, 이 모호성이 해결될 수 있다고 주장하며, (1) 문헌의 합성에 기초한 합리적인 정의를 제공하여, 유효하고 정당한 합리성을 학습 가능한 규칙 기반 프로세스로 위치시킵니다. 그리고 (2) AI 합리성 연구의 의사소통을 위한 베스트 프랙티스 체크리스트를 제공합니다.

연구 8월 14일

미국 정책을 형성하는 '자체강압산업 komplex'의 내막

세션을 듣거나 아래에 있는 영상을 감상하세요. '정보 통제 산업 복합체'(censorship-industrial complex)는 정부, 기술 및 연구 단체가 협력하여 보수주의 온라인 연설을 억압하고 있다는 생각입니다. 이 생각은 오랜 시간 동안 우익 정보 영역의 중요한 요소였지만, 최근 미국 정책에 반영되기 시작했습니다. 우익의 정보를 주도하는 인물들이 이 문제를 어떻게 바라보고 있는지,

연구 8월 13일

시스템 물리 및 사이버 물리 시스템에서 시뮬레이션 증거를 통해 영향 지식을 세련하는 개념적 프레임워크

인터넷 논문 데이터베이스(arXiv)에 등록된 논문에서 발췌한 내용입니다. 인터넷 기반 물리 시스템(Cyber-physical systems, CPS)은 여러 전문가들이 특정 분야에 맞춰서 제작한 artefacts를 사용하여 개발됩니다. 이러한 시스템의 동작은 artefacts와 그들이 작동하는 환경과의 상호작용으로부터 발생합니다. 시뮬레이션 및 공동 시뮬레이션은 CPS 동작을 분석하는 필수

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.