심볼 그라운드와 합성성: 신경 심볼 아일의 비대응적 사고

신경 심볼 아일의 한계점인 대규모 언어 모델(LLM)의 합성성 일반화가 여전히 해결되지 않은 문제로 남아있다. 신경 심볼 아일의 핵심 가정인 심볼 그라운드가 합성성 사고를 비롯한 다양한 도메인에서 성공적으로 일반화할 수 있다는 가정은 아직 증명되지 않았다. 이 연구에서는 심볼 그라운드와 사고의 기여도를 분리하여 이 가정에 도전하는 첫 번째 체계적인 실험 분석을 제시한다.

2026년 4월 30일 AI 자동 생성

#추론

합성성 일반화의 한계

대규모 언어 모델(LLM)은 다양한 도메인에서 성공적으로 일반화하는 데 어려움을 겪고 있다. 이 문제의 근본적인 원인은 합성성 일반화의 한계에 있다. 합성성 일반화는 심볼 그라운드와 사고가 어떻게 상호작용하는지에 대한 우리의 이해가 부족한 데 기인한다.

심볼 그라운드와 사고의 비대응성

이 연구에서는 심볼 그라운드와 사고의 기여도를 분리하여 이 가정에 도전한다. 이를 위해, 우리는 Iterative Logic Tensor Network ($i$LTN)이라는 새로운 신경망 아키텍처를 제시한다. 이 아키텍처는 다단계 논리적 추론을 위한 완전한 수치화 아키텍처이다.

이론적 분류

이 연구에서는 합성성 일반화를 위한 이론적 분류를 제시한다. 이 분류는 새로운 엔티티, 보이지 않는 관계, 복잡한 규칙 합성을 포함한다.

실험 결과

실험 결과는 심볼 그라운드만 학습한 모델이 새로운 엔티티, 보이지 않는 관계, 복잡한 규칙 합성을 포함한 모든 태스크에서 높은 정확도를 달성하지 못한다는 것을 보여준다. 반면, $i$LTN을 학습한 모델은 모든 태스크에서 높은 정확도를 달성한다.

결론

이 연구는 심볼 그라운드가 합성성 일반화를 위해 충분하지 않다는 것을 보여준다. 따라서, 사고는 합성성 일반화를 위해 필수적인 능력이다. 이 연구는 심볼 그라운드와 사고의 상호작용에 대한 우리의 이해를 향상시키고, 신경 심볼 아일의 새로운 방향을 제시한다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

AI 모델 3일 전

Anthropic의 연간 매출액 6,500억 달러로 급증

모델 제작자(MODEL MAKER)는 2개월 만에 연간 $18 억 달러의 매출을 추가했다.

AI 모델 3일 전

아마존이 책을 처음으로 판매하기 시작한 이후로 귀중한 책을 파괴하여 AI를 교육하고 있습니다.

진귀한 책들은 대규모 언어 모델(LLM) 교육에 매우 가치가 높다. 왜냐하면 이 모델들은 이미 온라인에서 접근할 수 있는 모든 것을 통해 교육을 받았기 때문이다.

AI 모델 8월 16일

구글 지니미(Google Gemini)의 보이는 워터마크를 끄는 방법이 나왔다!

구글은 이제 지니미와 플로(Google's AI video generator, Flow)에서 AI工具을 이용해 만든 미디어에 보이는 워터마크를 제거할 수 있는 기능을 제공합니다. 이 업데이트로, 사용자는 지니미와 플로의 새로운 '미디어 워터마크' 설정을 끌 수 있습니다. 워터마크가 끄면, 지니미에서 생성된 이미지, 비디오, 음악에 나타나는 '스파클(sparkle)' 워터마크가 사라집니다.

AI 모델 8월 16일

애플, 중국 위해 알리바바와 함께 자체 AI 모델을 교육

애플은 중국 시장에 맞는 맞춤형 AI 모델을 중국 기술巨인 알리바바와 함께 개발하고 훈련했다고 보고되었다. 이는 베이징과 워싱턴 간 커져가는 긴장감을 무시하고 중국과 미국 사이에 드문 획기적인 협력이다. 알리바바의 지원을 받으며 개발된 중국을 대상으로 한 대규모 언어 모델(LLM) 훈련은 알리바바와 함께 개발되었으며, 리트저스는 훈련에 대한 지원을 받았다고 세 명의 익명한 사람들의 진술에 근

AI 모델 8월 15일

대량 언어 모델(LLM) 개인화에 대한 대응: Meta-LoRA를 이용한 다원 도메인 선호도 학습

대규모 언어 모델(LLM)의 개인화를 위한 다원 도메인 선호도 학습은 새로운 대화 도메인에서 사용자 선호도에 맞는 응답을 생성하는 것을 목표로 합니다. 하지만 기존의 적응 방법은 적은 수의 대상 도메인 상호 작용만으로 업데이트한 크기를 조정하기 어려워 오버피팅을 일으키며, 역전파 방법은 사용자 선호도를 소스 도메인 오류와 혼동하여 불신할 수 있는 개인화 전제 조건과 부정적인 전이를 일으킵니다. 이러한 문제를 해결하기 위해, 우리는 PAC-Bayes-정규화된 Meta-LoRA를 제안하여, 업데이트한 크기를 증거의 질에 맞게 조정하고, 오버피팅을 최소화하며, 증거가 증가할 때 강한 개인화를 허용합니다.