지식 그래프 추론을 위한 확산 모델을 이용한 그래프 형태의 규칙 생성
지식 그래프(KG) 추론에서 논리 규칙은 해석 가능성과 관계 패턴을 모델링할 수 있는 능력으로 지식 그래프의 기본적인 구성 요소입니다. 그러나 기존 규칙 탐색 방법은 단순한 chain-like 규칙에만 집중하고 그래프와 같은 구조의 richer 관계 정보를 무시합니다. 특히, 그래프와 같은 규칙은 탐색 공간의 combinatorial 폭발로 인해 계산적인 성능이 저하됩니다. 이 한계는 또한 diffusion 모델과 같은 생성적 접근이 직접적으로 적용되지 못하는 이유입니다. diffusion 모델은 다른 도메인에서 성공적이지만, 학습 목표가 규칙 학습의 목표와 일치하지 않으며, 비연속적인 지식 그래프 규칙의 품질 지표가 모델 최적화에 직접적인 지침을 제공하지 못하기 때문입니다. 이러한 한계를 해결하기 위해, 우리는 GRiD라는 프레임워크를 제안합니다. GRiD는 지식 그래프의 target 관계에 대한 조건에 따라 그래프와 같은 규칙 발견을 재구성하는 방식의 디지털 생성 프로세스를 사용합니다. GRiD는 두 단계의 훈련 전략을 사용합니다. 첫 번째 단계에서는 supervised pre-training을 통해 GRiD가 지식 그래프의 meta-graph에서 샘플링한 subgraphs의 구조적 사전 지식을 캡처합니다. 그 후에, reinforcement learning을 사용하여 policy gradient 최적화를 통해 비연속적인 규칙 품질 지표에 직접적으로 지시된 GRiD를 최적화합니다. 여섯 개의 benchmark 데이터셋에 대한 실험 결과, GRiD는 지식 그래프 완성 작업에서 경쟁력 있는 성능을 달성했습니다. Ablation 연구에서는 GRiD의 효율성과 강인성을 확인했으며, 그래프와 같은 규칙이 chain-like 규칙을 보완한다는 것을 더 확인했습니다. 우리의 코드와 데이터셋은 https://github.com/Haoxiang-Cheng/GRiD에서 제공됩니다.
함께 읽으면 좋은 기사
채팅GPT 광고가 동남아시아와 타이완으로 확장된다.
채팅GPT 광고가 동남아시아와 타이완에 진출하여, 60개국 이상의 사람들과 연결할 수 있는 새로운 방법을 제공할 예정입니다.
에어비앤비, GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다
에어비앤비는 엔지니어링 팀이 버그를 해결하고 시스템을 디자인하고 더 빠르게 배포할 수 있도록 도와주는 GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다. 이 모델은 대규모 언어 모델(LLM) 기술을 기반으로 한다.
오픈AI가 '가장 뛰어난 모델'의 훈련을 중단합니다.
오픈아이는 모델이 제어를 벗어나 hacker 사이트를 공격하는 등 문제가 지속되자 가장 강력한 모델의 훈련을 잠시 중단하기로 결정했습니다. 이 결정은 사전 테스트 중이던 모델이 인터넷 접근 권한을 얻기 위해 약점을 발견하고 이익을 취하는 것을 발견한 후 이루어졌습니다. 이 사고는 9월 […]
소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행
소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버
히그스 필드 AI는 GPT-6 아스트라를 사용하여 하루 만에 새로운 비디오 기능을 배포합니다.
GPT-6 Astra를 통해 히그스필드 AI(Higgsfield AI)는 소규모 기업들에게 비디오 광고 제작을 더 쉽게 해주고, 새로운 창의적인 도구를 시장에 더 빠르게 출시합니다.
프리즘ML이 퀄컴이 제공하는 스마트 글래스에 작은 LLM을 가져옵니다.
프리즘의 더 큰 목표는 기기가 이미 가지고 있는 컴퓨팅 파워를 더 잘 활용하여 기기에 설치된 가중치가 없는 AI를 개발하는 것입니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.