【知識圖譜系列】知識圖譜的神經符號邏輯推理

作者：CHEONG

研究方向：自然語言處理與知識圖譜

轉載須知：必須經過作者同意後，註定作者和出處！

本文分享一篇有關知識圖譜上的神經網路和符號邏輯推理彙報ppt，簡要概述基本概念並推薦幾篇近期的優秀論文，介紹其核心思想

一、Conception

1、知識圖譜：知識圖譜是異質圖Heterogeneous Graph，圖中含有多種關係型別，一組事實（head entity， relation， tail entity）就代表圖中的一個三元組；

2、知識圖譜推理：知識圖譜通常是不完整的，很多事實是缺失的，知識圖譜上的一個基本任務便是預測缺失的事實（實體或關係），因此便需要根據已有事實進行推理Reasoning on Knowledge Graphs。

3、連續空間的推理：現有大多數方法都是基於知識圖譜表徵Embedding，即是在Continuous Space進行推理，例如TransE系列等；

4、符號空間的推理：符號空間的推理主要指的是邏輯程式設計Logic Programming，馬爾科夫邏輯網路等；

5、神經網路符號邏輯推理：同時在連續空間和符號空間進行推理，比如plogicNet，ExpressGNN等；

6、常見的邏輯規則：Symmetric/Antisymmetric對稱/反對稱，Inverse相反，Composition組合。

（1）如果r是對稱關係，則r^（-1） （X， Y）<- r（X， Y） ∀X， Y

（2）如果r是反對稱關係，則¬r^（-1） （X， Y）<- r（X，Y） ∀X， Y

（3）如果r1是r2的相關關係，則r_1^（-1） （X， Y）<-r_2 （X，Y） ∀X， Y

（4）如果r1是r2和r3的組合關係，則r_1 （X， Z）<- r_2 （X，Y）⋀r_3 （Y， X） ∀X，Y，Z

7、知識圖譜-神經網路符號邏輯推理：便需要從知識圖譜中抽取學習有用的邏輯規則logic rules，在用學到的邏輯規則幫助知識圖譜進行表徵學習。

8、Neural and Symbolic Logical Reasoning on Knowledge Graphs四篇優秀論文：

（1）ExpressGNN：Efficient Probabilistic Logic Reasoning with Graph Neural Network ［ICLR 2020］

（2）plogicNet：Probabilistic Logic Neural Networks for Reasoning ［NIPS 2019］

（3）GMNN：Graph Markov Neural Network ［ICML 2019］

（4）RNNLogic：Learning Logic Rules for Reasoning on Knowledge Graphs

二、Papers