Knowledge-graph-based explainable AI: A systematic review

Abstract

In recent years, knowledge graphs (KGs) have been widely applied in various domains for different purposes. The semantic model of KGs can represent knowledge through a hierarchical structure based on classes of entities, their properties, and their relationships. The construction of large KGs can enable the integration of heterogeneous information sources and help Artificial Intelligence (AI) systems be more explainable and interpretable. This systematic review examines a selection of recent publications to understand how KGs are currently being used in eXplainable AI systems. To achieve this goal, we design a framework and divide the use of KGs into four categories: extracting features, extracting relationships, constructing KGs, and KG reasoning. We also identify where KGs are mostly used in eXplainable AI systems (pre-model, in-model, and post-model) according to the aforementioned categories. Based on our analysis, KGs have been mainly used in pre-model XAI for feature and relation extraction. They were also utilised for inference and reasoning in post-model XAI. We found several studies that leveraged KGs to explain the XAI models in the healthcare domain.

The challenges of integrating explainable artificial intelligence into GeoAI

“…Here a knowledge graph refers to a semantic network of, for example, geographic objects, spatial events, or places, and the labeled relationship among them (Ma, 2022). Challenges and approaches of integrating KGs and XAI techniques have been summarized by Rajabi and Etminani (2022) and Lecue (2020); the authors argued that KG can improve post‐hoc explanations by representing them as a computational ontology of classes. Ganesan et al (2020) tailored GNNExplainer to interpret graph link predictions in social media.…”

“…Contrary to Janowicz et al (2022), we argue that we cannot ignore elements of geographic knowledge that are not easily transferred into AI or GeoXAI. Although our focus is on DNNs, we also refer to advances from work in knowledge graphs (KGs) (e.g., Mai et al, 2020; Rajabi & Etminani, 2022). We envision numerous potential challenges in realizing GeoXAI.…”

Novel Extensions to the Knowledge Graph Using the Hashing Mechanism

“…Bilgi çizgeleri, son on yılda yapay zekada önemli bir alan olarak öne çıkmıştır [31]. Bir bilgi çizgesini basitçe, bir çeşit semantiğe sahip, yönlendirilmiş, etiketlenmiş, çoklu ilişkisel bir çizge olarak tanımlamak mümkündür [19].…”

“…Son yıllarda, bilgi çizgeleri çok çeşitli alanlarda farklı amaçlar için yaygın olarak uygulanmakta ve buna paralel şekilde çok çeşitli alanlarla entegrasyonuna dair incelemeler bulunmaktadır. Bu incelemeler arasında dijital haber platformlarında haber üretimi, dağıtımı ve tüketimine yönelik anlamsal bilgi çizgelerinin oluşturulması [28], büyük bilgi çizgelerinin oluşturulmasında, heterojen bilgi kaynaklarının entegrasyonu ve Yapay Zeka (YZ) sistemlerinin daha açıklanabilir ve yorumlanabilir olması [31], imalat ve üretim alanında bilgi çizgesinin uygulanması, bilgi çizgesinde muhakeme teknolojileri [7], Anlamsal Web [32], makine öğrenimi, kural tabanlı öğrenme ve doğal dil işleme araç ve yaklaşımlarını uygulama [40] ve istatistiksel modellerin büyük bilgi grafikleri üzerinde nasıl eğitilebileceği ve dünya hakkında yeni gerçekleri tahmin etmek için nasıl kullanılabileceği [25] gibi çok çeşitli konular yer almaktadır.…”

Knowledge graph augmentation: consistency, immutability, reliability, and context

“…KGs have emerged as an essential area in artificial intelligence in the last decade ( Rajabi & Etminani, 2022 ). A KG can be a directed, labeled, multi-relational graph with some form of semantics ( Kejriwal, 2022 ).…”