شبکههای عصبی گراف (GNN) و توضیحپذیری آنها یکی از مهمترین موضوعات در حوزه هوش مصنوعی است. این شبکهها که برای پردازش دادههای گرافی طراحی شدهاند، در سه سطح گراف، نود و یال قابل تحلیل هستند. از جمله تکنیکهای مهم در این حوزه میتوان به نقشههای برجستگی (Saliency Maps)، گرادیانهای یکپارچه (Integrated Gradients) و روشهای پوشاندن (Occlusion) اشاره کرد که هر کدام مزایا و معایب خاص خود را دارند. این روشها به متخصصان کمک میکنند تا درک بهتری از عملکرد داخلی مدلهای GNN داشته باشند و قابلیت اعتماد به پیشبینیهای آنها را افزایش دهند