近年來,圖神經網絡(GNN)領域取得了快速和令人難以置信的進展。圖神經網絡,又稱圖深度學習、圖表示學習或幾何深度學習,已成為機器學習特別是深度學習領域發展最快的研究課題之一。這波圖論和深度學習交叉的研究浪潮也影響了其他科學領域,包括推薦係統、計算機視覺、自然語言處理、歸納邏輯編程、程序合成、軟件挖掘、自動規劃、網絡安全和智能交通。

盡管圖神經網絡已經獲得了極大的關注,但在將其應用到其他領域時,它仍然麵臨著許多挑戰,從方法的理論理解到實際係統中的可擴展性和可解釋性,從方法的可靠性到應用中的經驗性能。然而,隨著該領域的迅速發展,獲得全球視野的gnn的發展已成為一項極具挑戰性的工作。

因此,我們感到迫切需要彌補上述差距,並就這一快速發展但具有挑戰性的主題出版一本全麵的書,它可以造福廣泛的讀者,包括高級本科生和研究生、博士後研究人員、講師和行業從業者。

這本書旨在涵蓋圖神經網絡中廣泛的主題,從基礎到前沿,並從方法到應用。本書致力於介紹GNNs的基本概念和算法,GNNs的新研究前沿,以及GNNs的廣泛和新興應用。

書籍地址: https://graph-neural-networks.github.io/index.html

領域大牛推薦

“第一本全麵涵蓋一個快速發展的研究領域——圖神經網絡(GNN)的書,由權威作者撰寫!”

韓家煒 - 美國伊利諾伊大學香檳分校計算機係教授,IEEE和ACM院士

這本書提出了一個全麵和及時的圖表示學習綜述。由這一領域最好的專家編輯撰寫,這本書是想學習任何關於圖神經網絡的學生,研究人員和實踐者的必讀作品。”

沈向洋-計算機視覺和圖形學研究的世界級專家,IEEE Fellow,ACM Fellow)美國工程院院士,英國皇家工程科學院的國際院士

“作為深度學習的新前沿,圖神經網絡在結合概率學習和符號推理、連接知識驅動和數據驅動範式、開啟第三代人工智能發展方麵提供了巨大的潛力。這本書提供了全麵和深刻的GNN介紹,從基礎到前沿,從算法到應用。對於任何想要進入這一令人興奮的領域的科學家、工程師和學生來說,這都是寶貴的資源。”

張鈸 - 中國科學院院士,清華大學教授

“圖神經網絡是機器學習最熱門的領域之一,這本書是一個很棒的深度資源,涵蓋了圖表示學習的廣泛主題和應用。” Jure Leskovec -斯坦福大學副教授

圖神經網絡是一種新興的機器學習模型,已經在科學和工業領域掀起了一場風暴。是時候采取行動了!它的章節都是由該領域的許多專家精心撰寫的。”

Petar Velickovic - DeepMind 高級研究科學家

目錄內容:

本書主要分為3部分: Introduction, Foundations of Graph Neural Networks, 和 Frontiers of Graph Neural Networks.

第一部分:引言 第 1 章 表示學習 第 2 章 圖表示學習 第 3 章 圖神經網絡

第二部分:基礎 第 4 章 用於節點分類的圖神經網絡 第 5 章 圖神經網絡的表達能力 第 6 章 圖神經網絡:可擴展性 第 7 章 圖神經網絡中的可解釋性 第 8 章 圖神經網絡:對抗魯棒性

第三部分:前沿 第 9 章 圖神經網絡:圖分類 第 10 章 圖神經網絡:鏈接預測 第 11 章 圖神經網絡:圖生成 第 12 章 圖神經網絡:圖變換 第 13 章 圖神經網絡:圖匹配 第 14 章 圖神經網絡:圖結構學習 第 15 章 動態圖神經網絡 第 16 章 異構圖神經網絡 第 17 章 圖神經網絡:AutoML 第 18 章 圖神經網絡:自監督學習

第四部分:應用

第 19 章 現代推薦係統中的圖神經網絡 第 20 章 計算機視覺中的圖神經網絡 第 21 章 自然語言處理中的圖神經網絡 第 22 章 程序分析中的圖神經網絡 第 23 章 軟件挖掘中的圖神經網絡 第 24 章 藥物開發中基於 GNN 的生物醫學知識圖譜挖掘 第 25 章 預測蛋白質功能和相互作用的圖神經網絡 第 26 章 異常檢測中的圖神經網絡 第 27 章 城市智能中的圖神經網絡

作者介紹

吳淩飛博士現任京東矽穀研發中心首席科學家。吳博士曾經是 IBM T. J. Watson Research Center 研究科學家和團隊帶頭人。吳博士在 2016 年從威廉瑪麗大學取得計算機博士學位。他的研究內容包括機器學習、表征學習和自然語言處理。

吳博士帶領的 Graph4NLP (Deep Learning on Graphs for Natural Language Processing) 團隊(12+ 研究科學家)致力於機器學習與文本數據挖掘領域的基礎研究,並運用機器學習與文本數據挖掘方法解決實際問題。其學術成果先後發表在 NeurIPS, ICML, ICLR, ACL, EMNLP, KDD, AAAI, IJCAI 等國際頂級會議及期刊上,發表論文超過 80 多篇。代表作包括 IDGL, MGMN, Graph2Seq, GraphFlow。多項學術論文獲得著名國際大會的最佳論文和最佳學術論文獎,包括 IEEE ICC 2019。

吳博士同時現任 IEEE 影響因子最高期刊之一 IEEE Transactions on Neural Networks and Learning Systems(TNNLS) 和 ACM SIGKDD 旗艦期刊 ACM Transactions on Knowledge Discovery from Data (TKDD) 的副主編。多次組織和擔任國際頂級會議大會或者領域主席,如 AAAI, IJCAI, KDD, NeurIPS, ICLR, ICML, ACL, EMNLP。

崔鵬,清華大學計算機係長聘副教授。於 2010 年獲得清華大學博士學位,研究興趣包括因果正則機器學習(causally-regularized machine learning)、網絡表示學習和社交動態建模。他在數據挖掘和多媒體領域知名會議和期刊上發表文章 100 多篇,近期研究獲得 IEEE Multimedia Best Department Paper Award、ICDM 2015 最佳學生論文獎等多個獎項。2015 年,他獲得 ACM 中國新星獎,2018 年獲得 CCF-IEEE CS 青年科學家獎。目前,他是 ACM 和 CCF 傑出會員、IEEE 高級會員。

裴健在數據科學、大數據、數據挖掘和數據庫係統等領域,是世界領先的研究學者,國際計算機協會(ACM)院士和國際電氣電子工程師協會(IEEE)院士,擅長為數據密集型應用設計開發創新性的數據業務產品和高效的數據分析技術。因其在數據挖掘基礎、方法和應用方麵的傑出貢獻,裴健曾獲得數據科學領域技術成就最高獎 ACM SIGKDD Innovation Award(ACM SIGKDD 創新獎)和 IEEE ICDM Research Contributions Award(IEEE ICDM 研究貢獻獎)。2018 年,裴健入職京東,任集團副總裁。此前,裴健教授還曾擔任華為首席科學家。2019 年 9 月,裴健當選加拿大皇家學會院士。

趙亮現為埃默裏大學擔任計算機係助理教授,研究方向為數據挖掘、機器學習和優化。此前曾在喬治梅森大學信息科技學院和計算機學院擔任助理教授。2016 年秋,趙亮獲得弗吉尼亞理工大學的博士學位。此外,趙亮曾獲 2020 年美國自然科學基金委員會傑出青年獎(NSF CAREER AWARD)、2019 年 Jeffress Trust Award、2017 年弗吉尼亞理工大學計算機學院傑出博士獎,並入選 2016 年微軟評選出的數據挖掘領域 20 位學術新星。他還獲得過 ICDM 2019 會議的最佳論文獎項。

"> 沈向洋張鈸院士等力薦!《圖神經網絡》2022新書,崔鵬裴健等領域大牛撰寫,701頁pdf全麵介紹GNN算法與應用 - 專知VIP

近年來,圖神經網絡(GNN)領域取得了快速和令人難以置信的進展。圖神經網絡,又稱圖深度學習、圖表示學習或幾何深度學習,已成為機器學習特別是深度學習領域發展最快的研究課題之一。這波圖論和深度學習交叉的研究浪潮也影響了其他科學領域,包括推薦係統、計算機視覺、自然語言處理、歸納邏輯編程、程序合成、軟件挖掘、自動規劃、網絡安全和智能交通。

盡管圖神經網絡已經獲得了極大的關注,但在將其應用到其他領域時,它仍然麵臨著許多挑戰,從方法的理論理解到實際係統中的可擴展性和可解釋性,從方法的可靠性到應用中的經驗性能。然而,隨著該領域的迅速發展,獲得全球視野的gnn的發展已成為一項極具挑戰性的工作。

因此,我們感到迫切需要彌補上述差距,並就這一快速發展但具有挑戰性的主題出版一本全麵的書,它可以造福廣泛的讀者,包括高級本科生和研究生、博士後研究人員、講師和行業從業者。

這本書旨在涵蓋圖神經網絡中廣泛的主題,從基礎到前沿,並從方法到應用。本書致力於介紹GNNs的基本概念和算法,GNNs的新研究前沿,以及GNNs的廣泛和新興應用。

書籍地址:https://graph-neural-networks.github.io/index.html

領域大牛推薦

“第一本全麵涵蓋一個快速發展的研究領域——圖神經網絡(GNN)的書,由權威作者撰寫!”

韓家煒 - 美國伊利諾伊大學香檳分校計算機係教授,IEEE和ACM院士

這本書提出了一個全麵和及時的圖表示學習綜述。由這一領域最好的專家編輯撰寫,這本書是想學習任何關於圖神經網絡的學生,研究人員和實踐者的必讀作品。”

沈向洋-計算機視覺和圖形學研究的世界級專家,IEEE Fellow,ACM Fellow)美國工程院院士,英國皇家工程科學院的國際院士

“作為深度學習的新前沿,圖神經網絡在結合概率學習和符號推理、連接知識驅動和數據驅動範式、開啟第三代人工智能發展方麵提供了巨大的潛力。這本書提供了全麵和深刻的GNN介紹,從基礎到前沿,從算法到應用。對於任何想要進入這一令人興奮的領域的科學家、工程師和學生來說,這都是寶貴的資源。”

張鈸 - 中國科學院院士,清華大學教授

“圖神經網絡是機器學習最熱門的領域之一,這本書是一個很棒的深度資源,涵蓋了圖表示學習的廣泛主題和應用。” Jure Leskovec -斯坦福大學副教授

圖神經網絡是一種新興的機器學習模型,已經在科學和工業領域掀起了一場風暴。是時候采取行動了!它的章節都是由該領域的許多專家精心撰寫的。”

Petar Velickovic - DeepMind 高級研究科學家

目錄內容:

本書主要分為3部分: Introduction, Foundations of Graph Neural Networks, 和 Frontiers of Graph Neural Networks.

第一部分:引言 第 1 章 表示學習 第 2 章 圖表示學習 第 3 章 圖神經網絡

第二部分:基礎 第 4 章 用於節點分類的圖神經網絡 第 5 章 圖神經網絡的表達能力 第 6 章 圖神經網絡:可擴展性 第 7 章 圖神經網絡中的可解釋性 第 8 章 圖神經網絡:對抗魯棒性

第三部分:前沿 第 9 章 圖神經網絡:圖分類 第 10 章 圖神經網絡:鏈接預測 第 11 章 圖神經網絡:圖生成 第 12 章 圖神經網絡:圖變換 第 13 章 圖神經網絡:圖匹配 第 14 章 圖神經網絡:圖結構學習 第 15 章 動態圖神經網絡 第 16 章 異構圖神經網絡 第 17 章 圖神經網絡:AutoML 第 18 章 圖神經網絡:自監督學習

第四部分:應用

第 19 章 現代推薦係統中的圖神經網絡 第 20 章 計算機視覺中的圖神經網絡 第 21 章 自然語言處理中的圖神經網絡 第 22 章 程序分析中的圖神經網絡 第 23 章 軟件挖掘中的圖神經網絡 第 24 章 藥物開發中基於 GNN 的生物醫學知識圖譜挖掘 第 25 章 預測蛋白質功能和相互作用的圖神經網絡 第 26 章 異常檢測中的圖神經網絡 第 27 章 城市智能中的圖神經網絡

作者介紹

吳淩飛博士現任京東矽穀研發中心首席科學家。吳博士曾經是 IBM T. J. Watson Research Center 研究科學家和團隊帶頭人。吳博士在 2016 年從威廉瑪麗大學取得計算機博士學位。他的研究內容包括機器學習、表征學習和自然語言處理。

吳博士帶領的 Graph4NLP (Deep Learning on Graphs for Natural Language Processing) 團隊(12+ 研究科學家)致力於機器學習與文本數據挖掘領域的基礎研究,並運用機器學習與文本數據挖掘方法解決實際問題。其學術成果先後發表在 NeurIPS, ICML, ICLR, ACL, EMNLP, KDD, AAAI, IJCAI 等國際頂級會議及期刊上,發表論文超過 80 多篇。代表作包括 IDGL, MGMN, Graph2Seq, GraphFlow。多項學術論文獲得著名國際大會的最佳論文和最佳學術論文獎,包括 IEEE ICC 2019。

吳博士同時現任 IEEE 影響因子最高期刊之一 IEEE Transactions on Neural Networks and Learning Systems(TNNLS) 和 ACM SIGKDD 旗艦期刊 ACM Transactions on Knowledge Discovery from Data (TKDD) 的副主編。多次組織和擔任國際頂級會議大會或者領域主席,如 AAAI, IJCAI, KDD, NeurIPS, ICLR, ICML, ACL, EMNLP。

崔鵬,清華大學計算機係長聘副教授。於 2010 年獲得清華大學博士學位,研究興趣包括因果正則機器學習(causally-regularized machine learning)、網絡表示學習和社交動態建模。他在數據挖掘和多媒體領域知名會議和期刊上發表文章 100 多篇,近期研究獲得 IEEE Multimedia Best Department Paper Award、ICDM 2015 最佳學生論文獎等多個獎項。2015 年,他獲得 ACM 中國新星獎,2018 年獲得 CCF-IEEE CS 青年科學家獎。目前,他是 ACM 和 CCF 傑出會員、IEEE 高級會員。

裴健在數據科學、大數據、數據挖掘和數據庫係統等領域,是世界領先的研究學者,國際計算機協會(ACM)院士和國際電氣電子工程師協會(IEEE)院士,擅長為數據密集型應用設計開發創新性的數據業務產品和高效的數據分析技術。因其在數據挖掘基礎、方法和應用方麵的傑出貢獻,裴健曾獲得數據科學領域技術成就最高獎 ACM SIGKDD Innovation Award(ACM SIGKDD 創新獎)和 IEEE ICDM Research Contributions Award(IEEE ICDM 研究貢獻獎)。2018 年,裴健入職京東,任集團副總裁。此前,裴健教授還曾擔任華為首席科學家。2019 年 9 月,裴健當選加拿大皇家學會院士。

趙亮現為埃默裏大學擔任計算機係助理教授,研究方向為數據挖掘、機器學習和優化。此前曾在喬治梅森大學信息科技學院和計算機學院擔任助理教授。2016 年秋,趙亮獲得弗吉尼亞理工大學的博士學位。此外,趙亮曾獲 2020 年美國自然科學基金委員會傑出青年獎(NSF CAREER AWARD)、2019 年 Jeffress Trust Award、2017 年弗吉尼亞理工大學計算機學院傑出博士獎,並入選 2016 年微軟評選出的數據挖掘領域 20 位學術新星。他還獲得過 ICDM 2019 會議的最佳論文獎項。

成為VIP會員查看完整內容
1
142
3

相關內容

圖神經網絡 (GNN) 是一種連接模型,它通過圖的節點之間的消息傳遞來捕捉圖的依賴關係。與標準神經網絡不同的是,圖神經網絡保留了一種狀態,可以表示來自其鄰域的具有任意深度的信息。近年來,圖神經網絡(GNN)在社交網絡、知識圖、推薦係統、問答係統甚至生命科學等各個領域得到了越來越廣泛的應用。

知識薈萃

精品入門和進階教程、論文和代碼整理等

更多

查看相關VIP內容、論文、資訊等

圖論因其在計算機科學、通信網絡和組合優化方麵的應用而成為一門重要的學科。它與其他數學領域的互動也越來越多。雖然這本書可以很好地作為圖表理論中許多最重要的主題的參考,但它甚至正好滿足了成為一本有效的教科書的期望。主要關注的是服務於計算機科學、應用數學和運籌學專業的學生,確保滿足他們對算法的需求。在材料的選擇和介紹方麵,已試圖在基本的基礎上容納基本概念,以便對那些剛進入這一領域的人提供指導。此外,由於它既強調定理的證明,也強調應用,所以應該先吸收主題,然後對主題的深度和方法有一個印象。本書是一篇關於圖論的綜合性文章,主題是有組織的、係統的。這本書在理論和應用之間取得了平衡。這本書以這樣一種方式組織,主題出現在完美的順序,以便於學生充分理解主題。這些理論已經用簡單明了的數學語言進行了描述。這本書各方麵都很完整。它將為主題提供一個完美的開端,對主題的完美理解,以及正確的解決方案的呈現。本書的基本特點是,概念已經用簡單的術語提出,並詳細解釋了解決過程。

這本書有10章。每一章由緊湊但徹底的理論、原則和方法的基本討論組成,然後通過示例進行應用。本書所介紹的所有理論和算法都通過大量的算例加以說明。這本書在理論和應用之間取得了平衡。第一章介紹圖。第一章描述了同構、完全圖、二部圖和正則圖的基本和初等定義。第二章介紹了不同類型的子圖和超圖。本章包括圖形運算。第二章還介紹了步行、小徑、路徑、循環和連通或不連通圖的基本定義。第三章詳細討論了歐拉圖和哈密頓圖。第四章討論樹、二叉樹和生成樹。本章深入探討了基本電路和基本割集的討論。第五章涉及提出各種重要的算法,在數學和計算機科學中是有用的。第六章的數學前提包括線性代數的第一個基礎。矩陣關聯、鄰接和電路在應用科學和工程中有著廣泛的應用。第七章對於討論割集、割頂點和圖的連通性特別重要。第八章介紹了圖的著色及其相關定理。第九章著重介紹了平麵圖的基本思想和有關定理。最後,第十章給出了網絡流的基本定義和定理。

成為VIP會員查看完整內容
0
107
0

圖是連接數據網絡結構的一種常用表示形式。圖數據可以在廣泛的應用領域中找到,如社會係統、生態係統、生物網絡、知識圖譜和信息係統。隨著人工智能技術的不斷滲透發展,圖學習(即對圖進行機器學習)越來越受到研究者和實踐者的關注。圖學習對許多任務都非常有效,如分類,鏈接預測和匹配。圖學習方法通常是利用機器學習算法提取圖的相關特征。在這個綜述中,我們提出了一個關於圖學習最全麵的概述。特別關注四類現有的圖學習方法,包括圖信號處理、矩陣分解、隨機遊走和深度學習。分別回顧了這些類別下的主要模型和算法。我們研究了諸如文本、圖像、科學、知識圖譜和組合優化等領域的圖學習應用。此外,我們還討論了該領域幾個有前景的研究方向。

真實的智能係統通常依賴於機器學習算法處理各種類型的數據。盡管圖數據無處不在,但由於其固有的複雜性,給機器學習帶來了前所未有的挑戰。與文本、音頻和圖像不同,圖數據嵌入在一個不規則的領域,使得現有機器學習算法的一些基本操作不適用。許多圖學習模型和算法已經被開發出來解決這些挑戰。本文係統地綜述了目前最先進的圖學習方法及其潛在的應用。這篇論文有多種用途。首先,它作為不同領域(如社會計算、信息檢索、計算機視覺、生物信息學、經濟學和電子商務)的研究人員和從業者提供圖學習的快速參考。其次,它提供了對該領域的開放研究領域的見解。第三,它的目的是激發新的研究思路和更多的興趣在圖學習。

圖,又稱網絡,可以從現實世界中豐富的實體之間的各種關係中提取。一些常見的圖表已經被廣泛用於表達不同的關係,如社會網絡、生物網絡、專利網絡、交通網絡、引文網絡和通信網絡[1]-[3]。圖通常由兩個集合定義,即頂點集和邊集。頂點表示圖形中的實體,而邊表示這些實體之間的關係。由於圖學習在數據挖掘、知識發現等領域的廣泛應用,引起了人們的廣泛關注。由於圖利用了頂點[4],[5]之間的本質和相關關係,在捕獲複雜關係方麵,圖學習方法變得越來越流行。例如,在微博網絡中,通過檢測信息級聯,可以跟蹤謠言的傳播軌跡。在生物網絡中,通過推測蛋白質的相互作用可以發現治療疑難疾病的新方法。在交通網絡中,通過分析不同時間戳[6]的共現現象,可以預測人類的移動模式。對這些網絡的有效分析很大程度上取決於網絡的表示方式。

一般來說,圖學習是指對圖進行機器學習。圖學習方法將圖的特征映射到嵌入空間中具有相同維數的特征向量。圖學習模型或算法直接將圖數據轉換為圖學習體係結構的輸出,而不將圖投影到低維空間。由於深度學習技術可以將圖數據編碼並表示為向量,所以大多數圖學習方法都是基於或從深度學習技術推廣而來的。圖學習的輸出向量在連續空間中。圖學習的目標是提取圖的期望特征。因此,圖的表示可以很容易地用於下遊任務,如節點分類和鏈接預測,而無需顯式的嵌入過程。因此,圖學習是一種更強大、更有意義的圖分析技術。

在這篇綜述論文中,我們試圖以全麵的方式檢驗圖機器學習方法。如圖1所示,我們關注現有以下四類方法:基於圖信號處理(GSP)的方法、基於矩陣分解的方法、基於隨機遊走的方法和基於深度學習的方法。大致來說,GSP處理圖的采樣和恢複,並從數據中學習拓撲結構。矩陣分解可分為圖拉普拉斯矩陣分解和頂點接近矩陣分解。基於隨機遊動的方法包括基於結構的隨機遊動、基於結構和節點信息的隨機遊動、異構網絡中的隨機遊動和時變網絡中的隨機遊動。基於深度學習的方法包括圖卷積網絡、圖注意力網絡、圖自編碼器、圖生成網絡和圖時空網絡。基本上,這些方法/技術的模型架構是不同的。本文對目前最先進的圖學習技術進行了廣泛的回顧。

傳統上,研究人員采用鄰接矩陣來表示一個圖,它隻能捕捉相鄰兩個頂點之間的關係。然而,許多複雜和不規則的結構不能被這種簡單的表示捕獲。當我們分析大規模網絡時,傳統的方法在計算上是昂貴的,並且很難在現實應用中實現。因此,有效地表示這些網絡是解決[4]的首要問題。近年來提出的網絡表示學習(NRL)可以學習低維表示[7]-[9]的網絡頂點潛在特征。當新的表示被學習後,可以使用以前的機器學習方法來分析圖數據,並發現數據中隱藏的關係。

當複雜網絡被嵌入到一個潛在的、低維的空間中時,結構信息和頂點屬性可以被保留[4]。因此,網絡的頂點可以用低維向量表示。在以往的機器學習方法中,這些向量可以看作是輸入的特征。圖學習方法為新的表示空間中的圖分析鋪平了道路,許多圖分析任務,如鏈接預測、推薦和分類,都可以有效地解決[10],[11]。網絡的圖形化表現方式揭示了社會生活的各個方麵,如交流模式、社區結構和信息擴散[12],[13]。根據頂點、邊和子圖的屬性,可以將圖學習任務分為基於頂點、基於邊和基於子圖三類。圖中頂點之間的關係可以用於分類、風險識別、聚類和社區檢測[14]。通過判斷圖中兩個頂點之間的邊的存在,我們可以進行推薦和知識推理。基於子圖[15]的分類,該圖可用於聚合物分類、三維可視化分類等。對於GSP,設計合適的圖形采樣方法以保持原始圖形的特征,從而有效地恢複原始圖形[16]具有重要意義。在存在不完整數據[17]的情況下,可以使用圖恢複方法構造原始圖。然後利用圖學習從圖數據中學習拓撲結構。綜上所述,利用圖學習可以解決傳統的圖分析方法[18]難以解決的以下挑戰。

成為VIP會員查看完整內容
0
90
3

導讀: 圖神經網絡(GNN,Graph Neural Networks)是 2019 年 人工智能領域最熱門的話題之一。圖神經網絡是用於圖結構數據的深度學習架構,將端到端學習與歸納推理相結合,業界普遍認為其有望解決深度學習無法處理的因果推理、可解釋性等一係列瓶頸問題,是未來 3 到 5 年的重點方向。2019 年圖神經網絡有哪些研究成果值得關注?2020 年它又將朝什麼方向發展?讓我們一起來一探究竟。文末有送新書《深入淺出圖神經網絡-GNN原理解析》福利,提前祝各位專知用戶鼠年春節快樂!

1. GNN:從嚐鮮進入快速爆發期

近年來,作為一項新興的圖數據學習技術,圖神經網絡(GNN)受到了非常廣泛的關注。在2018年年末,出現了一個十分有趣的現象,該領域同時發表了三篇綜述類型論文,這種“不約而同”體現了學術界對該項技術的認可。

  • 清華大學孫茂鬆課題組:《圖神經網絡: 方法與應用》綜述論文,20頁pdf

  • 清華大學朱文武課題組:《圖深度學習》綜述論文,15頁pdf

  • 圖神經網絡概述第三彈:來自IEEE Fellow的GNN綜述

事實上,在2019年的各大頂級學術會議上,與圖神經網絡有關的論文也占據了相當可觀的份額。相信在未來幾年,這種流行的趨勢會隻增不減。

圖神經網絡技術的出現有其必然性和重要性。在深度神經網絡技術興起的前幾年,圖像、語音、文本等形式的數據都能夠得到很好的“深度學習”,並獲得了十分優秀的效果。這促使一大類產業界的相關應用進入了實用階段,如人臉識別、語音助手、機器翻譯等。盡管如此,深度學習一直缺乏對另一類形式的數據—圖數據(或稱網絡數據)進行有效地適配。作為一類主要描述關係的通用數據表示方法,圖數據在產業界有著更加廣闊的應用場景,在諸於社交網絡、電子購物、物聯網、生物製藥等場景中,都可以找到圖數據的影子。將深度學習技術的成功經驗遷移到圖數據的學習中來,是一種十分自然且必要的需求。在這樣的背景下,圖神經網絡的出現,很好地填補了上述技術空白,實現了圖數據與深度學習技術的有效結合,使得深度學習能夠在圖數據的相關應用場景中繼續攻城略地。事實上,縱觀這三年,圖神經網絡技術的相關應用研究已經拓展到了極其寬廣的局麵,從視覺推理到開放性地閱讀理解問題,從藥物分子的研發到5G芯片的設計,從交通流量預測到3D點雲數據的學習,該項技術展示出了及其重要且極具滲透性的應用能力,這種能力必將給產業界帶來極高的應用價值

2. GNN 的原理、變體及拓展GNN 作為一個新興的技術方向,其原理解讀以及各類變體與拓展構成了理論研究的熱點,這些論文很好地回答了 GNN 的優缺點以及相關的適應性改造問題。

2.1 GNN 原理解讀當前 GNN 研究的第一個熱點在於其相關能力的理論化研究。在 “How Powerful are Graph Neural Networks?” 和 “On the equivalence between graph isomorphism testing and function approximation with GNNs” 中,都對 GNN 在圖同構問題上的表現進行了探討。圖同構問題是辨別給定的兩個圖是否一致,同構圖如下圖所示。這個問題考驗了算法對圖數據結構的辨別能力,這兩篇文章都證明了 GNN 模型具有出色的結構學習能力。圖中天然包含了關係,因此許多 GNN 相關的工作就建立在對給定係統進行推理學習的研究上,在這些研究中,“Can graph neural networks help logic reasoning? ” 和 “The Logical Expressiveness of Graph Neural Networks” 論證了 GNN 在邏輯推理上的優秀表現。“All We Have is Low-Pass Filters ” 從低通濾波的層麵解釋了 GNN 的有效性。這些原理解讀,有助於我們對 GNN 的特色專長建立一種更加清晰的認識。

2.2 GNN 的各類變體GNN 模型的相關變體研究是領域內的另一個熱點,這些變體在一些方麵提升了 GNN 的能力表現。我們知道 GCN 模型來源於圖信號上的傅裏葉變換,“Graph Wavelet Neural Network” 引入了圖信號上的小波變換來改造 GCN 模型,將卷積計算變換到空域局部鄰域內。將數據表征從歐式空間轉化到雙曲空間,不僅能獲得更好地層次化表示,同時能大大節約空間維度,“Hyperbolic Graph Convolutional Neural Networks”和 “Hyperbolic Attention Networks” 同時將 GNN 拓展到了雙曲空間上去。

在 “MixHop: Higher-Order Graph Convolutional Architectures via Sparsified Neighborhood Mixing” 和 “Diffusion Improves Graph Learning”中,同時將原始 GCN 中的鄰居定義由一階拓展到高階,強化了模型低通濾波的特性。

2.3 GNN 在各類圖數據及任務上的拓展圖數據是一個種類繁多的數據家族,模型對這些不同類型的數據如何適配,是 GNN 發展的另一重要方向。下表給出了相應的概括:

在圖數據相關的任務上,圖的分類是一個重要而又未完全解決好的問題,其難處在於如何在圖數據上實現層次化的池化操作從而獲得圖的全局表示,“Graph Convolutional Networks with EigenPooling”中給出了一種新的操作思路。

3. GNN 相關應用

近幾年,以深度學習為代表的人工智能技術給產業界帶來了新的變革。該技術在視覺、語音、文本三大領域取得了極大的應用成果,這種成功,離不開深度學習技術對這三類數據定製化的模型設計工作。脫離於這三類數據之外,圖數據是一種更加廣泛的數據表示方式,誇張地說,沒有任何一個場景中的數據彼此之間是孤立存在的,這些數據之間的關係都可以以圖的形式進行表達。下圖給出了一些圖數據的使用場景:

3.1 GNN 的應用簡述

GNN的適用範圍非常廣泛,既可以處理具有顯式關聯結構的數據如藥物分子、電路網絡等,也可以處理具有隱式關聯結構的數據如圖像、文本等。近年來,GNN已經被用來解決各行各業的問題,例如生物化學領域中的分子指紋識別、藥物分子設計、疾病分類等,在交通領域對交通需求預測、道路速度預測,在計算機圖像處理領域的目標檢測、視覺推理等,在自然語言處理領域的實體關係抽取、關係推理等。在引文[1]中分成六個方向:自然語言處理、計算機視覺、自然科學研究、知識圖譜、組合優化、圖生成,對GNN的應用做出了較為全麵與細致的歸納總結。

縱觀GNN的各類應用,GNN表現出了如下三點優勢:

1. GNN具有強大的圖數據擬合能力。作為一種建立在圖上的端對端學習框架,GNN展示出了強大的圖數據擬合能力。圖數據是科學與工程學領域中一種十分常見的數據研究對象,因此,GNN也被應用到了很多相關場景下,並且都取得了不錯的效果。通常這些應用均會利用GNN去擬合研究對象的一些理化性質,從而指導或加速相應的科研與開發工作。比如引文利用[2]GNN去擬合兩圖中節點對的組合性質,從而提升蛋白質相互作用點預測的精度,而蛋白質相互作用點預測是藥物分子發現與設計工作的重要構成部分;引文[3]將高頻電路抽象成圖數據,利用GNN去擬合其電磁學性質,相較於嚴格的電磁學仿真計算,該方法能極大的加速高頻電路(比如5G 芯片)的設計工作。

2. GNN 具有強大的推理能力。計算機要完成推理任務、離不開對語義實體的識別以及實體之間關係的抽取,很自然地,GNN被應用到了很多推理任務的場景中去。相較於之前大多基於關係三元組的建模方式,GNN能夠對表征語義關係的網絡進行整體性地建模,習得更加複雜與豐富的語義信息,這對提升推理任務的效果大有裨益。深度學習經過近幾年的長足發展,在許多識別相關的任務上都取得了前所未有的成果,基於此,需要更深程度理解數據的推理任務被提出來,比如計算機視覺中的視覺問答(Visual Question Answering)、視覺推理(Visual Reasoning),自然語言處理中的多跳推理(Multi-hop Reasoning)等。隨著GNN的流行,很多工作也嚐試將GNN以一種端對端地形式嵌入到學習係統中去,提升相關任務的效果。我們舉兩個例子說明:第一個是在基於事實的視覺問答(Fact-based Visual Question Answering)中,問題不再直接包含答案內容,需要學習係統經過推理將問題中的事實關係正確映射到答案中的實體上。在引文[4]中通過引入GCN同時建模多條事實來提升對答案推理的正確性,這一方法在相關數據集上取得了極大的效果提升。第二個是多跳推理,相比於之前的閱讀理解任務,多跳推理需要跨越多個段落甚至多個文檔來尋找實體之間的多跳關係,這是一個更加開放更加複雜的推理任務。在引文[5]中通過嵌入GNN,構造了一個抽取加推理的雙線學習框架,使得學習係統在可解釋性提升的同時也在相關數據集上獲得了極大的效果提升。

3. GNN與知識圖譜結合,可以將先驗知識以端對端的形式高效地嵌入到學習係統中去。人類在學習後習得的知識,會被大腦神經係統進行係統地加工並存儲起來,作為之後相關活動發生時的一種先驗知識高效提升人類的應對表現,並且往往知識之間會產生各種關聯,形成“知識地圖”。這種機製對應著數據科學領域中一些技術如知識圖譜的廣泛應用。從數據建模的層麵說,這些知識(或者規則、經驗、常識、事實等)為模型提供了額外的相關信息,可以有效提升學習係統的效果。作為一種端對端的圖數據學習模型,GNN結合知識圖譜,可以將先驗知識高效地嵌入到任意一種學習係統中去,提升任務效果。比如引文[6]在零樣本學習任務中利用GCN對詞彙網絡(WordNet)進行建模,實現了類別之間的語義關係到其視覺表示上的遷移,從而大大提升視覺模型在一些完全不提供訓練樣本的類別上的分類準確率。引文[7]通過補充額外的知識圖譜信息,將知識圖譜與用戶-商品二部圖構成一種合成的圖結構,然後利用GNN進行推薦任務建模,同時增強了推薦係統的準確率、多樣性與可解釋性。

總的來說,正是由於GNN強大而靈活的特性,使得其不管在圖數據本身的學習任務上,還是在被以端對端的形式融合到其他的學習任務中,都能表現出自己的獨特優勢。當然,上麵一以概之的優勢需要與實際場景進行深度耦合,在具體地應用中尋找精確的定位,隻有這樣,才能在相關場景中獲得優秀的效果。

3.2 應用案例

在最近一年,GNN 的應用場景不斷延伸,覆蓋了計算機視覺、3D 視覺、自然語言處理、科研、知識圖譜、推薦、反欺詐等場景,下麵我們將逐項概括。

3.2.1 計算機視覺在前幾年跨越了視覺識別的大門之後,推理相關的視覺任務已經成為了了各大 CV 頂會的主要關注點,如:視覺問答、視覺推理、語義圖合成、human-object interaction 等,甚至如視覺的基礎任務,目標檢測也需要用到推理來提升性能。在這些任務中,已經大量出現應用 GNN 的相關工作。下麵我們以最常見的視覺問答任務舉例說明,在“Relation-Aware Graph Attention Network for Visual Question Answering”一文中,給出了將 GNN 與視覺模型結合的示意圖:

在上圖中,視覺模型的作用是提取給定圖像中的語義區域,這些語義區域與問題一並當做圖中的節點,送到一個 GNN 模型中進行推理學習,這樣的一種建模方式,可以更加有效地在視覺問答中對問題進行自適應地推理。

另外一個有意思的場景是少樣本或零樣本學習,由於這類場景下樣本十分缺乏,如何充分挖掘樣本之間的潛在關聯信息(比如標簽語義關聯、潛層表達關聯)就成為了一個至關重要的考量因素,引入 GNN 成為了一個非常自然的動作,相關工作有“Rethinking Knowledge Graph Propagation for Zero-Shot Learning”、“Edge-labeling Graph Neural Network for Few-shot Learning”。

3.2.2 3D 視覺

3D 視覺是計算機視覺的又一重要發展方向,世界是 3D 的,如何讓計算機理解 3D 世界,具有極其重要的現實價值。3D 視覺中,點雲數據是一種十分常見的數據表示方法。

點雲數據通常由一組坐標點(x,y,z)表示,這種數據由於映射了現實世界中物體的特征,因此存在一種內在的表征物體語義的流行結構,這種結構的學習也是 GNN 所擅長的。需要說明一點的是,在 3D 視覺中流行的是幾何學習 Geometry Learning,當下,幾何學習與 GNN 在一些場景如點雲分割、點雲識別等正在深度融合,相關論文有 “Graph Attention Convolution for Point Cloud Segmentation”、“Semantic Graph Convolutional Networks for 3D Human Pose Regression”。

3.2.3 視覺推理

推理是人類具有的高階能力,是人類智能中很重要的部分,如何讓計算機擁有推理能力是人工智能領域一項重要的課題。

以視覺領域為例,盡管卷積神經網絡等模型取得了極大的成功,但是仍不具備複雜推理的能力,比如圖 7‑4中,要判斷藍色方框的目標是什麼。人類在看到這副圖像的時候,根據圖中的棒球棒、人物的姿態,首先會得出這張圖在描述打棒球,然後以此為依據,對於藍色的目標區域,根據這個人的姿勢和手部姿態判斷他是處於接棒球的狀態,因此可以推斷藍色區域為棒球手套。而使用基於卷積網絡的方法進行識別,除了在更大的感知野內獲得的層次化特征之外,無法通過圖像的語義信息來準確推理出藍色區域的目標。

文獻[15]為了解決上述的局限,提出了一個融合了空間信息和語義信息的迭代式視覺推理係統。整個係統有兩個核心的模塊,一是在卷積網絡基礎上引入了記憶機製的局部推理模塊,二是融合了空間和語義信息的全局推理模塊。整體的推理框架如下圖所示。

推理框架結構圖

局部推理模塊以記憶模塊S作為輸入進行預測,其中記憶模塊S用來存儲通過卷積網絡提取的目標區域的位置特征和圖像特征。

全局推理模塊主要基於空間特征和語義特征進行推理。空間指的是建立位置上不相鄰區域的聯係,語義指的是利用外部的知識庫建立類別與類別之間的聯係。為了綜合利用這兩方麵的信息,采用GNN作為推理模塊。圖的構成使用了兩種類型的節點,由所有的區域組成的區域節點,和所有區域對應的實體作為節點。節點與節點之間的邊通過如下三種關係建立,第一種是區域與區域之間通過它們距離關係進行關聯,邊的權重由像素距離的核函數歸一化值決定;另外對於有重疊的區域,通過IoU值建立它們之間的關係。第二種是區域與實體之間的關係,根據對區域預測的概率分布(softmax輸出),建立與實體之間的關係,邊的權重為對應的概率值。第三種是實體與實體之間的關係,這個關係來自於外部的知識圖譜,可以將多種實體關係考慮進來,比如類別從屬關係、部件從屬關係(腿和椅子)、單複數關係、水平對稱關係等。

以上述構建的圖為基礎,使用GNN來進行推理,區域節點的特征來自卷積網絡,實體節點的特征來自預訓練的詞向量。GNN推理是為了融合空間和語義信息對區域進行推理,因此使用了兩條推理路徑。一條是區域——區域,它聚合多個區域的特征以得到空間特征;另一條是區域——實體——實體,它分為兩步,第一步將區域的特征聚合到實體節點並與實體節點特征融合,然後對不同類型的實體關係進行聚合得到實體的特征,這對應著語義關係。為了得到區域的最終特征,通過實體——區域的關係,將實體攜帶的語義特征聚合到區域節點上,並與第一條推理路徑得到的空間特征進行融合。整個過程如下圖所示。

全局推理模塊示意圖

推理通常不是一步到位的,而是迭代式的。為了將前一輪的信息傳遞到後一輪,可以使用記憶模塊,局部推理和全局推理使用不同的記憶模塊和,每次迭代得到的輸出用於更新記憶模塊。另外模型還引入了注意力機製,以便融合當前預測值與來自其他迭代過程產生的預測值。模型在不同的訓練數據集上進行試驗,將識別效果對比卷積神經網絡提升了3.7% ~ 8.4%。

3.2.4 自然語言處理

GNN 與 NLP 的結合,關鍵點也在於 GNN 優秀的推理能力。GNN 在一些場景如:閱讀理解、實體識別與關係抽取、依存句法分析中都有應用。下麵我們以多跳閱讀(Multi-hop reading)為例,多跳閱讀是說在閱讀理解的過程中,往往需要在多篇文檔之間進行多級跳躍式的關聯與推理,才能找到正確答案,相比較以前的單文檔問答數據集,這是一個更具有開放性與挑戰性的推理任務。下圖給出了多跳閱讀的樣例:

在“Cognitive Graph for Multi-Hop Reading Comprehension at Scale”一文中,作者基於 BERT 和 GNN 的實現可有效處理 HotPotQA 數據集中有關多跳閱讀問題的數百萬份文檔,在排行榜上的聯合 F1 得分為 34.9,而第二名的得分隻有 23.6。

3.2.5 知識圖譜

由於知識圖譜本身就是一種圖數據,因此知識圖譜 +GNN 的組合自然就成了解決各類知識圖譜問題的新手段。關係補全或預測問題是知識圖譜的一大基礎任務,通過關係的推理補全可以大大提升知識圖譜的應用質量,下圖給出了關係補全的一個實例:

在論文“Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs”中,作者選擇用 GNN 對知識圖譜進行建模,相比之前基於單獨三元組關係的推理,基於 GNN 的方法可以更好地捕捉三元組鄰域複雜而隱含的模式信息,這種優勢對完成關係補全任務具有十分重要的作用。

實體對齊是知識圖譜的另一類任務,給定多個知識圖譜,需要首先確定各自圖譜中的哪些實體描述的是同一個對象,完成這項工作才能正確地將它們合成一個大的知識圖譜。論文“Multi-Channel Graph Neural Network for Entity Alignment”提出了一種基於 GNN 的實體對齊方案,實驗表明,在多個數據集上,該方案均取得了最好的效果。

近幾年,知識圖譜在工業界聲勢日隆,在這種語境下,我們也稱知識圖譜為業務圖譜,在論文“Estimating Node Importance in Knowledge Graphs Using Graph Neural Networks”中,作者成功運用 GNN 技術對電影業務圖譜進行建模,在電影流行度預測上效果表現十分出色。

另外,知識圖譜與推薦係統結合也成了近期一個比較熱門的方向,這部分可參考下一節推薦係統中的講解。

3.2.6 推薦係統

推薦是各大互聯網公司十分重要的營收手段,因此一直以來備受工業界與學術界雙重關注。過去這幾年,推薦係統由早期的協同過濾算法發展到 MF 模型、再到之後的 Wide&Deep,以及基於 Network Embedding 的方法,可以明顯地看到基於神經網絡的方法正在逐漸占據主要位置,而 GNN 的出現,又一次大大加速了這個技術趨勢。

以電商平台的推薦為例,推薦係統的核心數據在於用戶 - 商品交互的二部圖,而基於神經網絡的多數方法將二部圖中的實體映射到一個合適的向量空間中去,使得在圖上距離越近的兩個實體在向量空間中的距離也越近,如下圖所示:

GNN 本身是一種深度模型,與推薦係統結合之後,多層 GNN 模型可以更好地捕捉用戶與商品之間的高階協同關係,論文“Neural Graph Collaborative Filtering”中,作者論證了多層 GNN 所帶來的“Deep”與“High order”效益對推薦質量的有效提升。

除了推薦係統算法模型本身的研究,另一種思路在於如何使推薦係統有效融合進額外的信息,如用戶端社交網絡的信息、商品端商品知識圖譜的信息。這類信息中通常也蘊含了極強的關係,因此可以非常自然地與用戶 - 商品二部圖合在一起構成一個更大的異構圖。下圖給出了與電影知識圖譜的結合示意圖:

圖片來源https://arxiv.org/pdf/1902.06236.pdf

有了這樣的圖數據抽象之後,引進 GNN 進行推薦建模也就成了一種自然的選擇,相關論文有 KGAT:“ Knowledge Graph Attention Network for Recommendation”、“Metapath-guided Heterogeneous Graph Neural Network for Intent Recommendation”、“Session-based Social Recommendation via Dynamic Graph Attention Networks”等。

另外一個十分重要的、也與推薦係統息息相關相關的業務場景是廣告點擊率(CTR)預測。該場景下的樣本通常是由多領域的特征數據構成,比如用戶域、設備域、廣告域等等,如何建模這些數據域之間的特征交互,成為了該任務的核心。最近基於神經網絡的方法都是直接將各個域之間的特征拚接起來然後送到上層的網絡模型中,以期得到這些域之間的高階交互,這種簡單的非結構化的拚接方式,會大大限製模型的學習能力。在“Fi-GNN: Modeling Feature Interactions via Graph Neural Networks for CTR Prediction”一文中,作者將各個域之間以圖的形式連接起來(下圖中的 Feature graph),然後用 GNN 建模各個特征域之間高階複雜的交互關係,相比之前的模型取得了最好效果。

4. GNN的未來展望

作為一種新興的神經網絡技術,GNN的快速發展離不開近些年深度學習在各方麵的重要積澱。而與GNN的結合,可以助力深度學習係統拓展其在更廣領域、更多層麵的場景任務中獲得成功。我們非常確信在未來幾年,GNN會在越來越多的場景下得到應用。

接下來,我們從三個方麵總結對GNN未來研究的展望。當然下述觀點僅供參考,讀者朋友也應有自己的思考。

充分適應複雜多變的圖數據。一方麵,圖數據的類型及其繁雜,如關係經常發生變化的動態圖、一條邊連接兩個以上節點的超圖,這些圖數據的結構更加複雜,需要GNN進行針對性地設計。二方麵,GNN針對異構圖與屬性圖還需要更充分地研究與設計,以學習其中豐富多樣的語義信息。

在更多推理任務上的應用與學習機製的研究改進。推理任務已經成為當下深度學習係統麵臨的核心任務之一,雖然GNN已經展現出了在相關任務上的獨特優勢,但是內在的作用機理還需要充分研究。通過對其學習機製地不斷完善與發展,來促使GNN在更多、更複雜的推理任務中獲得更好的表現。

對超大規模圖建模的支持。現有大多數圖神經網絡都無法擴展到規模巨大的圖數據中去。GNN的訓練是一種協同的學習方式,在一次迭代中,節點固有的上下文會導致其狀態的更新需要涉及到大量鄰居節點的隱藏狀態,複雜度極高,難以應用小批量訓練方式提升計算效率。盡管已有研究提出基於抽樣與分區的手段來解決這類問題,但這些手段仍不足以擴展到工業級超大規模屬性圖的學習中去。

作者介紹:

劉忠雨,畢業於華中科技大學,資深圖神經網絡技術專家,極驗科技人工智能實驗室主任和首席技術官。在機器學習、深度學習以及圖學習領域有 6 年以上的算法架構和研發經驗,主導研發了極驗行為驗證、深知業務風控、疊圖等產品。

文末福利

隨著圖神經網絡的熱潮出現,了解和掌握圖神經網絡相關技術原理已經成為未來從事 AI 相關工作的一種趨勢。劉忠雨和他所在技術團隊撰寫了《深入淺出圖神經網絡》一書並於近日上市 ,這是第一本係統講解圖神經網絡相關基礎知識和原理的書籍,適合想要入門並初步實踐圖神經網絡技術的讀者,以及對係統學習圖神經網絡技術感興趣的讀者。

本書分為三大部分:

第一部分為基礎篇,包括第1~4章,由李彥霖撰寫。主要介紹學習圖神經網絡所需的基礎知識,包括圖的基本概念、卷積神經網絡以及表示學習,幫助初學者更加清晰地感受到圖神經網絡技術與深度學習技術的一脈相承。

第二部分為高級篇,包括第5~9章。這部分是本書的重點,主要介紹圖卷積神經網絡的理論基礎和性質,圖神經網絡的各種變體和框架範式,圖分類以及基於GNN的圖表示學習。該部分在各章節附有相關的實踐案例,為讀者規劃了完整的從理論基礎到上手實踐的學習路線,幫助讀者係統全麵地學習圖神經網絡。這部分有兩位作者,相關的理論部分由筆者撰寫,實踐案例的代碼由李彥霖提供。

第三部分也就是最後一個章節,主要是介紹圖神經網絡目前的一些應用,圖神經網絡的應用非常廣泛,現實應用場景非常多。鑒於本書的規劃,這裏隻是略著筆墨,旨在拋磚引玉,為讀者帶來一些應用場景的認知。這部分由周洋撰寫。

最後,每個章節都附有相關的參考文獻。

本書特色

本書圍繞著圖神經網絡技術,給讀者朋友相對係統地闡述了該項技術的方方麵麵。其中比較有特色的地方有如下幾點:

(1)詳細闡述了圖卷積模型的由來,以及什麼是頻域圖卷積和空域圖卷積,相信這是很多初學者入門該項技術的第一個攔路虎;

(2)集中闡述了圖卷積模型的一些性質,這些性質的解讀對讀者較深入地理解圖神經網絡技術有著重要的作用;

(3)給出了關鍵部分的代碼,希望借此輔助讀者清晰理解書中一些公式裏變量的具體含義。

此外,本書為了幫助讀者理解圖神經網絡的相關概念,提供了很多的示意圖,希望讀者能夠建立起更加形象的理解方式。

本次專知聯合華章圖書出版社為專知的粉絲送出《深入淺出圖神經網絡》紙質書籍 8 本!

在本文下方留言給出你想要這本書的理由,截至開獎時間,留言點讚數最高的前 8 位贈送本書(留言擇優放出)。開獎時間:1 月 31 日(周五)18:00,獲獎者每人獲得一本。歡迎大家轉發邀請好友點讚,獲取新書,先到先得!

沒獲獎對讀者可以點擊鏈接購買此書!

成為VIP會員查看完整內容
0
116
4
小貼士
相關論文
Heiko Dietrich,Murray Elder,Adam Piggott,Youming Qiao,Armin Weiß
0+閱讀 · 1月17日
Harsh Gupta,Mason A. Porter
0+閱讀 · 1月17日
Samaa Elnagar,Manoj Thomas
0+閱讀 · 1月16日
Hao Yuan,Haiyang Yu,Jie Wang,Kang Li,Shuiwang Ji
7+閱讀 · 2021年5月31日
Xueli Yu,Weizhi Xu,Zeyu Cui,Shu Wu,Liang Wang
6+閱讀 · 2021年2月22日
Hao Yuan,Haiyang Yu,Shurui Gui,Shuiwang Ji
30+閱讀 · 2020年12月31日
Hierarchical Graph Capsule Network
Jinyu Yang,Peilin Zhao,Yu Rong,Chaochao Yan,Chunyuan Li,Hehuan Ma,Junzhou Huang
15+閱讀 · 2020年12月16日
Nadia Burkart,Marco F. Huber
20+閱讀 · 2020年11月16日
Zhen Zhang,Jiajun Bu,Martin Ester,Jianfeng Zhang,Chengwei Yao,Zhi Yu,Can Wang
10+閱讀 · 2019年11月14日
Yue Yu,Jie Chen,Tian Gao,Mo Yu
7+閱讀 · 2019年4月22日
Top
微信掃碼谘詢專知VIP會員
Top