隨著深度神經網絡(DNNs)在過去幾十年的快速發展,推薦技術已經取得了良好的性能。然而,現有的基於DNN的方法在實踐中存在一些缺陷。更具體地說,他們認為推薦過程是一個靜態的過程,並按照一個固定的貪心策略進行推薦; 現有的大多數基於DNN的推薦係統都是基於手工製作的超參數和深度神經網絡架構;它們將每個交互視為單獨的數據實例,而忽略了實例之間的關係。

在本教程中,我們將全麵介紹深度推薦係統中解決上述問題的先進技術的最新進展,包括深度強化學習(DRL)、自動機器學習(AutoML)和圖神經網絡(GNN)。

通過這種方式,我們希望這三個領域的研究人員能夠對空間有更深刻的理解和準確的洞察,激發更多的想法和討論,促進推薦技術的發展。

https://deeprs-tutorial.github.io/

"> WWW21最新「深度學習推薦係統」教程,230頁PPT闡述深度強化學習、自動機器學習和GNN在推薦係統應用進展 - 專知VIP

推薦係統在我們的日常生活中發揮著越來越重要的作用,特別是在許多以用戶為導向的在線服務中,推薦係統在緩解信息過載問題方麵發揮著重要作用。推薦係統的目標是通過利用用戶和物品的交互來提高匹配的準確性,識別出一組最符合用戶顯性或隱性偏好的對象(即物品)。

隨著深度神經網絡(DNNs)在過去幾十年的快速發展,推薦技術已經取得了良好的性能。然而,現有的基於DNN的方法在實踐中存在一些缺陷。更具體地說,他們認為推薦過程是一個靜態的過程,並按照一個固定的貪心策略進行推薦; 現有的大多數基於DNN的推薦係統都是基於手工製作的超參數和深度神經網絡架構;它們將每個交互視為單獨的數據實例,而忽略了實例之間的關係。

在本教程中,我們將全麵介紹深度推薦係統中解決上述問題的先進技術的最新進展,包括深度強化學習(DRL)、自動機器學習(AutoML)和圖神經網絡(GNN)。

通過這種方式,我們希望這三個領域的研究人員能夠對空間有更深刻的理解和準確的洞察,激發更多的想法和討論,促進推薦技術的發展。

https://deeprs-tutorial.github.io/

成為VIP會員查看完整內容
0
66
1

相關內容

機器學習的一個分支,它基於試圖使用包含複雜結構或由多重非線性變換構成的多個處理層對數據進行高層抽象的一係列算法。

知識薈萃

精品入門和進階教程、論文和代碼整理等

更多

查看相關VIP內容、論文、資訊等

近年來,基於圖學習的推薦係統(GLRS)這個新興話題得到了快速發展。GLRS采用高級的圖學習方法來建模用戶的偏好和意圖,以及物品的特征來進行推薦。與其他RS方法(包括基於內容的過濾和協同過濾)不同,GLRS是建立在圖上的,其中重要對象(如用戶、物品和屬性)是顯式或隱式連接的。

隨著圖學習技術的快速發展,探索和開發圖中的同質或異質關係是構建更有效的RS的一個有前途的方向。通過討論如何從基於圖的表示中提取重要的知識,以提高推薦的準確性、可靠性和可解釋性。

首先對GLRS進行了表示和形式化,然後對該研究領域麵臨的主要挑戰和主要進展進行了總結和分類。

引言

推薦係統(RS)是人工智能(AI)最流行和最重要的應用之一。它們已被廣泛采用,以幫助許多流行的內容分享和電子商務網站的用戶更容易找到相關的內容、產品或服務。與此同時,圖學習(Graph Learning, GL)是一種新興的人工智能技術,它涉及到應用於圖結構數據的機器學習,近年來發展迅速,顯示出了其強大的能力[Wu et al., 2021]。事實上,得益於這些學習關係數據的能力,一種基於GL的RS範式,即基於圖學習的推薦係統(GLRS),在過去幾年中被提出並得到了廣泛的研究[Guo等人,2020]。在本文中,我們對這一新興領域的挑戰和進展進行了係統的回顧。

動機: 為什麼要用圖學習RS?

RS中的大部分數據本質上是一個圖結構。在現實世界中,我們身邊的大多數事物都或明或暗地相互聯係著;換句話說,我們生活在一個圖的世界裏。這種特征在RS中更加明顯,這裏考慮的對象包括用戶、物品、屬性、上下文,這些對象之間緊密相連,通過各種關係相互影響[Hu et al., 2014],如圖1所示。在實踐中,RS所使用的數據會產生各種各樣的圖表,這對推薦的質量有很大的幫助。

圖學習具有學習複雜關係的能力。作為最具發展前景的機器學習技術之一,GL在獲取嵌入在不同類型圖中的知識方麵顯示出了巨大的潛力。具體來說,許多GL技術,如隨機遊走和圖神經網絡,已經被開發出來學習特定類型的關係由圖建模,並被證明是相當有效的[Wu et al., 2021]。因此,使用GL來建模RS中的各種關係是一個自然和令人信服的選擇。

圖學習如何幫助RS? 到目前為止,還沒有統一的GLRS形式化。我們通常從高層次的角度對GLRS進行形式化。我們用一個RS的數據構造一個圖G = {V, E},其中對象(如用戶和商品)在V中表示為節點,它們之間的關係(如購買)在E中表示為邊。構建並訓練GLRS模型M(Θ)學習最優模型參數Θ,生成最優推薦結果R。

根據具體的推薦數據和場景,可以以不同的形式定義圖G和推薦目標R,例如,G可以是同質序列或異構網絡,而R可以是對物品的預測評級或排名。目標函數f可以是最大效用[Wang et al., 2019f]或節點之間形成鏈接的最大概率[Verma et al., 2019]。

這項工作的主要貢獻總結如下:

• 我們係統地分析了各種GLRS圖所呈現的關鍵挑戰,並從數據驅動的角度對其進行分類,為更好地理解GLRS的重要特征提供了有用的視角。

• 我們通過係統分類較先進的技術文獻,總結了目前GLRS的研究進展。

• 我們分享和討論了一些GLRS開放的研究方向,供社區參考。

成為VIP會員查看完整內容
0
45
2

深度學習在計算機視覺和語言理解領域取得了驚人的成功,受此影響,推薦研究已經轉向了基於神經網絡的新推薦模型的發明。

近年來,神經網絡推薦模型的發展取得了顯著的進展,由於神經網絡具有強大的表示能力,使得傳統的推薦模型得到了推廣和超越。

在本文中,我們對神經推薦模型進行了係統性回顧,旨在對該領域進行總結,以促進未來的發展。與現有的基於深度學習技術分類法對現有方法進行分類的調研不同,我們從推薦建模的角度對該領域進行了總結,這可能對研究推薦係統的研究者和從業者更有指導意義。

具體來說,我們根據他們用於推薦建模的數據將工作分為三種類型:

  1. 協同過濾模型,它利用了用戶-物品交互數據;

  2. 內容豐富模型,利用與用戶和物品相關的側麵信息,如用戶檔案和物品知識圖譜;

3)上下文豐富模型,它解釋了與互動相關的上下文信息,如時間、地點和過去的互動。

在回顧了每種類型的代表性工作後,我們最後討論了該領域的一些有前途的方向,包括標杆推薦係統、基於圖推理的推薦模型,以及可解釋和公平的社會公益推薦。

//www.webtourguide.com/paper/cbf33028b44f85138520717fd1d72792

由於互聯網的擴散,信息過載在人們的每一個生活中都是一個日益嚴重的問題。與搜索引擎一樣,推薦係統是緩解信息過載問題的有效解決方案,方便用戶尋找所需信息,增加服務提供商的流量和收入。它已經被廣泛應用於電子商務、社交媒體網站、新聞門戶、應用商店、數字圖書館等。它是現代信息係統中最普遍的以用戶為中心的人工智能應用之一。

關於推薦的研究可以追溯到20世紀90年代的[1],在那個年代早期的工作開發了許多基於內容的啟發式和協同過濾(CF)[2]。由於Netflix的挑戰,Matrix Factorization (MF)[3]後來很長一段時間(從2008年到2016年)成為主流推薦模型[4],[5]。然而,因子分解模型的線性性質使其在處理大而複雜的數據時效率較低。複雜的用戶-物品交互,這些物品可能包含複雜的語義(例如,文本和圖像),這需要對它們進行徹底的理解。大約在2010年中期的同一時期,機器學習領域的深度神經網絡(deep neural networks,又稱“深度神經網絡”)興起。(比如深度學習)已經在語音識別、計算機視覺和自然語言處理等領域產生了革命性的變化。深度學習的巨大成功源於神經網絡相當大的表達能力,尤其有利於從具有複雜模式的大數據中學習。這自然為推薦技術的發展帶來了新的機會。毫不奇怪,在過去的幾年中出現了很多關於開發神經網絡方法的推薦係統的工作。在這項工作中,我們的目的是提供一個係統的回顧推薦模型使用神經網絡-稱為“神經推薦模型”。這是當前推薦研究中最熱門的話題,不僅近年來取得了許多令人興奮的進展,而且顯示出了成為下一代推薦係統的技術基礎的潛力。

我們專注於物品推薦的一般任務,即向用戶推薦項目,而忽略了對其他推薦任務的討論,如向一組用戶推薦物品、特定領域推薦(如教育推薦和時尚推薦)。此外,我們專注於利用單個域的數據的工作,而忽略了關於跨域推薦[8]的討論。我們的目標是提供一個單一領域的一般性項目推薦的全麵綜述,並幫助青年研究者掌握該領域的主要研究方向。

本次綜述的組織結構如下。在第2節中,我們將回顧使用ID和交互曆史進行建模的協同過濾模型。在第3節中,我們回顧了將用戶和商品的側麵信息整合到推薦中的模型,如用戶簡介和社交網絡、商品屬性和知識圖譜。我們將它們稱為內容豐富的模型,它通過集成側信息自然地擴展了CF。在第4節中,我們將回顧解釋上下文信息的模型。上下文數據與每個用戶-項目交互相關聯,例如時間、位置和過去的交互序列。上下文感知模型基於上下文數據進行預測。由於頁麵限製,我們主要關注時間信息,這是最常見的上下文數據之一。最後,對研究結果進行了總結,並提出了展望。

成為VIP會員查看完整內容
0
23
0

能夠解釋機器學習模型的預測在醫療診斷或自主係統等關鍵應用中是很重要的。深度非線性ML模型的興起,在預測方麵取得了巨大的進展。然而,我們不希望如此高的準確性以犧牲可解釋性為代價。結果,可解釋AI (XAI)領域出現了,並產生了一係列能夠解釋複雜和多樣化的ML模型的方法。

在本教程中,我們結構化地概述了在深度神經網絡(DNNs)的背景下為XAI提出的基本方法。特別地,我們提出了這些方法的動機,它們的優點/缺點和它們的理論基礎。我們還展示了如何擴展和應用它們,使它們在現實場景中發揮最大的作用。

本教程針對的是核心和應用的ML研究人員。核心機器學習研究人員可能會有興趣了解不同解釋方法之間的聯係,以及廣泛的開放問題集,特別是如何將XAI擴展到新的ML算法。應用ML研究人員可能會發現,理解標準驗證程序背後的強大假設是很有趣的,以及為什麼可解釋性對進一步驗證他們的模型是有用的。他們可能還會發現新的工具來分析他們的數據並從中提取見解。參與者將受益於技術背景(計算機科學或工程)和基本的ML訓練。

目錄內容:

Part 1: Introduction to XAI (WS) 可解釋人工智能

  • Motivations for XAI
  • Methods and Validation of XAI
  • The Clever Hans Effect

Part 2: Methods for Explaining DNNs (GM) 可解釋深度神經網絡方法

  • Self-Explainable DNNs
  • Perturbation-Based Explanation Techniques
  • Propagation-Based Explanation Techniques

Part 3: Implementation, Theory, Evaluation, Extensions (GM) 實現,理論、評價

  • Implementating XAI Techniques for DNNs
  • Theoretical Embedding of XAI
  • Desiderata of XAI Techniques and Evaluation
  • Extending XAI Beyond Heatmaps and DNNs

Part 4: Applications (WS) 應用

  • Walk-Through Examples
  • Debugging Large Datasets (Meta-Explanations and "Unhansing")
  • XAI in the Sciences
成為VIP會員查看完整內容
0
49
3

摘要

本文綜述了遷移學習在強化學習問題設置中的應用。RL已經成為序列決策問題的關鍵的解決方案。隨著RL在各個領域的快速發展。包括機器人技術和遊戲,遷移學習是通過利用和遷移外部專業知識來促進學習過程來幫助RL的一項重要技術。在這篇綜述中,我們回顧了在RL領域中遷移學習的中心問題,提供了一個最先進技術的係統分類。我們分析他們的目標,方法,應用,以及在RL框架下這些遷移學習技術將是可接近的。本文從RL的角度探討了遷移學習與其他相關話題的關係,並探討了RL遷移學習的潛在挑戰和未來發展方向。

關鍵詞:遷移學習,強化學習,綜述,機器學習

介紹

強化學習(RL)被認為是解決連續決策任務的一種有效方法,在這種方法中,學習主體通過與環境相互作用,通過[1]來提高其性能。源於控製論並在計算機科學領域蓬勃發展的RL已被廣泛應用於學術界和工業界,以解決以前難以解決的任務。此外,隨著深度學習的快速發展,應用深度學習服務於學習任務的集成框架在近年來得到了廣泛的研究和發展。DL和RL的組合結構稱為深度強化學習[2](Deep Reinforcement Learning, DRL)。

DRL在機器人控製[3]、[4]、玩[5]遊戲等領域取得了巨大的成功。在醫療保健係統[6]、電網[7]、智能交通係統[8]、[9]等領域也具有廣闊的應用前景。

在這些快速發展的同時,DRL也麵臨著挑戰。在許多強化學習應用中,環境模型通常是未知的,隻有收集到足夠的交互經驗,agent才能利用其對環境的知識來改進其性能。由於環境反饋的部分可觀察性、稀疏性或延遲性以及高維觀察和/或行動空間等問題,學習主體在沒有利用任何先驗知識的情況下尋找好的策略是非常耗時的。因此,遷移學習作為一種利用外部專業知識來加速學習過程的技術,在強化學習中成為一個重要的課題。

在監督學習(SL)領域[10]中,TL得到了廣泛的研究。與SL場景相比,由於MDP環境中涉及的組件更多,RL中的TL(尤其是DRL中的TL)通常更複雜。MDP的組件(知識來自何處)可能與知識轉移到何處不同。此外,專家知識也可以采取不同的形式,以不同的方式轉移,特別是在深度神經網絡的幫助下。隨著DRL的快速發展,以前總結用於RL的TL方法的努力沒有包括DRL的最新發展。注意到所有這些不同的角度和可能性,我們全麵總結了在深度強化學習(TL in DRL)領域遷移學習的最新進展。我們將把它們分成不同的子主題,回顧每個主題的理論和應用,並找出它們之間的聯係。

本綜述的其餘部分組織如下:在第2節中,我們介紹了強化學習的背景,關鍵的DRL算法,並帶來了這篇綜述中使用的重要術語。我們還簡要介紹了與TL不同但又緊密相關的相關研究領域(第2.3節)。

在第3節中,我們采用多種視角來評價TL方法,提供了對這些方法進行分類的不同方法(第3.1節),討論了遷移源和目標之間的潛在差異(第3.2節),並總結了評價TL有效性的常用指標(第3.3節)。

第4節詳細說明了DRL領域中最新的TL方法。特別是,所討論的內容主要是按照遷移知識的形式組織的,如成型的獎勵(4.1節)、先前的演示(4.2節)、專家策略(4.3節),或者按照轉移發生的方式組織的,如任務間映射(4.4節)、學習可轉移表示(4.5節和4.6節)等。我們在第5節討論了TL在DRL中的應用,並在第6節提供了一些值得研究的未來展望。

成為VIP會員查看完整內容
0
57
0

【導讀】近來,知識圖譜用於推薦係統是關注的焦點,能夠提升推薦係統的準確性與可解釋性。如何將知識圖譜融入到推薦係統呢? 最近中科院計算所百度微軟等學者最新綜述論文《A Survey on Knowledge Graph-Based Recommender Systems》,闡述對基於知識圖譜的推薦係統進行了係統的研究。

地址://www.webtourguide.com/paper/90d0d696560bc88ea93f629b478a2128

為了解決各種在線應用中的信息爆炸問題,提高用戶體驗,推薦係統被提出來進行用戶偏好建模。盡管人們已經做出了許多努力來實現更加個性化的推薦,但是推薦係統仍然麵臨著一些挑戰,比如數據稀疏性和冷啟動。近年來,以知識圖譜作為邊信息生成推薦引起了人們的極大興趣。這種方法不僅可以緩解上述問題,提供更準確的推薦,而且可以對推薦的項目進行解釋。本文對基於知識圖譜的推薦係統進行了係統的研究。我們收集了這一領域最近發表的論文,並從兩個角度進行了總結。一方麵,我們通過研究論文如何利用知識圖譜進行準確和可解釋的推薦來研究所提出的算法。另一方麵,我們介紹了這些工作中使用的數據集。最後,我們提出了幾個可能的研究方向。

概述

隨著互聯網的快速發展,數據量呈指數級增長。由於信息量過大,用戶在眾多的選擇中很難找到自己感興趣的。為了提高用戶體驗,推薦係統已被應用於音樂推薦[1]、電影推薦[2]、網上購物[3]等場景。

推薦算法是推薦係統的核心要素,主要分為基於協同過濾(CF)的推薦係統、基於內容的推薦係統和混合推薦係統[4]。基於CF的推薦基於用戶或交互數據項的相似度來建模用戶偏好,而基於內容的推薦利用了物品項的內容特征。基於CF的推薦係統得到了廣泛的應用,因為它可以有效地捕獲用戶的偏好,並且可以很容易地在多個場景中實現,而不需要在基於內容的推薦係統[5]、[6]中提取特征。然而,基於CF的推薦存在數據稀疏性和冷啟動問題[6]。為了解決這些問題,提出了混合推薦係統來統一交互級相似度和內容級相似度。在這個過程中,我們探索了多種類型的邊信息,如項目屬性[7]、[8]、項目評論[9]、[10],以及用戶的社交網絡[11]、[12]。

近年來,將知識圖譜(KG)作為邊信息引入推薦係統引起了研究者的關注。KG是一個異構圖,其中節點作為實體,邊表示實體之間的關係。可以將項目及其屬性映射到KG中,以了解項目[2]之間的相互關係。此外,還可以將用戶和用戶端信息集成到KG中,從而更準確地捕捉用戶與物品之間的關係以及用戶偏好。圖1是一個基於KG的推薦示例,其中電影“Avatar”和“Blood Diamond”被推薦給Bob。此KG包含用戶、電影、演員、導演和類型作為實體,而交互、歸屬、表演、導演和友誼是實體之間的關係。利用KG,電影與用戶之間存在不同的潛關係,有助於提高推薦的精度。基於知識的推薦係統的另一個優點是推薦結果[14]的可解釋性。在同一個示例中,根據user-item圖中的關係序列可以知道向Bob推薦這兩部電影的原因。例如,推薦《阿凡達》的一個原因是,《阿凡達》與鮑勃之前看過的《星際穿越》屬於同一類型。最近提出了多種KGs,如Freebase[15]、DBpedia[16]、YAGO[17]、穀歌的知識圖譜[18],方便了KGs的推薦構建。

圖1 一個基於kg的推薦的例子

本次綜述的目的是提供一個全麵的文獻綜述利用KGs作為側信息的推薦係統。在我們的研究過程中,我們發現現有的基於KG的推薦係統以三種方式應用KGs: 基於嵌入的方法、基於路徑的方法和統一的方法。我們詳細說明了這些方法的異同。除了更準確的推薦之外,基於KG的推薦的另一個好處是可解釋性。我們討論了不同的作品如何使用KG來進行可解釋的推薦。此外,根據我們的綜述,我們發現KGs在多個場景中充當了輔助信息,包括電影、書籍、新聞、產品、興趣點(POIs)、音樂和社交平台的推薦。我們收集最近的作品,根據應用程序對它們進行分類,並收集在這些作品中評估的數據集。

本次綜述的組織如下: 在第二部分,我們介紹了KGs和推薦係統的基礎;在第3節中,我們介紹了本文中使用的符號和概念;在第4節和第5節中,我們分別從方法和評價數據集的角度對基於知識的推薦係統進行了綜述;第六部分提出了該領域的一些潛在研究方向;最後,我們在第7節總結了這次調查。

術語概念

圖2 常用知識圖譜集合

圖3 符號

知識圖譜推薦係統方法

Embedding-based方法

基於嵌入的方法通常直接使用來自KG的信息來豐富項目或用戶的表示。為了利用KG信息,需要使用知識圖嵌入(KGE)算法將KG編碼為低秩嵌入。KGE算法可分為兩類[98]:翻譯距離模型,如TransE[99]、TransH[100]、TransR[101]、TransD[102]等;語義匹配模型,如DistMult[103]等。

根據KG中是否包含用戶,可以將基於嵌入的方法分為兩個類。在第一種方法中,KGs由項目及其相關屬性構成,這些屬性是從數據集或外部知識庫中提取的。我們將這樣的圖命名為項目圖。注意,用戶不包括在這樣的項目圖中。遵循這一策略的論文利用知識圖嵌入(KGE)算法對圖進行編碼,以更全麵地表示項目,然後將項目側信息集成到推薦框架中。其大意可以如下所示。

另一種embedding-based方法直接建立user-item圖,用戶,項目,以及相關屬性函數作為節點。在用戶-項目圖中,屬性級關係(品牌、類別等)和用戶級關係(共同購買、共同查看等)都是邊。

Path-based Methods

基於路徑的方法構建一個用戶-項目圖,並利用圖中實體的連接模式進行推薦。基於路徑的方法在2013年就已經開發出來了,傳統的論文將這種方法稱為HIN中的推薦方法。通常,這些模型利用用戶和/或項的連接性相似性來增強推薦。

統一方法

基於嵌入的方法利用KG中用戶/項的語義表示進行推薦,而基於路徑的方法使用語義連接信息,並且兩種方法都隻利用圖中信息的一個方麵。為了更好地利用KG中的信息,提出了將實體和關係的語義表示和連通性信息結合起來的統一方法。統一的方法是基於嵌入傳播的思想。這些方法以KG中的連接結構為指導,對實體表示進行細化。

總結:

基於嵌入的方法使用KGE方法對KG(項目圖或用戶-項目圖)進行預處理,以獲得實體和關係的嵌入,並將其進一步集成到推薦框架中。然而,這種方法忽略了圖中信息的連通性模式,很少有文獻能夠給出有原因的推薦結果。基於路徑的方法利用用戶-項圖,通過預先定義元路徑或自動挖掘連接模式來發現項的路徑級相似性。基於路徑的方法還可以為用戶提供對結果的解釋。將基於嵌入的方法與基於路徑的方法相結合,充分利用雙方的信息是當前的研究趨勢。此外,統一的方法還具有解釋推薦過程的能力。

圖4 收集論文表。在表格中,Emb代表基於嵌入的方法,Uni代表統一方法,Att’代表注意力機製,’RL’代表強化學習,’AE’代表自動編碼器,’MF’代表矩陣分解。

代表數據集

圖5 不同應用場景和相應論文的數據集集合

未來方向

在以上幾節中,我們從更準確的推薦和可解釋性方麵展示了基於知識的推薦係統的優勢。雖然已經提出了許多利用KG作為側信息進行推薦的新模型,但仍然存在一些改進的機會。在這一部分中,我們概述並討論了一些未來的研究方向。

  • 動態推薦。雖然基於KG的推薦係統在GNN或GCN架構下取得了良好的性能,但是訓練過程是耗時的。因此,這些模型可以看作是靜態的偏好推薦。然而,在某些情況下,如網上購物、新聞推薦、Twitter和論壇,用戶的興趣會很快受到社會事件或朋友的影響。在這種情況下,使用靜態偏好建模的推薦可能不足以理解實時興趣。為了捕獲動態偏好,利用動態圖網絡可以是一個解決方案。最近,Song等[127]設計了一個動態圖-注意力網絡,通過結合來自朋友的長期和短期興趣來捕捉用戶快速變化的興趣。按照這種方法,很自然地要集成其他類型的側信息,並構建一個KG來進行動態推薦。

  • 多任務學習。基於kg的推薦係統可以看作是圖中鏈接預測。因此,考慮到KG的性質,有可能提高基於圖的推薦的性能。例如,KG中可能存在缺失的事實,從而導致關係或實體的缺失。然而,用戶的偏好可能會被忽略,因為這些事實是缺失的,這可能會惡化推薦結果。[70]、[95]已經證明了聯合訓練KG完成模塊和推薦模塊以獲得更好的推薦是有效的。其他的工作利用多任務學習,將推薦模塊與KGE task[45]和item relation regulation task聯合訓練[73]。利用從其他kg相關任務(例如實體分類和解析)遷移知識來獲得更好的推薦性能,這是很有趣的。

  • 跨域推薦。最近,關於跨域推薦的研究已經出現。其動機是跨域的交互數據不相等。例如,在Amazon平台上,圖書評級比其他域更密集。使用遷移學習技術,可以共享來自具有相對豐富數據的源域的交互數據,以便在目標域內進行更好的推薦。Zhang等[128]提出了一種基於矩陣的跨域推薦方法。後來,Zhao等人[129]引入了PPGN,將來自不同領域的用戶和產品放在一個圖中,並利用user item交互圖進行跨領域推薦。雖然PPGN的性能顯著優於SOTA,但是user item圖隻包含交互關係,並不考慮用戶和項目之間的其他關係。通過將不同類型的用戶和項目端信息合並到用戶-項目交互圖中,以獲得更好的跨域推薦性能。

  • 知識增強語言表示。為了提高各種自然語言處理任務的性能,有將外部知識集成到語言表示模型中的趨勢。知識表示和文本表示可以相互細化。例如,Chen等人[130]提出了短文本分類的STCKA,利用來自KGs(如YAGO)的先驗知識,豐富了短文本的語義表征。Zhang等人[131]提出了ERNIE,該方法融合了Wikidata的知識,增強了語言的表示能力,該方法已被證明在關係分類任務中是有效的。雖然DKN模型[48]既利用了文本嵌入,也利用了新聞中的實體嵌入,但這兩種嵌入方式隻是簡單地串聯起來,得到新聞的最終表現形式,而沒有考慮兩個向量之間的信息融合。因此,將知識增強的文本表示策略應用於新聞推薦任務和其他基於文本的推薦任務中,能夠更好地表示學習,從而獲得更準確的推薦結果,是很有前景的。

  • 知識圖譜嵌入方法。基於不同約束條件的KGE方法有兩種:翻譯距離模型和語義匹配模型。在本次綜述中,這兩種類型的KGE方法被用於三種基於KGE的推薦係統和推薦任務中。但是,還沒有全麵的工作建議在什麼情況下,包括數據源、推薦場景和模型架構,應該采用特定的KGE方法。因此,另一個研究方向是比較不同KGE方法在不同條件下的優勢。

  • 用戶端信息。目前,大多數基於KG的推薦係統都是通過合並項目側信息來構建圖的,而很少有模型考慮用戶側信息。然而,用戶側信息,如用戶網絡和用戶的人口統計信息,也可以很自然地集成到當前基於KGbased的推薦係統框架中。最近,Fan等人[132]使用GNN分別表示用戶-用戶社交網絡和用戶-項目交互圖,該方法在用戶社交信息方麵優於傳統的基於cf的推薦係統。在我們最近的調查[96]中,一篇論文將用戶關係整合到圖表中,並展示了這種策略的有效性。因此,在KG中考慮用戶側信息可能是另一個研究方向。

成為VIP會員查看完整內容
0
101
15

【導讀】新加坡國立大學的Xiang Wang、Tat-Seng Chua,以及來自中國科學技術大學的Xiangnan He在WSDM 2020會議上通過教程《Learning and Reasoning on Graph for Recommendation》介紹了基於圖學習和推理的推薦係統,涵蓋了基於隨機遊走的推薦係統、基於網絡嵌入的推薦係統,基於圖神經網絡的推薦係統等內容。

Tutorial摘要:

推薦方法構建預測模型來估計用戶-項目交互的可能性。之前的模型在很大程度上遵循了一種通用的監督學習範式——將每個交互視為一個單獨的數據實例,並基於“信息孤島”進行預測。但是,這些方法忽略了數據實例之間的關係,這可能導致性能不佳,特別是在稀疏場景中。此外,建立在單獨數據實例上的模型很難展示推薦背後的原因,這使得推薦過程難以理解。

在本教程中,我們將從圖學習的角度重新討論推薦問題。用於推薦的公共數據源可以組織成圖,例如用戶-項目交互(二部圖)、社交網絡、項目知識圖(異構圖)等。這種基於圖的組織將孤立的數據實例連接起來,為開發高階連接帶來了好處,這些連接為協作過濾、基於內容的過濾、社會影響建模和知識感知推理編碼有意義的模式。隨著最近圖形神經網絡(GNNs)的成功,基於圖形的模型顯示了成為下一代推薦係統技術的潛力。本教程對基於圖的推薦學習方法進行了回顧,重點介紹了GNNs的最新發展和先進的推薦知識。通過在教程中介紹這一新興而有前景的領域,我們希望觀眾能夠對空間有更深刻的理解和準確的洞察,激發更多的想法和討論,促進技術的發展。

Tutorial大綱:

成為VIP會員查看完整內容
0
155
7

Deep Learning based Recommender System: A Survey and New Perspectives

隨著在線信息量的不斷增長,推薦係統已成為克服此類信息過載的有效策略。鑒於其在許多網絡應用中的廣泛采用,以及其改善與過度選擇相關的許多問題的潛在影響,推薦係統的實用性不容小覷。近年來,深度學習在計算機視覺和自然語言處理等許多研究領域引起了相當大的興趣,不僅歸功於出色的表現,而且還具有從頭開始學習特征表征的吸引人的特性。深度學習的影響也很普遍,最近證明了它在應用於信息檢索和推薦係統研究時的有效性。顯然,推薦係統中的深度學習領域正在蓬勃發展。本文旨在全麵回顧最近基於深度學習的推薦係統的研究工作。更具體地說,我們提供並設計了基於深度學習的推薦模型的分類,並提供了最新技術的綜合摘要。最後,我們擴展了當前的趨勢,並提供了有關該領域新的令人興奮的發展的新觀點。

成為VIP會員查看完整內容
0
119
2
小貼士
相關論文
Xiangyu Liu,Hangtian Jia,Ying Wen,Yaodong Yang,Yujing Hu,Yingfeng Chen,Changjie Fan,Zhipeng Hu
0+閱讀 · 6月10日
André Hottung,Yeong-Dae Kwon,Kevin Tierney
0+閱讀 · 6月9日
Ziyang Wang,Wei Wei,Gao Cong,Xiao-Li Li,Xian-Ling Mao,Minghui Qiu
0+閱讀 · 6月9日
Feng Xia,Ke Sun,Shuo Yu,Abdul Aziz,Liangtian Wan,Shirui Pan,Huan Liu
23+閱讀 · 5月3日
Yanan Zhang,Di Huang,Yunhong Wang
3+閱讀 · 2020年12月21日
Learning Recommender Systems from Multi-Behavior Data
Chen Gao,Xiangnan He,Dahua Gan,Xiangning Chen,Fuli Feng,Yong Li,Tat-Seng Chua,Depeng jin
5+閱讀 · 2018年9月21日
Qingyao Ai,Vahid Azizi,Xu Chen,Yongfeng Zhang
9+閱讀 · 2018年5月9日
Yi Tay,Luu Anh Tuan,Siu Cheung Hui
10+閱讀 · 2018年1月28日
Hongshen Chen,Xiaorui Liu,Dawei Yin,Jiliang Tang
10+閱讀 · 2018年1月11日
Han Xiao,Lian Meng,Minlie Huang,Xiaoyan Zhu
6+閱讀 · 2017年12月2日
Top