基于知識圖譜的智能推薦

一、背景介紹

推薦系統是為用戶推薦個性化的在線商品或信息，廣泛應用于眾多Web 場景之中，來處海量信息數據所導致的信息過載問題, 以此提升用戶體驗。

個性化推薦算法主要有3類：基于內容的推薦算法、基于協同過濾的推薦算法和混合推薦算法。其中，協同過濾方法通過利用用戶歷史的行為偏好數據構建模。盡管協同過濾方法通常是有效且普適的，但存在兩個問題：用戶和物品之間的行為關系數據的稀疏問題和對新用戶或者新物品進行推薦時存在的冷啟動問題。因此，研究者嘗試將協同過濾推薦算法和其他輔助信息相結合(例如用戶與物品的屬性特征、用戶社交網絡信息等)搭建混合推薦系統來解決以上問題，從而提升推薦效果。

知識圖譜作為混合推薦系統中一類有效的輔助信息，近年來受到了大量研究者的關注。知識圖譜是一種知識庫，其概念最早由Google公司提出，目的在于提升搜索引擎的搜索質量。知識圖譜的本質是一個存儲知識與實體之間關系的結構化網絡，其包含節點--"實體"與有向邊--"關系"，因而蘊含了推薦系統中對于物品的大量背景信息，以及物品之間的關系。并且它可以與用戶行為數據構成的用戶--物品網絡集成起來，從而擴展了用戶與商品之間存在的隱藏的關聯關系，補充了用戶與物品交互數據，因此可以更進一步地提升推薦效果。

表1匯總了部分常見的知識圖譜, 其中包括諸如YAGO KG、DBpedia KG、Freebase KG和OwnThink KG等通用知識圖譜，也有如WordNet、UMLS、Douban's movie KG和MusicBrainz等特定領域的知識圖譜。這類特定領域下的知識圖譜往往擁有比通用化知識圖譜更完整的領域內實體和關系。

表1-常見的大規模知識圖譜

二、如何將知識圖譜的特征學習應用到推薦系統？

三種方法：依次訓練、聯合訓練、交替訓練（如下圖1）

圖1 知識圖譜應用于推薦系統的三種方法

依次訓練指的是知識圖譜首先通過embedding得到實體與關系向量，然后引入推薦系統學習用戶向量與物品向量，進行模型訓練。知識圖譜的embedding與推薦系統的訓練是依次進行的。依次訓練的代表方法為Deep Knowledge-aware Network (DKN)。

聯合訓練指的是同時進行知識圖譜的embedding與模型的訓練。這里介紹的聯合訓練的方法為RippleNet。

交替訓練任務中，對知識圖譜的特征學習任務和模型的點擊率預測任務交替進行訓練。這方面的工作有MKR。

三、依次學習：Deep knowledge-aware network (DKN)

DKN是一個基于內容的深度推薦框架，用于點擊率預測。

DKN的關鍵部分是一個多通道和單詞-實體對齊的知識感知卷積神經網絡(KCNN)，它融合了新聞的語義層面和知識層面的表示。KCNN將單詞和實體視為多個通道，并在卷積過程中顯式地保持它們之間的對齊關系。

圖2 DKN模型框架

圖3 新聞推薦例子

四、聯合學習：RippleNet

依次訓練中，我們需要首先學習到entity的向量和relation的向量，但是學習到的向量，其目的是為了還原知識圖譜中的三元組關系。這種方法通常更適合于圖形內應用，例如鏈接預測，而不是推薦。聯合學習將知識圖譜和推薦系統進行聯合訓練，主要代表的網絡結構：RippleNet。

Ripple是波紋的意思，RippleNet就是模擬用戶興趣在知識圖譜上的一個傳播過程。用戶的興趣以其歷史記錄為中心，在知識圖譜上逐層向外擴散，而在擴散過程中不斷的衰減，類似于水中的波紋，因此稱為RippleNet。

圖4?RippleNet 模擬用戶興趣在知識圖譜上的傳播過程

圖5?RippleNet 網絡結構

最終的預測值是通過item embedding和user embedding得到的，item embedding通過embedding 層可以直接得到，user embedding通過用戶u的k-hop ripple set獲取，即為以k-1 Relevant Entity 為head的相關三元組。特別地，用戶u的0-hop相關實體即用戶的歷史記錄。

五、交替訓練：MKR

MKR是一個利用知識圖嵌入任務來輔助推薦任務的深度端到端框架。這兩個任務通過交叉壓縮單元相關聯，該單元自動共享潛在特征，并學習知識圖中推薦系統和實體之間的高階交互。MKR由三個主要組件組成：推薦模塊、KGE模塊和交叉壓縮單元。（見圖6）

(1)推薦模塊以用戶和物品為輸入，使用多層感知器(MLP)和交叉壓縮單元分別為用戶和物品提取短而密集的特征。然后將提取的特征一起輸入另一個MLP，輸出預測概率。

(2)KGE模塊也使用多層提取知識三元組的頭和關系特征，并在評分函數 f 和實尾部的監督下輸出預測尾部的表示。

(3)推薦模塊與KGE模塊之間由專門設計的交叉壓縮單元連接。所提出的單元可以自動學習推薦系統中項目與KG中實體之間的高階特征交互。

圖6?MKR框架

交叉特征共享單元是一個可以讓兩個任務交換信息的模塊。由于物品向量和實體向量實際上是對同一個對象的兩種描述，他們之間的信息交叉共享可以讓兩者都獲得來自對方的額外信息，從而彌補了自身的信息稀疏性的不足。

知識圖譜 自然語言技術

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。