推荐系统——DeepWalk算法

1. 概述

DeepWalk算法是在KDD2014中提出的算法,最初应用在图表示(Graph Embedding)方向,由于在推荐系统中,用户的行为数据固然的可以表示成图的形式,如下图所示:

在这里插入图片描述 通过Graph Embedding得到图中每个item的Embedding表示,DeepWalk算法常被用于推荐系统。Graph Embedding使用低维稠密向量的形式表示图中的节点,使得在原始图中相似(不同的方法对相似的定义不同)的节点其在低维表达空间也接近。

2. 算法思想

DeepWalk算法借鉴了word2vec算法的思想,word2vec是NLP中一种常用的word embedding方法,word2vec通过语料库中的句子序列来描述词与词的共现关系,进而学习到词语的向量表示。DeepWalk算法与word2vec类似,使用图中节点与节点的共现关系来学习节点的向量表示。在DeepWalk中通过使用随机游走(RandomWalk)的方式在图中进行节点采样来模拟语料库中的预料,进而使用word2vec的方式学习出节点的共现关系,其具体过程如下图所示:

在这里插入图片描述 具体过程为:

  1. 抽取用户的行为序列,如图中(a)所示;
  2. 将用户的行为序列转换成图的表示方法,如图中(b)所示;
  3. 使用RandomWalk对图中节点采样,得到节点序列的表示,如图中(c)所示;
  4. 使用Skip-Gram学习出节点的Embedding表示,如图中(d)所示。

DeepWalk算法思想具体过程如下所示:

在这里插入图片描述

2.1. RandomWalk

RandomWalk是一种可重复访问已访问节点的深度优先遍历算法。给定当前访问起始节点,从其邻居中随机采样节点作为下一个访问节点,重复此过程,直到访问序列长度满足预设条件。假设图为$G=\left ( V,E \right )$,其中,$V$表示图中点的集合,$E$表示图中边的集合,在RandomWalk中关键的问题是如何计算从节点$v_i$跳转到节点$v_j$的概率$P\left ( v_j\mid v_i \right )$:

$$P\left ( v_j\mid v_i \right )=\begin{cases} \frac{M_{ij}}{\sum _{j\in N_+\left ( v_i \right )}M_{ij}} & \text{ if } v_i\in N_+\left ( v_i \right ) \\ 0 & \text{ if } e_{ij}\notin E \end{cases}$$

其中,$E$是图中所有边的集合,$N_+\left ( v_i \right )$是节点$v_i$所有的出边的集合,$M_{ij}$是节点$v_i$到节点$v_j$的边的权重,对于无向无权图$M_{ij}=1$。RandomWalk的代码大致如下:

def deep_worker(self):
    for _ in range(self.nums):
        for node in self.G.nodes():
            self.node_series.append(self.random_walker(node))

def random_walker(self, first_node):
    series = [first_node]
    for _ in range(1, self.walk_length):
        nodes_list = list(self.G.adj[first_node])
        first_node = random.choice(nodes_list)
        series.append(first_node)
    return series

2.2. word2vec

word2vec的基本原理不再在本文中详细给出,可以参阅其他的一些材料,Python下可以通过gensim里的Word2Vec实践:

from gensim.models import Word2Vec
w2v_model = Word2Vec(walks,sg=1,hs=1)

参考文献