07-社会网络分析与算法研究

DIRECTED GRAPHICAL MODELS
Consider both links that exist and those that do not exist. Each potential link is associated with a binary existence attribute Exists. ¢ Define a single probabilistic model over the entire link graph. ¢ Train model to maximize the probability of the (object and) link labels given the known attributes. Use probabilistic inference to predict and classify links using any observed attributes and other links.
奇异值分解
¢ 奇异值分解是一个能适用于任意的矩阵的一种分解的
方法：
假设A是一个M x N的矩阵，那么得到的U是一个M x M的方阵（ 其向 量是正交的，U里面的向量称为左奇异向量），Σ是一个M x N的矩阵（除了对角线的元素都是0，对角线上的元素称为奇 异值），V’(V的转置)是一个N xN的矩阵，其向量也是正交的，V 里的向量称为右奇异向量），如下图所示：
社会网络中的链接预测问题
链接预测
¢ 网络中的链接预测(Link
Prediction)问题是指通过已 知的网络节点以及网络结构等信息预测网络中尚未产 生连边的两个节点之间产生链接的可能性。
¢ 这种预测既包含了对未知链接（existed
yet unknown links）的预测，也包含了对未来链接（future links ）的预测。该问题的研究在理论和应用两个方面都具 有重要的意义和价值。
E B D

A
C
Neighbors who are linked with only 2 nodes are given the weight 1/log(2) = 1.4 Neighbors who are linked with 5 nodes their weight drops down to 1/log(5) = 0.62
A
C
Hale Waihona Puke JACCARD’S COEFFICIENT AND ADAMIC / ADAR
E B D
¢ Jaccard’s
coefficient: same as common neighbors, adjusted for degree
A
C
¢ Adamic
/ Adar: weighting rarer neighbors more heavily
¢
因此，可以用前r 个奇异值来近似描述矩阵，这里定义部分奇异 值分解如下：
¢
r 是一个远小于m、n的数，这样矩阵的分解可以表示如下：
右边的三个矩阵相乘的结果将会是一个接近于A的矩阵，r越接近 于n，则相乘的结果越接近于A。而这三个矩阵的面积之和（存 储观点来说，矩阵面积越小，存储量就越小）要远远小于原始 的矩阵A，如果要压缩空间来表示原矩阵A，只需存储U、Σ 、V。

Can be viewed as computing a measure of proximity or “similarity” between nodes x and y.
¢ Existing
link prediction models can be categorized into two large classes: unsupervised learning models and supervised learning models.
¢ Hitting
time: expected number of steps for a random walk starting at x to reach y
¢ If
y has a large stationary probability, Hx,y is small. To counter balance, we can normalize
METHODS FOR LINK PREDICTION
¢ All
the methods assign a connection weight score(x,y) to pairs of nodes x, y, based on the input graph, and then produce a ranked list in decreasing order of score(x, y).

¢ Supervised
Typical supervised models include feature-based classification methods, probabilistic graphical models, and matrix factorization based latent factor models.
A very small β yields predictions much like common neighbors, since paths of length three or more contribute very little to the summation
A
C
HITTING TIME, PAGERANK
GRAPH DISTANCE & COMMON NEIGHBORS
E B D
¢ Graph
distance: (Negated) length of shortest path between x and y
(A, C) (C, D) 2 2 3
A
C
(A, E)
E B D
¢ Common
Neighbors: A and C have 2 common neighbors, more likely to collaborate
PREFERENTIAL ATTACHMENT
¢ Probability
that a new collaboration involves x is proportional to T(x), current neighbors of x. (x, y) :=
¢ score

the probability of co-authorship of x and y is correlated with the product of the number of collaborators of x and y.
¢
基于矩阵分解的方法
¢
¢
¢
信息时代使得人类面临分析或处理各种大规模数据信息的要求， 如Web上的海量信息等。处理这类信息时，矩阵是人们最常用的 数学表达方式，比如一幅图像就恰好与一个矩阵对应，矩阵中的 每个位置存放着图像中一个像素的空间位置和色彩信息；比如社 交网络关系与邻接矩阵对应。 由于实际问题中这样的矩阵很庞大，其中存放的信息分布往往不 均匀，因此直接处理这样的矩阵效率低下。为高效处理这些通过 矩阵存放的数据，一个关键的必要步骤便是对矩阵进行分解操作 。通过矩阵分解，一方面将描述问题的矩阵的维数进行降维，另 一方面也可以对大量的数据进行压缩和概括。 在科学文献中，讨论利用矩阵分解来解决实际问题的分析方法 很多，如PCA(主成分分析)、ICA(独立成分分析)、SVD(奇异值 分解)、VQ(矢量量化)等。
奇异值的计算
¢
奇异值的计算是一个难题，是一个O(N^3)的算法。在单机的情 况下，matlab在一秒钟内就可以算出1000 * 1000的矩阵的所有 奇异值，但是当矩阵的规模增长的时候，计算的复杂度呈3次方 增长，就需要并行计算。 SVD可以用并行的方式去实现的，在解大规模的矩阵的时候， 一般使用迭代的方法，当矩阵的规模很大（比如说上亿）的 时候，迭代的次数也可能会上亿次，可以使用Map-Reduce框架 去解。
奇异值分解
¢
首先将一个矩阵A的转置 * A，会得到一个方阵，用这个方阵 求特征值可以得到： 这里得到的v，就是前面的右奇异向量。此外还可以得到：
¢
¢
σ 就是奇异值，u 就是上面说的左奇异向量。奇异值σ 跟特 征值类似，在矩阵Σ中也是从大到小排列，而且σ的减少特 别快，在很多情况下，前10%甚至1%的奇异值的和就占了全 部的奇异值之和的99%以上。
¢ PageRank:
to cut down on long random walks, walk can return to x with a probability α at every step y
SIMRANK
¢ Defined
by this recursive definition: two nodes are similar to the extent that they are joined by similar neighbors
¢ Unsupervised
learning models compute scores for pairs of nodes based on the link structure, and do not involve any learning: node-similarity based methods and path -dependent methods. learning models make predictions on the unobserved relations by learning a supervised model from the observable data.