word2vec 到底学到了什么？

Berkeley AI Research 的新论文为 word2vec 的学习过程给出了定量且可预测的理论：在合理近似下，其学习问题可化简为无权最小二乘矩阵分解，梯度流动力学有闭式解，最终学到的表示等价于对目标矩阵 M* 做 PCA。