TUhjnbcbe - 2020/11/25 6:44:00
作者：杨晓凡来源：雷锋网雷锋网AI科技评论按：本文来自德国Fraunhofr协会IAIS研究所的研究科学家MichalGalkin，他的研究课题主要是把知识图结合到对话AI中。雷锋网AI科技评论全文编译如下。必须承认，图的机器学习（MachinLarningonGraphs）已经成为各大AI顶会的热门话题，NurIPS当然也不会例外。在NurIPS上，仅主会场就有多个与图相关的论文；另外，至少有三个workshop的主题与图有关：GraphRprsntationLarning(大约有多篇论文)；KnowldgRprsntationRasoningMtsMachinLarning(KR2ML)(也有0篇吧)；ConvrsationalAI目录如下：HyprbolicGraphEmbddings双曲图嵌入LogicsKnowldgGraphEmbddings逻辑和知识图嵌入MarkovLogicNtworksStrikBack马尔科夫逻辑网络卷土重来ConvrsationalAIGraphs对话AI和图Pr-trainingandUndrstandingGraphNuralNts图神经网络的预训练和理解Conclusions结论1双曲图嵌入传统的嵌入算法都是在“平坦”的欧氏空间中学习嵌入向量，为了让向量有更高的表示能力，就会选择尽量高的维数（0维到维），向量之间的距离也是根据欧氏几何来计算。相比之下，双曲算法中用到的是庞加莱（Poincar）球面和双曲空间。在嵌入向量的使用场景里，可以把庞加莱球面看作一个连续的树结构，树的根节点在球的中心，枝干和叶子更靠近球面一些（如上面的动图）。这样一来，双曲嵌入表征层级结构的能力就要比欧氏空间嵌入的能力高得多，同时需要的维数却更少。不过，双曲网络的训练和优化依然是相当难的。NurIPS中有几篇论文对双曲神经网络的构建做了深入的理论分析，今年在NurIPS上我们终于看到了双曲几何和图结构结合的应用。论文1：HyprbolicGraphConvolutionalNuralNtworks双曲图卷积神经网络论文