昆仑山

注册

 

发新话题 回复该主题

NeurIPS篇论文,详解 [复制链接]

1#
作者:杨晓凡来源:雷锋网雷锋网AI科技评论按:本文来自德国Fraunhofr协会IAIS研究所的研究科学家MichalGalkin,他的研究课题主要是把知识图结合到对话AI中。雷锋网AI科技评论全文编译如下。必须承认,图的机器学习(MachinLarningonGraphs)已经成为各大AI顶会的热门话题,NurIPS当然也不会例外。在NurIPS上,仅主会场就有多个与图相关的论文;另外,至少有三个workshop的主题与图有关:GraphRprsntationLarning(大约有多篇论文);KnowldgRprsntationRasoningMtsMachinLarning(KR2ML)(也有0篇吧);ConvrsationalAI目录如下:HyprbolicGraphEmbddings双曲图嵌入LogicsKnowldgGraphEmbddings逻辑和知识图嵌入MarkovLogicNtworksStrikBack马尔科夫逻辑网络卷土重来ConvrsationalAIGraphs对话AI和图Pr-trainingandUndrstandingGraphNuralNts图神经网络的预训练和理解Conclusions结论1双曲图嵌入传统的嵌入算法都是在“平坦”的欧氏空间中学习嵌入向量,为了让向量有更高的表示能力,就会选择尽量高的维数(0维到维),向量之间的距离也是根据欧氏几何来计算。相比之下,双曲算法中用到的是庞加莱(Poincar)球面和双曲空间。在嵌入向量的使用场景里,可以把庞加莱球面看作一个连续的树结构,树的根节点在球的中心,枝干和叶子更靠近球面一些(如上面的动图)。这样一来,双曲嵌入表征层级结构的能力就要比欧氏空间嵌入的能力高得多,同时需要的维数却更少。不过,双曲网络的训练和优化依然是相当难的。NurIPS中有几篇论文对双曲神经网络的构建做了深入的理论分析,今年在NurIPS上我们终于看到了双曲几何和图结构结合的应用。论文1:HyprbolicGraphConvolutionalNuralNtworks双曲图卷积神经网络论文
分享 转发
TOP
发新话题 回复该主题