腾讯AI Lab高级研究员宋林峰:图到文本生成任务中的通用型图结构信息保存法

图到文本生成是文本生成任务中的一项重要技术,其目的是通过机器理解图中信息,然后生成相应的解释文本。现有的图到文本生成模型,主要是通过更强大的模型来表示图信息,但模型依然是通过拟合到目标文本的基于语言模型(language modeling loss)的损失函数进行训练的,作为结果,模型会产生流畅的输出,但会丢失许多输入的重要信息。

为了保存输入图中更多的信息,一个潜在的解决方案是改进训练信号来增强结构信息的保存,通过用额外的自编码损失来丰富训练信号,从而保存输入图的结构信息。但这种方法面临着一个问题,那就是不同类型图的标准自编码需要不同的重构算法。

而在今年的ACL 2020中,腾讯AI Lab高级研究员宋林峰博士作为一作发表了一篇名为《Structural Information Preserving for Graph-to-Text Generation》的论文。在本文中,宋博士提出了一种通用的基于“多视角重建”的损失函数来辅助模型训练的方法。通过多种方法把输入的图投射到目标句子端,让解码器不仅学习输出目标句子,还要输出投射的图结构,这样能够迫使模型在做生成的时候更好的记住输入内容。

9月9日上午10点,智东西公开课邀请到腾讯AI Lab 高级研究员宋林峰博士参与[腾讯AI Lab专场]第2讲,宋博士将围绕《图到文本生成任务中的通用型图结构信息保存法》这一主题进行直播讲解。宋博将从图到文本生成技术的发展与研究出发,详解基于重构图模型的通用型图结构信息保存法,并深入讲解该方法在多类型图到文本生成技术中的应用。

宋林峰博士于2019年5月从罗彻斯特大学获得博士学位,师从Daniel Gildea教授,于2014年从中科院计算所硕士毕业,师从刘群博士。2013年11月到2014年2月,宋博士简短的以研究助理的身份访问在新加坡SUTD的张岳博士,曾于2015、2017和2018年暑假在IBM沃森研究院Salim Roukos的团队实习,Mentor是王志国博士。

课程内容

课程主题

《图到文本生成任务中的通用型图结构信息保存法》

课程提纲

1、图到文本生成技术的发展与研究
2、基于重构图模型的通用型图结构信息保存法
3、在多类型图到文本生成技术中的应用

讲师介绍

宋林峰,腾讯AI Lab高级研究员,于2019年5月从罗彻斯特大学获得博士学位,师从Daniel Gildea教授,于2014年从中科院计算所硕士毕业,师从刘群博士;2013年11月到2014年2月,宋博简短的以研究助理的身份访问在新加坡SUTD的张岳博士,曾于2015、2017和2018年暑假在IBM沃森研究院Salim Roukos的团队实习,mentor是王志国博士。

直播信息

直播时间:9月9日上午10:00
直播地点:智东西公开课小程序
答疑地址:[腾讯AI Lab专场]讨论群

加入讨论群

本次课程的讲解分为主讲和答疑两部分,主讲以视频直播形式,答疑将在[腾讯AI Lab专场]讨论群进行。
加入讨论群,除了可以免费收看直播之外,还能认识讲师,与更多同行和同学一起学习,并进行深度讨论。
添加小助手小语(ID:hilele20)即可申请,备注“姓名-公司/学校/单位-职位/专业”的朋友将会优先审核通过哦~