欢迎来智东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智东西公开课
微软发布史上最大NLG模型
2020-02-11
雷锋网
18
2月11日消息,今天,微软研究院重磅发布了有史以来最大的基于Transformer架构的语言生成模型Turing-NLG。此模型的参数高达170亿,是英伟达Megatron的两倍,是OpenAI的GPT-2的十倍。基于Transformer的架构,意味着该模型可以生成词来完成开放式文本任务。除了填充不完整语句外,它还可以对输入文档的问题和摘要生成答案。