智东西(公众号:zhidxcom)
编 | 王颖

导语:Geoffrey Hinton在谷歌I/O大会炉边谈话中讨论深层神经网络,解析AI技术可行性及意义。

智东西5月10日消息,最新一届图灵奖得主、多伦多大学名誉教授兼谷歌大脑AI 团队的高级研究员Geoffrey Hinton在山景城(Mountain View)谷歌I / O开发者大会的炉边聊天中发表了讲话。他讨论了神经网络的起源,以及人工智能的可行性和意义。

Geoffrey Hinton被称为“人工智能教父”,在过去30年里一直致力于解决AI面临的一些最大挑战。除了在机器学习方面的开创性工作,Geoffrey Hinton还撰写或与别人合著了共200多篇同行评议的论文,其中包括1986年关于机器学习技术的一篇叫做“backpropagation”(反向传播)的论文。

Geoffrey Hinton推广了深层神经网络的概念,包含上述功能的人工智能模型,它们被安排在相互连接的层中,传输“信号”并调整连接的突触强度(权重)。通过这种方式,他们从输入数据中提取特征,并学会做出预测。

一、自注意力网络优于最先进模型,所需训练数据更少

Transformers是一种自注意力网络架构,是一系列深度神经网络体系结构,通过自注意力层相互堆叠,多重转换学习输入分词,在具体的情境中得到了完善。谷歌的研究人员两年前的在一篇博客文章和随附论文“注意力就是你所需要的一切”中对此进行了详细阐述。由于动态计算权重的注意力机制,Transformers在语言翻译任务中的表现优于最先进的模型,而且训练所需的计算量更少。

Geoffrey Hinton承认,创新的步伐甚至让他感到惊讶。他表示“在2012年的时候,我并没想到在未来五年内,我们会使用相同的技术在多种语言之间进行翻译。”

Geoffrey Hinton认为,当前的AI和机器学习方法有其局限性。他指出,大多数计算机视觉模型没有反馈机制,也就是说,它们不会尝试从更高层次的表示中重建数据。相反,他们试图通过改变权重来区分性地学习特征。

Geoffrey Hinton说:“”他们并没有在各种级别特征探测器级别上检查他们是否能够重建下面的数据。”

二、AI研究为神经科学提供借鉴

Geoffrey Hinton和他的同事最近转向人类视觉皮层寻求灵感。Geoffrey Hinton表示,人类视觉需要一种重建的学习方法,事实证明,计算机视觉系统中的重建技术增强了他们对抗对抗性攻击的能力。

大脑科学家们都同意这样的观点,如果你的大脑皮层有两个区域处于知觉通路中,并且一个区域与另一个区域之间存在联系,那么总会有一个向后的路径。”

Geoffrey Hinton认为,神经科学家可以从AI研究人员那里学到很多东西。他认为未来的AI系统大多数都是无监督的。无监督学习是机器学习的一个分支,可以从未标记的、未分类和未分类的测试数据中收集知识。其学习共性、并对共性的存在或不存在做出反应的能力几乎与人类相似。

如果你采用具有数十亿参数的系统,并且在一些目标函数中进行学术梯度下降,它的效果会比预期的要好得多,规模越大,效果越好。Geoffrey Hinton说:“这使得大脑计算某些目标功能的梯度并更新突触的强度以遵循这一梯度的说法更加可信。我们只需要知道它是如何得到梯度的,以及目标函数是什么。”

Geoffrey Hinton认为,这甚至可能解开梦的奥秘。关于为什么我们会不记得梦境的疑问。他认为这可能与“忘却”有关,他在一篇关于玻尔兹曼机器的合著论文中解释了这一理论。这些AI系统,由对称连接的神经元单位组成网络,可以随机决定是“开”还是“关”,通过系统观察到的数据结果来看,“忘却”并不那么令人惊讶。

Geoffrey Hinton说:“做梦的意义可能在于,你把整个学习过程颠倒过来。”

三、神经网络学习应用于教育领域会带来何种改变?

Geoffrey Hinton相信,这些学习可以改变许多领域,比如教育,他预计将人类生物化学的课程变得更加个性化、针对性更强。

Geoffrey Hinton说:“你可能会认为,如果我们真正了解目前的情况,我们应该能够改善教育等方面的状况,我认为我们会做到。如果你最终能够理解大脑是如何工作以及学习的,却不为了更好地学习而去适应环境,那将是非常奇怪的。”

他警告说,这需要时间。就近期而言,Geoffrey Hinton设想了智能助理的未来,比如Google Assistant或Amazon的Alexa,它们可以与用户互动,并在日常生活中引导他们。

Geoffrey Hinton的预测是在谷歌的前执行主席Eric Schmidt最近的一次演讲之后发布的。Eric Schmidt同样相信,在未来,个性化的AI助手将使用我们的行为知识来让我们了解情况。

Geoffrey Hinton总结说:“在几年内,我不确定我们会学到多少东西。但是如果你仔细看看,助理程序现在已经相当智能,一旦它们能够真正理解对话,智能助理就可以与孩子进行对话并教育他们。”

结语:AI融入生活,技术改变未来

AI已经逐渐融入了我们的日常生活,无论是智能家居产品还是智能穿戴设备,都成为了我们简化我们工作生活的工具。

未来AI技术还有无限的发展潜力,它也将对我们的未来生活产生越来越大的影响。

原文来自:VentureBeat