APP下载

神经元具有适合深度学习的形状

消息来源:baojiabao.com 作者: 发布时间:2024-05-19

报价宝综合消息神经元具有适合深度学习的形状

一个神经元记录在布莱克理查德的实验室。图片来源:Blake Richards

深度学习带来的机器能够“看到”世界更像人类,并能识别语言。虽然深度学习是受人类大脑的启发,但问题仍然存在:大脑是否真的以这种方式学习?答案有可能创造出更强大的人工智能,解开人类智慧的奥秘。

在12月5日在eLife上发表的一项研究中,CIFAR研究员Blake Richards和他的同事公布了一种算法,该算法模拟了我们的大脑中学习的深度。该网络显示某些哺乳动物神经元具有非常适合深度学习的形状和电学特性。此外,它代表了一种更生物学更真实的方式来表明真正的大脑如何进行深度学习。

研究由Richards和他的研究生Jordan Guerguiev在多伦多大学斯卡伯勒与Google DeepMind的Timothy Lillicrap合作进行。他们的算法基于新皮质中的神经元,这是高阶思维的原因。

“大多数这些神经元的形状像树木一样,大脑深处有\'根\',靠近水面\'分枝\',”理查兹说。“有趣的是,这些根接收的输入集不同于树顶上的分支。”

利用这种神经元结构的知识,理查兹和古尔吉耶夫建立了一个模型,类似地在隔离的隔间中接收讯号。这些部分允许不同层中的模拟神经元协作,实现深度学习。

“这只是一组模拟,所以它无法准确地告诉我们我们的大脑在做什么,但如果我们自己的大脑可能使用他们在AI中使用的相同算法,它确实足以保证进一步的实验检验,”理查兹说。

用于深度学习的多隔室神经网络模型的插图。左:从小鼠初级视觉皮层重建锥体神经元。右图:简化金字塔神经元模型的插图。图片来源:CIFAR

这个研究理念可以追溯到AI先驱Geoffrey Hinton,CIFAR杰出研究员和机器与脑力学习专案的创始人,以及Yoshua Bengio专案的联合主任,并且是首先建立该专案的主要动机之一。理查兹说,这些研究人员不仅要开发人工智能,还要了解人脑是如何学习的。

在21世纪初期,Richards和Lillicrap在多伦多大学与Hinton一起学习了一门课程,并且深信学习模型正在捕捉人类大脑如何运作的“真实”。当时,测试这个想法有几个挑战。首先,不清楚深度学习能否达到人类技能水平。其次,算法违反了神经科学家证明的生物学事实。

现在,理查兹和一些研究人员正在寻求弥合神经科学和人工智能之间的差距。本文以Bengio实验室的研究为基础,采用更加生物学上合理的方式训练神经网络和Lillicrap开发的算法,进一步放宽了训练神经网络的一些规则。该论文还结合了Matthew Larkam对新皮层神经元结构的研究。通过将神经学见解与现有算法相结合,理查兹的团队能够建立一种更好,更逼真的算法来模拟大脑中的学习。

树状新皮质神经元只是大脑中许多型别细胞中的一种。理查兹说,未来的研究应该模拟不同的脑细胞,并研究它们如何相互作用以实现深度学习。从长远来看,他希望研究人员能够克服重大挑战,例如如何通过经验学习而不接受反馈。

“我们可能会在未来十年左右看到的是神经科学与人工智能之间真正的良性循环研究,其中神经科学发现帮助我们开发新的AI和AI可以帮助我们解释和理解我们在神经科学中的实验资料,”理查兹说。

12月5日在eLife上发表了“与隔离树突进行深入学习” 。#清风计划#

更多资讯: eLife,DOI:10.7554 / eLife.22901

期刊资讯: eLife

2019-12-09 17:14:00

相关文章