众所周知,充足的就寝可以带来元气满满的一天,提高事情效率,无论是动物还是人类,都可以得到充足就寝带来的好处。
而近日洛斯阿拉莫斯国家实验室 (Los Alamos National Laboratory) 的一项研究表明,人工打算大脑也可以从就寝中受益,这种好处与就寝给人类所带来的好处类似。
人工打算大脑的灵感来自于人类大脑的神经连接。想象一下,一个由相互连接的节点组成的弘大分层网络,他们相互通信。持续串的信息波,通过一系列电子发射穿过构造。网络中的每个节点或 “神经元” 都有自己的数据和旗子暗记供应,以便将数据传输到下一层节点。

随着韶光的推移,神经网络调度这些神经元之间独特的相互浸染,以提高其办理问题的能力。神经组合的路线图会逐步地微调,直到系统为给定的任务开拓出最佳策略。
人造大脑须要就寝
在这项研究中,洛斯阿拉莫斯国家实验室的研究职员重点研究了脉冲神经网络,它的功能不同于标准的人工神经网络。这些打算系统更靠近于人脑的神经回路,神经元在吸收到大量输入旗子暗记后产生一个旗子暗记。科学家们仍在学习如何演习脉冲神经网络,由于这些系统须要与范例的人工神经网络完备不同的方法。
洛斯阿拉莫斯国家实验室的打算机科学家 Yijing Watkins 说道:“我们研究的是脉冲神经网络,该系统能像人类大脑一样学习。而且我们对神经形态处理器的一种演习方法有极大的兴趣,该方法可以通过模拟人类以及其他生物在童年期从环境中学习的办法来进行演习。
Watkins 和她的研究小组创造,连续一段韶光的无监督学习后,神经网络仿照变得不稳定。当他们将神经网络暴露在类似于人类大脑在就寝时所经历的颠簸状态时,稳定性就规复了。Watkins 说:“这就彷佛我们让人工神经网络好好睡了一晚一样。”
这一创造是研究小组在开拓神经网络时创造的,该神经网络与人类和其他生物系统学习的办法非常靠近。一开始,研究小组在进行无监督字典演习时,很难稳定仿照神经网络,这涉及到对工具进行分类,而没有先前的例子来比较它们。
“一样平常很少会碰到这种让学习系统更稳定的问题,只有在考试测验利用仿生的脉冲神经形态的处理器,或者试图理解生物学本身时,才会碰到这种问题。” 洛斯阿拉莫斯的打算机科学家和研究合著者 Garrett Kenyon 说,“绝大多数机器学习、深度学习和人工智能研究职员从来没有碰着过这个问题,由于在他们研究的人工系统中,他们可以实行全局数学运算,从而调节系统的整体动态增益。”
研究职员认为,将神经网络暴露在仿照就寝状态下的决定,险些是稳定网络的末了一搏。他们对各种类型的噪音进行了实验,这些噪音大致相称于调谐收音机时可能碰着的电台间的静态电音。当他们利用所谓的高斯噪声波时,得到了最好的结果。
研究小组的下一个目标是在英特尔的 Loihi 神经形态芯片上实现他们的算法。他们希望让 Loihi 时时时地进入睡觉状态,使其能够稳定地实时处理来自硅视网膜摄像头的信息。如果这些创造证明了人造大脑须要就寝,我们或容许以期待未来机器人和其他智能机器也会有同样的情形。
Watkins 团队在 6 月 14 日的 CVPR 大会上对该项研究做了详细先容,文章一经揭橥,也在 Reddit 网站上引起热议。
Reddit 热议:人造大脑真的是在睡觉吗?
有网友指出,称人造大脑的稳定状态类比于就寝状态有待商榷,由于如果我们不理解就寝,我们怎么能说他们相似或不相似?唯一相似的地方,是噪声和脑波中存在的波形,该波形随处可见,并非就寝独占。
而也有网友表达不同的见地,他认为如果我们把 “就寝” 观点化为一种规复退化的认知功能的无反应的规复过程,那么就寝对付任何给定的系统都将是一个不同的过程,但终极功能是相同的,本文所描述的过程乃至可能是符合的。
除此外,有网友质疑该研究在很大程度上浮夸了人造大脑与就寝的相似之处,使得它的适用性好比今更加广泛。
脉冲神经网络虽然常常被誉为第三代人工神经网络,但是属于相称小众的研究领域。对付传统的 CNN 来说,这种技能可能并不须要,由于它们在演习过程中会不断地进行自我规则化。
也有网友补充知识点,生物神经网络具有固有的延迟,由于电旗子暗记在网络中传播须要韶光,永劫光演习网络也非常困难。
旗子暗记须要韶光流过网络,如果正在演习,则须要进行反向传播来加强连接。如果最短路径和最长路径之间的韶光差变得太大,则将先处理一条路径,而另一条路径仍在传播。然后当后来的输入进入时,前一个输入的潜在处理将毁坏新数据,即引起“幻觉”。
这位网友指出,研究职员所做的 “重置” 很可能是发送固定频率的脉冲,个中或许有一个浸染,便是优化由于最近学习而加强的路径,使路径之间的韶光间隔缩短到某个阈值以下,以防止幻觉的产生。
该网友还建议将生物神经网络与人工神经网络完备差异对待。虽然人工神经网络可能会受到生物学的启示,但有大量的基本差异使得用一个来描述另一个变得困难。
参考链接:
[1]https://www.lanl.gov/discover/news-release-archive/2020/June/0608-artificial-brains.php?source=newsroom
[2]https://www.techrepublic.com/article/turns-out-artificial-brains-need-sleep-too-but-do-they-dream/
[3]https://www.reddit.com/r/science/comments/gzxi3w/artificial_brains_may_need_sleep_too_neural/ftk3h1p/
本文来自微信"大众年夜众号:学术头条(ID:SciTouTiao),作者:何静