“我们研究飙升神经网络美国洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)计算机科学家伊京·沃特金斯(Yijing Watkins)说。“我们对以类似于人类和其他生物系统在童年时期从环境中学习的方式来训练神经形态处理器的前景很感兴趣。”
沃特金斯和她的研究团队发现,在连续的无监督学习之后,网络模拟变得不稳定。当他们将这些神经网络暴露在类似于活生生的大脑在睡眠时所经历的波的状态下,稳定就恢复了。沃特金斯说:“这就好像我们给神经网络提供了相当于一夜好眠的东西。”
这一发现是在研究团队致力于开发神经网络时发现的,该神经网络与人类和其他生物系统学习视觉的方式非常接近。研究小组最初在稳定模拟神经网络时遇到了困难,这些神经网络经历了无监督字典训练,这涉及到在没有预先示例进行比较的情况下对对象进行分类。
洛斯阿拉莫斯大学的计算机科学家、研究合著者加勒特·肯扬说:“只有在尝试使用生物现实的、高水平的神经形态处理器或试图了解生物学本身时,才会出现如何防止学习系统变得不稳定的问题。”“绝大多数机器学习、深度学习和人工智能研究人员从未遇到过这个问题,因为在他们研究的非常人工的系统中,他们可以执行全球的数学运算,这些运算可以调节系统的整体动态增益。”
研究人员称,将神经网络暴露在人工睡眠模拟环境下的决定,几乎是稳定它们的最后一招。他们用各种各样的噪音做实验,这些噪音大致相当于你调收音机时在不同电台之间可能遇到的静电。当他们使用所谓的高斯噪声波时,得到了最好的结果,高斯噪声波包括一个广泛的频率和振幅范围。他们假设,这种噪音模仿了生物神经元在慢波睡眠期间接收到的输入信号。研究结果表明,慢波睡眠可能在一定程度上起到了确保皮层神经元保持稳定、不产生幻觉的作用。
该小组的下一个目标是在英特尔的Loihi神经形态芯片上实现他们的算法。他们希望,让Loihi不时地睡觉,可以让它稳定地实时处理来自硅视网膜相机的信息。如果这一发现证实了人工大脑对睡眠的需求,我们可能会期待未来的机器人和其他智能机器也会有同样的需求。
来源:洛斯阿拉莫斯国家实验室