这一进展有助于根据随时间变化的数据流(包括参与决策的数据流)做出决策医学诊断以及自动驾驶。“这是一条通向未来的道路机器人控制自然语言处理麻省理工学院计算机科学与人工智能实验室(CSAIL)和研究的主要作者:“潜力真的很重要。”
哈萨尼说,时间序列数据对我们了解世界来说是无处不在的,也是至关重要的。“现实世界都是关于序列的。即使我们的感知——你没有感知图像,你也在感知图像序列。”因此,时间序列数据实际上创造了我们的现实
他指出,视频处理、金融数据和医疗诊断应用是社会核心时间序列的例子。这些不断变化的数据流的变化可能是不可预测的。但实时分析这些数据,并利用它们预测未来行为,可以促进新兴技术的发展就像自动驾驶汽车一样,哈萨尼建立了一个适合这个任务的算法。
哈萨尼设计了一个神经网络,可以适应现实世界系统的变化。神经网络算法是否识别模式通过分析一组“培训”示例。人们常说它们模仿大脑的加工路径,哈萨尼直接从显微镜下的线虫——秀丽隐杆线虫那里获得灵感。“它的神经系统中只有302个神经元,”他说,“但它能产生出乎意料的复杂动力学。”
哈萨尼对他的神经网络进行了编码,并仔细研究了秀丽隐杆线虫神经元是如何通过电脉冲激活和相互通信的。在他用来构造神经网络的方程中,他允许参数根据一组嵌套微分方程的结果随时间变化。
这种灵活性是关键。大多数神经网络的行为在训练阶段后是固定的,这意味着它们不善于适应传入数据流的变化。哈萨尼说,他的“液体”网络的流动性使其对意外或嘈杂的数据更具弹性,比如大雨遮住了自动驾驶汽车上摄像头的视野。“所以,它更健壮,”他说。
网络的灵活性还有另一个优势,他补充道:“它更容易理解。”
哈萨尼说,他的液体网络避开了其他神经网络常见的难以捉摸的问题。“只要改变神经元的表示形式,”就像哈萨尼用微分方程所做的那样,“你真的可以探索一些你无法探索的复杂程度。”多亏了哈萨尼的少量高表达神经元,更容易窥探“黑匣子”对网络的决策和诊断做出了一定的表征。
哈萨尼说:“模型本身在表现力方面更加丰富。”。这将有助于工程师了解并改善液体网络的性能。
哈萨尼的网络在一系列测试中表现出色。在准确预测从大气化学到交通模式等数据集中的未来值方面,它比其他最先进的时间序列算法领先了几个百分点。“在许多应用中,我们看到性能可靠地很高,“他说。此外,网络的小规模意味着它在不增加计算成本的情况下完成了测试。“每个人都在谈论扩大网络规模,”哈萨尼说。“我们想要缩小规模,拥有更少但更丰富的节点。”
哈萨尼计划不断改进该系统,并为其工业应用做好准备。他说:“我们有一个受自然启发的更具表现力的神经网络,但这只是这个过程的开始。”。“显而易见的问题是,你如何扩展这种网络?我们认为这种网络可能是未来情报系统的关键要素。”
资料来源:麻省理工学院