密歇根大学利用忆阻器加快神经网络学习速度发布时间: 2018-01-07 00:16:39.0

       密歇根大学研究人员研制出一种被称为储备池计算系统的新型神经网络,该神经网络具有更好的能力,需要的训练时间比类似的神经网络更少。该系统有望用于复杂预测,如预测对话中即将出现的单词。

相比于此前用体积更大的光学器件实现,研究人员此次利用了具有空间效率的忆阻器来设计系统,这种系统与传统硅基电子器件很容易集成。记忆电阻器是一种独特的电子元件,它结合了数据存储和逻辑运算的功能,这与传统的存储器与处理器分离不同。

神经网络由节点及其之间的连接组成,用于模仿大脑的神经元和突触。在传统上,神经网络需要时间很长的有监督学习过程,通过向其提供大量问题和解决方案来教会神经网络解决一类问题。在这个迭代的过程中,不同的权重被分配给突触,直到神经网络能够以最小的错误率找到正确答案为止。

密歇根大学电子工程和计算机科学教授、研究小组组长卢伟表示:很多时候,训练一个神经网络需要耗费几天或几个月的时间,时间成本极高

然而,采用储备池计算系统可以简化训练过程,因为其最重要的组成部分,即储备池不需要进行训练。

卢伟表示:储备池计算的好处在于,当我们设计它的时候并不需要对其进行训练

该储备池只将输入数据的时间相关特性以简短的格式传送到第二个网络。第二个网络类似于基本的神经网络,只需要进行简单的训练。

通过识别手写数字,验证了储备池计算系统的有效性。该储备池的准确率达到了91.1%,超过了标准单层神经网络88%的准确率。与达到这一准确率的含有数千个节点的神经网络相比,该储备池计算系统只需要88个忆阻器。

该研究团队还展示了系统对随时间变化数据的处理,并用其模仿依赖多个此前结果的复杂函数。储备池计算系统完成这项任务几乎没有错误。

未来,卢伟设想将该神经网络系统用于语音识别。

卢伟表示:我们可以对自然语言进行预测,在话没有说完整的情况下,也可以预测接下来要说什么。

此外,该神经网络还可以用于清除噪音信号,如从遥远的无线电台传输的充满了静电干扰的无线电信号。

卢伟指出:即使输入停止,该神经网络也能预测和产生输出信号

该工作从DARPA感知和分析用稀疏自适应本地学习项目中获得690万美元的资助,该项目的目标是创建一个自组织、自适应神经网络的计算机芯片。

来源: 中国国防科技信息网

由于系统升级,评论功能临时关闭!

热点新闻
使命已完成 本网站自即日起停止新闻更新 (2019-08-27)
福特高管表示自动驾驶汽车使用寿命只有四年 (2019-08-27)
亚马逊现在推出了晚期型号的通用汽车 (2019-08-25)
长安福特换帅 欧洲董事长接棒任新总裁(图) (2019-08-25)
通用汽车 本田下一代电池技术合作伙伴 (2019-08-24)
随着福特受到重创 特朗普迫使汽车制造商在燃油经济性规则上走得很好 (2019-08-24)
密歇根大学预防未来自动驾驶汽车晕车 (2019-08-23)
底特律是中产阶级最负担得起的美国城市之一 (2019-08-23)
克莱斯勒Pacifica在小型货车上的排名靠前 (2019-08-22)
此前遭遇中风的骑士老板丹-吉尔伯特已经回到底特律家中 (2019-08-22)
福特汽车计划从2023款车型开始在底特律生产 (2019-08-21)
创业者的顶峰体验——福布斯U30底特律峰会(图) (2019-08-21)
美国钢铁计划在密歇根裁员数百名工人 (2019-08-20)
你知道底特律大学offer一般多久能下来? (2019-08-20)
3换1,顶级养伤控卫奔赴底特律?活塞欲豪赌三巨头冲冠(多图) (2019-08-19)
EV Connect和通用汽车公司将加强充电体验 (2019-08-19)