密歇根大学利用忆阻器加快神经网络学习速度发布时间: 2018-01-07 00:16:39.0

       密歇根大学研究人员研制出一种被称为储备池计算系统的新型神经网络,该神经网络具有更好的能力,需要的训练时间比类似的神经网络更少。该系统有望用于复杂预测,如预测对话中即将出现的单词。

相比于此前用体积更大的光学器件实现,研究人员此次利用了具有空间效率的忆阻器来设计系统,这种系统与传统硅基电子器件很容易集成。记忆电阻器是一种独特的电子元件,它结合了数据存储和逻辑运算的功能,这与传统的存储器与处理器分离不同。

神经网络由节点及其之间的连接组成,用于模仿大脑的神经元和突触。在传统上,神经网络需要时间很长的有监督学习过程,通过向其提供大量问题和解决方案来教会神经网络解决一类问题。在这个迭代的过程中,不同的权重被分配给突触,直到神经网络能够以最小的错误率找到正确答案为止。

密歇根大学电子工程和计算机科学教授、研究小组组长卢伟表示:很多时候,训练一个神经网络需要耗费几天或几个月的时间,时间成本极高

然而,采用储备池计算系统可以简化训练过程,因为其最重要的组成部分,即储备池不需要进行训练。

卢伟表示:储备池计算的好处在于,当我们设计它的时候并不需要对其进行训练

该储备池只将输入数据的时间相关特性以简短的格式传送到第二个网络。第二个网络类似于基本的神经网络,只需要进行简单的训练。

通过识别手写数字,验证了储备池计算系统的有效性。该储备池的准确率达到了91.1%,超过了标准单层神经网络88%的准确率。与达到这一准确率的含有数千个节点的神经网络相比,该储备池计算系统只需要88个忆阻器。

该研究团队还展示了系统对随时间变化数据的处理,并用其模仿依赖多个此前结果的复杂函数。储备池计算系统完成这项任务几乎没有错误。

未来,卢伟设想将该神经网络系统用于语音识别。

卢伟表示:我们可以对自然语言进行预测,在话没有说完整的情况下,也可以预测接下来要说什么。

此外,该神经网络还可以用于清除噪音信号,如从遥远的无线电台传输的充满了静电干扰的无线电信号。

卢伟指出:即使输入停止,该神经网络也能预测和产生输出信号

该工作从DARPA感知和分析用稀疏自适应本地学习项目中获得690万美元的资助,该项目的目标是创建一个自组织、自适应神经网络的计算机芯片。

来源: 中国国防科技信息网

由于系统升级,评论功能临时关闭!

热点新闻
福特将推全新一代翼虎 有望于2019年1月在底特律车展上亮相(多图) (2018-04-24)
工会最终让步 通用韩国放弃破产计划 (2018-04-24)
eBay首席执行官进通用汽车董事会,6月将竞选其股东职位 (2018-04-23)
通用韩国公司与工会间的谈判未能在上周末达成协议 (2018-04-23)
NACSAE/CSAE智能网联汽车论坛圆满结束(多图) (2018-04-23)
菲亚特克莱斯勒宣布拆分零部件业务 预计2019年初完成 (2018-04-22)
菲亚特克莱斯勒会与谁合并?福特、大众、标致雪铁龙呼声最高 (2018-04-22)
福特成立爱迪生团队 中国成全球电气化主场原创(多图) (2018-04-21)
达美航空旗舰客机A350开始执飞上海至底特律航线(多图) (2018-04-21)
寻求工会支持 通用韩国试图将关闭工厂工人移至他处 (2018-04-20)
史蒂夫·卡莱尔任通用高级副总裁兼凯迪拉克总裁 (2018-04-20)
通用韩国5月关闭群山工厂 公布工人安置计划 (2018-04-19)
密歇根大学专家组访弘天生物,深化战略合作 (2018-04-19)
NACSAE/CSAE智能网联汽车论坛(多图) (2018-04-19)
加速进军自动驾驶领域 福特计划推出自动驾驶出租车服务 (2018-04-18)
美国富人纷纷涌向“贵城市” 底特律克利夫兰被打入“冷宫” (2018-04-18)