物理科技生物学-PHYICA

基于人类神经元功小泉香能增加智能系统的记忆容量

技术工程 2021-12-01 21:55:01

neuron Credit: CC0公共领域来自列日大学(比利时)的研究人员最近开发了一种新的人工神经元,其灵感来自人类神经元的不同工作模式。这个过程被称为双稳态递归单元(BRC),它使递归网络能够学习一千多个离散时间单位的时间关系,而经典方法只能在一百个时间单位后失效。这些重要的结果发表在《PLOS一号》杂志上。近年来对人工智能的巨大兴趣导致了极其强大的机器学习技术的发展。例如,时间序列——存在时间成分的任何数据序列,如股票价格、天气模式或脑电图——就其性质而言,极其常见,并且由于其广泛的应用而引起极大的兴趣。时间序列分析是机器学习技术特别感兴趣的一种任务,它能够根据过去的事件预测未来的事件。鉴于潜在应用的多样性,通过人工智能算法处理此类数据在近年来变得非常流行是合乎逻辑的。

一种特殊类型的人工神经网络,称为递归神经网络(RNN),是近年来专门开发的,具有记忆功能,使网络能够随着时间的推移保留信息,以便正确处理时间序列。每次收到新数据时,网络都会更新其内存以保留这些新信息。尽管有这些发展,训练这样的网络仍然是困难的,并且它们的记忆能力在时间上是有限的。

“我们可以想象一个网络每天接收新信息的例子,”列日大学系统与建模实验室的博士生、该研究的第一作者Nicolas Vecoven解释道。“但是在第50天之后,我们注意到第一天的信息已经被遗忘了。然而,由于双稳定性机制,人类神经元能够在几乎无限的时间内保留信息。这使得神经元能够稳定在两种不同的状态,这取决于它们所经历的电流的历史,并且这种情况会持续无限长的时间。换句话说,由于这种机制,人类神经元可以无限长时间地保留一位(二进制值)信息。”

基于这种双稳定性机制,尼古拉斯·韦科文和他的同事达米安·恩斯特(人工智能专家)和纪尧姆·德里昂(神经科学专家)从ULiège那里构建了一个具有相同机制的新人工神经元,并将其集成到递归人工网络中。这种新的人工神经元被称为双稳态递归细胞(BRC),它使递归网络能够学习超过1000个时间步长的时间关系,而经典方法只能在大约100个时间步长后失败。这些有希望的结果已经发表在《PLOS一号》杂志上。这三位研究人员正在继续开发技术,通过促进神经元内平衡点的出现来改善神经元的记忆。

来源:由phyica.com整理转载自PH,转载请保留出处和链接!

本文链接:http://www.phyica.com/jishugongcheng/4996.html

发表评论

用户头像 游客
此处应有掌声~

评论列表

还没有评论,快来说点什么吧~