返回

或许AI也需要睡个好觉?神经网络定期休息后,能更好地工作

2020-06-17 11:37大数据文摘公众号

声明:本文来自于微信公众号 大数据文摘(ID:BigDataDigest),编译:千雪、Andy,授权站长之家转载发布。

AI真的越来越像人了,它可能并不像我们想象中那样一刻不停的工作也能保持高效,一项最新研究显示,在模拟神经网络中,存在着和人类睡眠类似的“休息”状态,用于消除人工大脑因为不间断自学习导致的不稳定性。

也就是说,给AI一个有规律的睡眠,它可以更高效的工作。

AI 神经网络 人工智能

AI 神经网络 人工智能未来的智能机器可能和我们一样需要睡眠

2020 年 6 月 8 日,新墨西哥州洛斯阿拉莫斯市,洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)发布了一项最新研究:没人能确定仿生人到底梦不梦得见电子羊,但仿生人们可能确实需要休息时间,而且这给他们带来的好处和睡眠给人类大脑带来的好处类似

“我们主要研究脉冲神经网络,这是种能像人类大脑一样进行学习的系统。” 洛斯阿拉莫斯国家实验室计算机科学家Yijing Watkins说:“而且我们尤其对神经形态处理器的一种训练方法看好,该方法通过模仿人类以及其他生物在童年期从环境中学习的方式来进行训练。

Watkins和她的研究小组发现,经过连续的无监督学习后,神经网络仿真开始变得不稳定。而让人惊奇的是,当他们将网络置于一种类似人类大脑在睡眠状态的电波下时,网络的稳定性就恢复了!Watkins说:“这简直就像是给神经网络睡了一个大觉。”

该结果是研究小组在开发一个神经网络时发现的,这个网络的功能非常接近人类和其他生物用于视觉的神经网络。该小组一开始尝试了很多让仿真神经网络在无监督字典训练(Unsupervised Dictionary Training一种不用进行先例对比就进行分类的方法)中变稳定的方法,但效果都不太好。

“一般很少会碰到这种让学习系统更稳定的问题,只有在尝试用仿生的脉冲神经网络,或者想搞楚生物本身意义时才会碰到这种问题。” 洛斯阿拉莫斯计算机科学家兼合作者 Garrett Kenyon说:“绝大多数机器学习、深度学习还有人工智能领域的研究人员都从未遇到过这个问题,因为在他们研究的人工系统中,可以直接进行全局数学运算来调节系统的整体动态增益。”

研究人员提到,真是尝试了各种方法来稳定网络,最后死马当做活马医才给网络置于人工模拟的睡眠环境中来试试。他们用各种类型的噪音进行了实验,这些噪音类似于在对收音机进行调频时电台之间出现的噪音。最好的实验结果是高斯白噪声(Gaussian noise),这是种频率和振幅范围较广的噪声。他们假设这种噪音模仿了生物神经元在慢波睡眠时接受到的输入。有实验结果表明慢波睡眠在一定程度上能确保大脑皮层神经元稳定,不会产生幻觉。

该小组之后的目标是在英特尔的Loihi神经形态芯片上实现他们的算法。他们希望,通过让Loihi时不时地“入睡”,从而使得它能更稳定地实时处理来自硅视网膜相机的信息。如果这一发现证实了睡眠对人工智能大脑的必要性的话,那么我们对未来可能出现的其他智能机器也就可以抱有同样的期望了,那就是,终结者也需要困觉。

Watkins将于 6 月 14 日在西雅图举行的女性计算机视觉研讨会上介绍这项研究。

关于洛斯阿拉莫斯国家实验室

洛斯阿拉莫斯国家实验室是一个多学科研究机构,代表国家安全从事战略科学研究,由Triad管理,Triad是一个面向公共服务的国家安全科学组织,由三个创始成员共同拥有:巴特尔纪念馆学会(Battelle)、德州农工大学系统(TAMUS),加州大学(UC)能源部国家核安全管理局。

洛斯阿拉莫斯通过确保美国核储备的安全性和可靠性,开发减少大规模毁灭性武器威胁的技术,以及解决与能源、环境、基础设施、健康和全球安全问题有关的问题,从而加强国家安全。

相关报道:

https://www.lanl.gov/discover/news-release-archive/2020/June/0608-artificial-brains.php

相关文章 大家在看
AI
2990篇文章
查看