Credit:CC0 Public Domain康奈尔大学的三名研究人员发现，有可能将恶意软件代码隐藏在AI神经网络内部。、刘和发表了一篇论文，描述了他们在arXiv预印本服务器上进行的将代码注入神经网络的实验。随着计算机技术变得越来越复杂，犯罪分子为了自己的目的闯入运行新技术的机器的企图也变得越来越复杂，例如破坏数据或对数据进行加密，并要求用户为其返还支付费用。在这项新的研究中，该团队发现了一种感染某些运行人工智能应用程序的计算机系统的新方法。
人工智能系统通过类似于人脑的方式处理数据来完成工作。但研究三人组发现，这样的网络很容易被外国代码渗透。
神经网络就其本质而言，可能会受到外来因素的入侵。所有这些代理人要做的就是模仿网络的结构，就像人类大脑中加入记忆一样。研究人员发现，他们可以通过将恶意软件嵌入名为AlexNet的人工智能系统背后的神经网络来实现这一点——尽管它相当庞大，在运行人工智能系统的硬件上占据了36.9 MiB的内存空间。为了将代码添加到神经网络中，研究人员选择了他们认为最好的注射层。他们还将其添加到已经训练过的模型中，但指出黑客可能更喜欢攻击未经训练的网络，因为它对整个网络的影响可能较小。
研究人员发现，不仅标准的杀毒软件找不到恶意软件，AI系统在被感染后的性能也几乎相同。因此，如果秘密实施，感染可能不会被发现。
研究人员指出，简单地将恶意软件添加到神经网络中不会造成伤害——无论是谁将代码滑入系统，都必须找到执行该代码的方法。他们还指出，现在已经知道黑客可以将代码注入AI神经网络，因此可以更新防病毒软件来寻找它。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
