RAILS，这种新的免疫启发算法，使得字符识别算法更加健壮。它提供了对诸如卷积神经网络和健壮的深度k-最近邻(在这种情况下为5)等常见方法的显著改进。鸣谢:王人，Hero Group，密歇根大学如果香蕉上的标签可以让它变成烤面包机，那么战略性破坏行为会如何扭曲自动驾驶汽车对停车标志的感知呢？现在，密歇根大学的工程师、生物学家和数学家设计了一种免疫激发的神经网络防御系统，可以抵御这种攻击。深度神经网络是用于各种分类问题的机器学习算法的子集。其中包括图像识别和机器视觉(由自动驾驶汽车和其他机器人使用)、自然语言处理、语言翻译和欺诈检测。然而，可以说，一个邪恶的人或团体可能会稍微调整输入，并沿着错误的思路发送算法。为了保护算法免受此类攻击，密歇根团队开发了强大的对抗性免疫启发学习系统。
“RAILS代表了模仿适应性免疫系统的第一种对抗性学习方法，适应性免疫系统的运作方式不同于先天免疫系统，”约翰·h·荷兰杰出大学教授阿尔弗雷德·希罗说，他是发表在IEEE Access上的这项工作的共同领导者。
当先天免疫系统对病原体发起全面攻击时，哺乳动物免疫系统可以产生新的细胞来抵御特定的病原体。事实证明，已经受到大脑信息处理系统启发的深度神经网络也可以利用这一生物过程。
“免疫系统是为惊喜而生的，”计算医学和生物信息学副教授、该研究的共同领导者Indika Rajapakse说。“它的设计令人惊叹，总能找到解决方案。”
RAILS通过模仿免疫系统的自然防御来识别并最终处理神经网络的可疑输入。为了开始开发它，生物团队研究了小鼠的适应性免疫系统如何对抗原做出反应。该实验使用了转基因老鼠的组织，这些老鼠的B细胞上表达荧光标记。
该团队通过培养脾脏细胞和骨髓细胞创建了一个免疫系统模型，代表免疫系统的总部和要塞。该系统使生物团队能够跟踪B细胞的发育，这是从设计与抗原结合的受体的试错法开始的。一旦B细胞聚集在溶液中，它们就产生血浆B细胞以捕获任何存在的抗原，并产生记忆B细胞以准备下一次攻击。
这个停车标志上的贴纸可能会让没有准备好的自动驾驶汽车失控。或者，一个罪犯发现了一个AV视觉系统的弱点，他可以在标志上粘贴标签，故意制造事故。新的免疫启发算法提供了一种抵御这种攻击的方法。鸣谢:密歇根工程斯蒂芬·林德斯利(Stephen Lindsly)当时是生物信息学博士生，他对拉贾帕克萨实验室产生的信息进行了数据分析，并在生物学家和工程师之间担任翻译。Hero的团队随后在计算机上模拟了这一生物过程，将生物机制融入到代码中。他们用对抗性的输入来测试RAILS的防御。然后，他们比较了学习攻击抗原的B细胞的学习曲线和学习排除那些不良输入的算法。
“在我们将RAILS的学习曲线与从实验中提取的曲线进行比较之前，我们并不确定我们真的捕捉到了生物过程，”Hero说。“他们完全一样。”
RAILS不仅是一种有效的仿生学，而且优于两种最常见的用于对抗敌对攻击的机器学习过程:鲁棒的深度k近邻和卷积神经网络。
“这项工作非常有希望的一部分是，我们的总体框架可以抵御不同类型的攻击，”电气和计算机工程研究员王人说，他主要负责该软件的开发和实施。
研究人员使用图像识别作为测试案例，在几个数据集中评估RAILS对八种类型的对抗性攻击。它在所有情况下都有所改善，包括对最具破坏性的对抗性攻击的保护——被称为投射梯度下降攻击。此外，RAILS提高了整体精度。例如，它有助于正确识别鸡和鸵鸟的图像，这两种鸟被广泛认为是猫和马。
“这是一个用数学来理解这个美丽的动力系统的惊人例子，”拉贾帕克萨说。“我们也许能够利用我们从RAILS中学到的东西，帮助重新编程免疫系统，使其更快地工作。”
Hero团队未来的努力将集中在将响应时间从毫秒减少到微秒。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
