Credit: CC0公共领域陆军研究人员开发了一种深度伪造检测方法，该方法将允许创建最先进的士兵技术来支持任务关键任务，如敌对威胁检测和识别。这项工作特别关注轻量级、低训练复杂度和高性能的人脸生物识别技术，以满足士兵在战斗中需要的设备的尺寸、重量和功率要求。
美国陆军作战能力发展司令部的研究人员与南加州大学的c-c . Jay Kuo教授的研究小组合作，着手解决Deepfake对我们的社会和国家安全构成的重大威胁。其结果是一种被称为DefakeHop的创新技术解决方案。研究人员在实验室主任的外部合作倡议研究奖和陆军人工智能创新研究所下工作。
他们的工作发表在题为“DefakeHop:一种轻量级高性能深伪探测器”的论文中，该论文将在7月份的IEEE国际多媒体会议和2021年博览会上发表。
研究人员苏亚友博士和胡舒文博士说，Deepfake指的是人工智能合成的超现实视频内容，它错误地描述了个人说或做的事情。大多数最先进的深度伪造视频检测和媒体取证方法都是基于深度学习的，在鲁棒性、可扩展性和可移植性方面存在许多固有的弱点。
“由于生成神经网络的发展，人工智能驱动的deepfake发展如此之快，以至于缺乏可靠的技术来检测和防御deep fake，”尤说。“迫切需要一种替代范式，能够理解deepfakes惊人性能背后的机制，并在坚实的理论支持下开发有效的防御解决方案。”
将团队成员的经验与机器学习、信号分析和计算机视觉相结合，研究人员开发了一种创新的理论和数学框架，即逐次子空间学习(Sequential subsequence Learning，简称SSL)，作为一种创新的神经网络架构。研究人员说，SSL是DefakeHop的关键创新。
“SSL是从信号变换理论发展而来的神经网络架构的全新数学框架，”Kuo说。“它与传统方法完全不同，提供了一种新的信号表示和过程，涉及级联的多个变换矩阵。它非常适合具有短、中、远程协方差结构的高维数据。SSL在其设计中自然利用了这种特性。它是一个完整的数据驱动的无监督框架，为图像处理和人脸生物识别等理解任务提供了全新的工具。”
尤说，目前最先进的深度伪造视频检测技术和媒体取证方法都是基于深度学习机制。
根据该团队的说法，DefakeHop与当前的艺术初创公司相比有几个显著的优势，包括:
它建立在全新的SSL信号表示和转换理论之上。它在数学上是透明的，因为它的内部模块和过程是可解释的。它是一种弱监督的方法，提供了一种单程(不需要反向传播)学习机制，以显著降低的训练复杂度节省了标记成本。它生成的模型大小和参数显著更小。它的复杂性比最先进的技术低得多，并且可以在战术边缘设备和平台上有效地实现，这是对抗攻击所必需的。基于深度学习的方法容易受到攻击。尤说，这项研究提供了一个强大的空间谱表示来净化对抗性输入，从而可以有效地防御对抗性扰动。这项研究通过引入和研究一种创新的机器学习理论及其应用于智能感知、表示和处理的计算算法，支持陆军和实验室的人工智能和最大似然研究成果。
“我们预计未来的士兵将在战场上携带智能但体积、重量和功率极低的基于视觉的设备，”尤说。“如今的机器学习解决方案对特定的数据环境过于敏感。当在不同的环境中获取数据时，需要对网络进行重新训练，这在嵌入式系统中很难进行。所开发的解决方案具有相当多的期望特征，包括模型尺寸小、需要有限的训练数据、训练复杂度低并且能够处理低分辨率输入图像。这可能会带来改变游戏规则的解决方案，并对未来的陆军产生深远的影响。”
研究人员成功地应用SSL原理解决了几个人脸生物识别和一般场景理解问题。结合De fakeHop的工作，他们开发了一种基于SSL原理的称为FaceHop的新方法来解决一个具有挑战性的问题——低图像质量和低分辨率环境下的人脸性别识别和分类。
该团队继续为人脸生物识别和一般场景理解开发新的解决方案和科学突破，例如目标检测、识别和语义场景理解。
“我们都已经看到了人工智能对社会的实质性影响——无论是好的还是坏的，人工智能正在改变许多事情，”胡说。“Deepfake就是一个反面例子。几十年来，通过在娱乐行业中使用各种视觉效果，已经展示了复杂的计算机生成图像的创建，但人工智能和机器学习的最新进展导致虚假内容的真实性和获取这些工具的便利性大幅提高。”
研究团队有机会解决这些具有军事和日常影响的挑战性问题。
“我们认为这项研究是新的、新颖的、及时的，并且在技术上是可行的，”尤说。“这是一项高风险、高创新的努力，具有变革潜力。我们预计，这项研究将提供相对于当前技术具有显著优势的解决方案，并为人工智能、计算机视觉、智能场景理解和人脸生物识别科学增添重要的新知识。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
