最准确分类的(顶行)和最不准确分类的(底行)真实(R)和合成(S)人脸。credit:DOI:10.1073/PNAS . 2120481119研究人员表示，人们无法区分人工智能生成的人脸(使用StyleGAN2)和真实的人脸，他们呼吁采取措施防止“深度伪造”。人工智能合成的文本、音频、图像和视频已经被用于所谓的“复仇色情”、欺诈和宣传。
兰开斯特大学的索菲·南丁格尔博士和加州大学伯克利分校的哈尼·法里德教授进行了一项实验，实验中要求参与者区分最先进的合成面孔和真实面孔，以及这些面孔引起的信任程度。
结果显示，合成生成的人脸不仅具有高度的照片真实感，而且几乎与真实人脸无法区分，甚至被认为更可信。
他们在杂志上写道:“我们对人工智能合成人脸的照片真实感的评估表明，合成引擎已经通过了恐怖谷，能够创建比真实人脸更难以区分、更可信的人脸。”
研究人员警告说，人们无法识别人工智能生成的图像。
“也许最有害的后果是，在一个任何图像或视频都可以伪造的数字世界里，任何不方便或不受欢迎的记录的真实性都可能受到质疑。”
在第一个实验中，315名参与者将800张人脸中的128张归类为真实的或合成的。他们的准确率是48%，接近50%的概率表现。在第二个实验中，219名新参与者接受了训练，并得到了如何对人脸进行分类的反馈。他们对从第一次实验的800张面孔中抽取的128张面孔进行了分类——但是尽管他们进行了训练，准确率只提高到了59%。研究人员决定找出对可信度的感知是否能帮助人们识别人工图像。
“面孔提供了丰富的信息来源，仅仅几毫秒的曝光时间就足以对个人特征做出隐含的推断，比如可信度。我们想知道合成的面孔是否会激发同样的可信度判断。如果不是，那么对可信度的感知有助于区分真实面孔和合成面孔。”
第三项研究要求223名参与者对800张面孔中的128张面孔的可信度进行评级，等级从1(非常不可信)到7(非常可信)。
合成人脸的平均评分比真实人脸的平均评分高7.7%，这在统计上是显著的。
"也许最有趣的是，我们发现合成生成的脸比真实的脸更可信."
黑人的脸比南亚人的脸更值得信任，但除此之外，其他种族之间没有影响。
女性被认为明显比男性更值得信任。
“微笑的脸更有可能被评为值得信任，但65.5%的真实脸和58.8%的合成脸都是微笑的，所以仅凭面部表情不能解释为什么合成脸被评为更值得信任。”
研究人员认为，合成脸可能被认为更可信，因为它们类似于普通脸——而普通脸本身被认为更可信。
为了保护公众免受“深度造假”的影响，他们还提出了合成图像创作和传播的指导方针。
例如，安全措施可以包括在图像和视频合成网络中加入坚固的水印，为可靠的识别提供下游机制。因为对这种强大技术的访问的民主化构成了最大的威胁，我们也鼓励重新考虑对公众的自由放任态度，以及无限制地发布代码供任何人集成到任何应用程序中。
“在这个关键时刻，正如其他科学和工程领域所做的那样，我们鼓励图形和视觉社区为合成媒体技术的创建和分发制定指导方针，其中包括研究人员、出版商和媒体分销商的道德准则。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
