人类(蓝色)和机器人(红色)帐户在年龄、性格和情感方面的分布。在每个特征中，人类账户有很大的价值分布，而机器人账户都聚集在很小的范围内。对于热情、愉快和消极，机器人聚集在人类分布的中心，表明这些账户表现出非常平均的特征。功劳:宾夕法尼亚大学的社交机器人，或者说是冒充真人的自动社交媒体账户，已经渗透到各种讨论中，包括关于重要话题的对话，比如新冠肺炎·疫情事件。这些机器人不像手机短讯或垃圾邮件；最近的研究表明，社交媒体用户发现他们大多无法与真实的人类区分开来。现在，宾夕法尼亚大学和石溪大学的研究人员发表在《计算语言学协会的发现》上的一项新研究，对这些机器人如何伪装自己进行了更深入的研究。通过最先进的机器学习和自然语言处理技术，研究人员估计了机器人模仿17种人类属性的能力，包括年龄、性别和一系列情绪。
这项研究揭示了机器人在社交媒体平台上的行为和与真实账户的互动，以及机器人生成技术的当前能力。
它还提出了一种检测机器人的新策略:虽然任何一个机器人使用的语言都令人信服地反映了人类的性格特征，但它们之间的相似性暴露了它们的人工本性。
“这项研究让我们深入了解了机器人是如何在不被发现的情况下与这些平台进行互动的，”第一作者Salvatore Giorgi说，他是宾夕法尼亚大学工程与应用科学学院计算机与信息科学系(CIS)的研究生。“如果一个推特用户认为一个账户是人类的，那么他们可能更有可能使用这个账户。根据机器人的意图，这种互动的最终结果可能是无害的，但也可能导致参与潜在危险的错误信息。”
这项研究是由CIS教授莱尔·恩加尔和资深作者、石溪大学计算机科学系副教授安德鲁·施瓦茨共同完成的。
一些研究人员之前的工作显示了社交媒体帖子的语言如何被用来准确预测读者的许多属性，包括他们的年龄、性别以及他们在“五大”人格特征测试中的得分:对经验的开放、责任心、外向性、宜人性和神经质。
这项新研究观察了3000个bot账户和同等数量的真实账户创作的300多万条推文。仅基于这些推文的语言，研究人员估计了每个账户的17个特征:年龄、性别、五大人格特征、八种情绪(如快乐、愤怒和恐惧)以及积极/消极情绪。
他们的结果显示，单个来说，机器人看起来像人类，对他们的人口统计、情绪和性格特征有合理的评价。然而，作为一个整体，社交机器人看起来像是彼此的克隆体，就它们在所有17个属性中的估计值而言。
绝大多数情况下，所使用的语言机器人似乎是20多岁的人的特征，而且非常积极。
研究人员的分析显示，社交机器人在17个人类特征上的得分非常一致，以至于他们决定测试这些特征作为机器人检测器的唯一输入效果如何。
“想象一下你试图在人群中寻找间谍，所有人都有非常好但也非常相似的伪装，”施瓦茨说。“单独看每一个，它们看起来都很真实，融合得非常好。然而，当你缩小视野，看着整个人群时，它们是显而易见的，因为伪装太普遍了。我们与社交媒体互动的方式，并没有缩小，我们只是一次看到几条信息。这种方法为研究人员和安全分析师提供了一个大视野，可以更好地看到社交机器人的常见伪装。”
通常，机器人检测器依赖于更多的特征或来自机器人社交网络的信息和它们发布的图像的复杂组合。Schwartz和Giorgi fo und发现，通过仅根据这17个特征自动将账户分成两组，而没有机器人标签，两组中的一组最终几乎完全是机器人。事实上，他们能够使用这种技术来制造一个无监督的机器人检测器，并且它近似匹配最先进的准确性(真阳性率:0.99，灵敏度/召回率:0.95)。
乔治说:“结果完全没有达到我们的预期。“最初的假设是，社交机器人账户显然看起来不人道。例如，我们认为我们的分类器可能估计一个机器人的年龄为130岁或负50岁，这意味着一个真正的用户将能够判断出某个东西是关闭的。但在所有17个特征中，我们发现大多数机器人都在‘人类’范围内，尽管机器人种群之间的变异极其有限。”
相比之下，当观察非社交机器人的人类特征估计值时，这些自动账户并没有试图隐藏它们的人工本质，特征分布与最初的假设相匹配:估计值超出了正常的人类范围，并且在人群水平上看似随机分布。
乔治说:“人们在推特上可以遇到的账户类型有很大的不同，几乎像科幻小说中的场景:人类、假装成人类的类人克隆体和机器人。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
