林肯实验室(Lincoln Laboratory)的影响力侦察行动研究团队绘制了一个在2017年法国总统选举期间活跃的外国推特宣传网络。较大的红色圆圈代表有影响力和可能有影响力的运营账户。功劳:麻省理工学院的虚假信息运动并不新鲜——想想战时宣传是如何影响公众反对敌人的。然而，新的是利用互联网和社交媒体来传播这些运动。通过社交媒体传播虚假信息有能力改变选举，强化阴谋论，制造不和。史蒂文·史密斯是麻省理工学院林肯实验室人工智能软件架构和算法组的一名工作人员，他是一个团队的一员，该团队通过发起影响行动侦察(RIO)计划来更好地了解这些活动。他们的目标是创建一个系统，自动检测虚假信息以及在社交媒体网络中传播虚假信息的个人。今年早些时候，该团队在《美国国家科学院院刊》上发表了一篇关于他们工作的论文，他们去年秋天获得了R&D 100奖。
该项目起源于2014年，当时史密斯和同事们正在研究恶意组织如何利用社交媒体。他们注意到社交媒体数据中有越来越多的不正常活动，这些数据似乎在推动亲俄叙事。
“我们有点摸不着头脑，”史密斯谈到数据时说。因此，该团队通过实验室的技术办公室申请内部资金，并启动了该项目，以研究类似的技术是否会在2017年的法国选举中使用。
在选举前的30天里，RIO团队收集了实时社交媒体数据，以搜索和分析虚假信息的传播。他们总共从100万个账户中收集了2800万条推特帖子。然后，使用RIO系统，他们能够以96%的精度检测虚假信息账户。
RIO系统的独特之处在于，它结合了多种分析技术，以便全面了解虚假信息的传播地点和方式。
“如果你试图回答谁在社交网络上有影响力的问题，传统上，人们会关注活动计数，”研究小组的另一名成员爱德华·高说。例如，在推特上，分析师会考虑推文和转发的数量。“我们发现，在许多情况下，这还不够。它实际上并没有告诉你这些账户对社交网络的影响。”
作为高在实验室林肯学者项目(一个学费奖学金项目)的博士工作的一部分，他开发了一种统计方法——现在在里约使用——来帮助确定一个社交媒体账户是否在传播虚假信息，以及该账户在多大程度上导致整个网络改变和放大信息。
另一名研究团队成员Erika Mackin也应用了一种新的机器学习方法，通过查看与行为相关的数据，如账户是否与外国媒体互动以及使用何种语言，帮助RIO对这些账户进行分类。这种方法使力拓能够发现活跃在各种竞选活动中的敌对账户，从2017年法国总统选举到新冠肺炎虚假信息的传播。
RIO的另一个独特之处在于，它可以检测和量化由机器人和人类操作的账户的影响，而目前使用的大多数自动化系统只检测机器人。力拓还有能力帮助那些使用该系统的人预测不同的应对措施可能如何阻止特定虚假信息活动的传播。
该团队预计，RIO将被政府和行业使用，并超越社交媒体，进入传统媒体领域，如新闻和电视。目前，他们正与西点军校的学生约瑟夫·施莱辛格(Joseph Schlessinger)合作，了解叙事如何在欧洲媒体上传播。施莱辛格也是麻省理工学院的研究生和林肯实验室的军事研究员。一个新的后续项目也正在进行中，以深入研究影响操作的认知方面，以及个人态度和行为如何受到虚假信息的影响。
“防范虚假信息不仅是国家安全的问题，也是保护民主的问题，”高说。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
