圣达菲研究所 论文中的图1:推特对话(回复树)的例子，标记为仇恨(红色)、反击(蓝色)和中性言论(白色)
根节点显示为一个大正方形
信用:加兰等人，EMNLP 2020 在世界各国，网上仇恨言论的增加是一个令人不安的日益增长的趋势，具有严重的心理后果，并有可能影响甚至助长现实世界的暴力
公民发起的反言论可能有助于阻止网上的仇恨言论，但这很难量化和研究
直到最近，研究还局限于小规模的手工标记的努力
在2020年自然语言处理经验方法会议上发表的一篇新论文为研究在线仇恨和反言论的动态提供了一个框架
这篇论文首次对推特上数百万次这样的互动进行了大规模分类
作者开发了一种学习算法来评估德国推特上一个独特情况的数据，研究结果表明，抵制社交媒体上仇恨言论的有组织运动比个人主动出击更有效
作者将在2020年11月20日与2020年欧洲媒体峰会联合举办的在线虐待和伤害研讨会上发表他们的论文“对抗社交媒体上的仇恨:仇恨和反言论的大规模分类”
圣达菲研究所的数学家和应用复杂性研究员约书亚·加兰说:“在过去的两三年里，我看到了民间话语的巨大转变，变得更加可恶和两极化。”
“所以，对我来说，一个有趣的问题是:当你受到网络欺凌或在网上收到仇恨言论时，什么是合适的回应？你有回应吗？你试图让你的朋友帮助保护你吗？你只是挡着人吗？” 为了科学地研究这些问题，研究人员必须首先获得大量关于仇恨言论和反言论的真实数据，以及区分这两者的能力
这些数据是存在的，加兰和德国马克斯·普朗克研究所的合作者凯扬·加齐-扎赫迪在德国推特上进行的五年互动中发现了这些数据:当一个极右团体带着仇恨言论走上讲台时，一场有组织的运动奋起反抗
“这两个小组的美妙之处在于它们是自我标记的，”该小组的社会科学家、SFI大学人类社会动力学教授米尔塔·加莱西奇解释道
她说，研究反语音的研究人员通常不得不雇佣数百名学生来手工编码数千个帖子
但是加兰和加齐-扎赫迪能够将自我标记的帖子输入到机器学习算法中，以实现大部分分类的自动化
该团队还依靠20-30名人类编码员来检查机器分类是否与关于什么是仇恨和反言论的直觉相匹配
结果是一个前所未有的数据集，让研究人员不仅可以分析孤立的仇恨和反言论，还可以比较两者之间的长期互动
该团队收集了两组成员发布的数百万条推文的数据集，使用这些自我识别的推文来训练他们的分类算法，以识别仇恨和反击言论
然后，他们应用他们的算法研究了2013年至2018年间发生的大约20万次对话的动态
作者计划很快发表一篇后续论文，分析他们的算法揭示的动力学
“现在我们可以解析从2016年到2018年的大量数据，看看仇恨和反言论的比例是如何随着时间的推移而变化的，谁得到了更多的喜欢，谁被转发，以及他们是如何相互回复的，”加莱西奇说
加兰指出，数据的数量是一个巨大的福音，也使其“难以置信的复杂”
研究人员正在比较两组人的策略，并寻求更广泛的问题，如某些反言语策略是否比其他策略更有效
加兰说:“我希望我们能提出一个严谨的社会理论，告诉人们如何以一种非两极分化的有效方式来对抗仇恨，并让互联网回归公民话语。”
"
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
