filter buddy的分类页面截图。来源:Shagun Jhaver罗格斯大学助理教授Shagun Jhaver长期以来一直怀疑来自少数群体的数字内容创作者遭受了不成比例的网上骚扰。但当他听说一名35岁的巴西YouTuber用户因接二连三的数字仇恨而精神崩溃并住院时，他决定采取行动。贾弗在罗格斯大学传播与信息学院图书馆与信息科学系任教，他为YouTube开发了一个评论审核工具，以确保像巴西视频主持人这样的用户——最终关闭了他的频道——可以在不受攻击的情况下工作。这款名为FilterBuddy的免费开源工具旨在为专业内容创作者——任何以在社交媒体平台上发布内容为生的人——提供保护自己和观众的能力。
为了开发FilterBuddy，Jhaver研究了YouTube、脸书、Twitter和Twitch等平台的标准内容审核工具。在对来自美洲、亚洲、欧洲和中东的19位创作者的采访中，来自华盛顿大学的Jhaver和他的同事发现，内容创作者，尤其是来自代表性不足的社区的内容创作者，经常因为他们的外表、信仰和背景而受到攻击。“他们面临不成比例的虐待，所以他们有不成比例的需求，”他说。
Jhaver还了解到，平台提供的关键词过滤工具很难使用，而且大部分是无效的。“这些工具非常初级，很难纵向扩展，而且在许多平台上，您甚至无法搜索您已配置的过滤规则。”
这项发现最近发表在ACM CHI计算系统中人的因素会议上。
基于这些数据，Jhaver和他的同事为YouTube创作者创建了一个系统，以支持更好的创作，维护和审计词过滤器，它可以在潜在的攻击性评论公开之前标记和隔离它们。FilterBuddy还包括一个交互式过滤器捕获预览(在部署之前测试过滤器的有效性)，能够在他人创建的过滤器和时间序列图和表的基础上构建，以了解随着时间的推移哪些过滤器捕获了哪些评论。
最终，Jhaver希望FilterBuddy将激励平台开发更强大的内部资源，并使第三方应用程序更容易连接。
“我们使用标准的开发工具来创建FilterBuddy，但这些功能受到了社区的广泛认可和迫切需要，”他说。“我们以小本经营的预算建立这项服务的事实表明，目前平台没有足够重视创作者的需求。"
贾维尔说，最重要的是，他希望他的软件能为用户和创作者提供一个更安全的网络空间。“没有人应该因为辱骂性的评论而放弃自己的工作，”他说。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
