华盛顿大学的研究人员显示，包括谷歌在内的全球四大搜索引擎的图片搜索结果反映出性别偏见。搜索一个职业，比如“CEO”，得到的结果中，男性和女性的比例与当前的统计数据相匹配。但是当该团队添加另一个搜索项时——例如，“美国首席执行官”——图像搜索返回的cis-女性展示者的照片更少。鸣谢:华盛顿大学我们使用谷歌的图像搜索来帮助我们了解我们周围的世界。例如，搜索某个职业，比如“卡车司机”，应该会产生一些图像，向我们展示一些以开卡车为生的人。但在2015年，华盛顿大学(UW)的研究人员发现，当搜索各种职业——包括“首席执行官”——时，女性在图像结果中的代表性明显不足，这些结果可以改变搜索者的世界观。从那以后，谷歌声称已经解决了这个问题。
另一个UW团队最近调查了该公司的真实性。根据2月份在AAAI人工智能大会上提交的一篇论文，研究人员表明，对于包括谷歌在内的全球四大搜索引擎来说，这种偏见只是部分固定的。搜索一个职业，比如“CEO”，得到的结果中，男性和女性的比例与当前的统计数据相匹配。但当该团队添加另一个搜索词时——例如，“CEO +美国”——图像搜索返回的cis-女性展示者的照片更少。在论文中，研究人员针对这个问题提出了三种可能的解决方案。
“我的实验室已经对搜索结果中的偏见问题进行了一段时间的研究，我们想知道这种首席执行官图片搜索的偏见是否只是在表面上得到解决，”资深作者Chirag Shah说，他是UW信息学院的副教授。“我们希望能够表明，这是一个可以针对所有搜索术语进行系统修复的问题，而不是必须用这种‘打地鼠’方法一次修复一个问题。”
该团队调查了谷歌、中国搜索引擎百度、韩国Naver和俄罗斯Yandex的图片搜索结果。研究人员对10种常见职业进行了图片搜索，包括首席执行官、生物学家、计算机程序员和护士，其中既有也有没有附加搜索词，如“美国”
“这是研究机器学习系统的一种常见方法，”首席作者冯云鹤说，他是该校的UW博士后研究员。“就像人们对汽车进行碰撞测试以确保其安全性一样，隐私和安全研究人员试图挑战计算机系统，看看它们的表现如何。这里，我们只是稍微改变了搜索词。我们没想到会看到如此不同的输出。”
对于每次搜索，该团队收集了前200张图像，然后使用志愿者和性别检测人工智能软件的组合来识别每张脸是顺男还是顺女呈现。
研究人员承认，这项研究的一个局限是它假设性别是二元的。但这使得他们可以将自己的发现与美国劳工统计局针对每种职业的数据进行比较。
研究人员特别好奇性别偏见比例如何随着他们看多少张图片而变化。
“我们知道，人们把大部分时间花在搜索结果的第一页上，因为他们想很快找到答案，”冯说。“但也许如果人们确实滚动过搜索结果的第一页，他们会开始在图像中看到更多的多样性。”
当该团队在谷歌图片搜索中添加“+美国”时，一些职业的性别偏见比例比其他职业更大。看更多的图片有时会消除这些偏见，但并不总是如此。
虽然其他搜索引擎显示了特定职业的差异，但总体趋势保持不变:增加另一个搜索词改变了性别比例。
“这不仅仅是谷歌的问题，”沙阿说。“我不想让这听起来像是我们在偏袒其他搜索引擎。百度、Naver、Yandex都是来自不同文化的不同国家。这个问题好像很泛滥。这是他们所有人的问题。”
该团队设计了三种算法来系统地解决这个问题。第一个随机打乱结果。
沙阿说:“这一届试图改变现状，避免高层过于一致。”。
另外两种算法为图像混洗增加了更多的策略。一个包括图像的“相关性分数”，搜索引擎根据结果与搜索查询的相关性来分配。另一种要求搜索引擎知道统计局的数据，然后算法打乱搜索结果，使排名靠前的图像遵循真实趋势。
研究人员在从谷歌、百度、Naver和Yandex搜索中收集的图像数据集上测试了他们的算法。对于偏差比例较大的职业——例如，“生物学家+美国”或“CEO +美国”——这三种算法都成功减少了搜索结果中的性别偏差。但是对于偏差率较小的职业(例如，“卡车司机+美国”)，只有了解实际统计数据的算法才能减少偏差。
尽管该团队的算法可以系统地减少各种职业的偏见，但真正的目标是看到这些类型的减少出现在谷歌、百度、Naver和Yandex的搜索中。
“我们可以解释我们的算法为什么以及如何工作，”冯说。“但搜索引擎背后的人工智能模型是一个黑箱。公平地呈现信息可能不是这些搜索引擎的目标。他们可能对让用户参与搜索结果更感兴趣。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
