微妙的标签可能提示在线推荐系统如何选择他们的选择，并且可能影响用户是否信任这些推荐。根据一组研究人员的说法，暗示在线推荐系统如何选择书籍和电影的微妙标签可能会影响人们是否信任这些系统。当这些建议出现问题时，他们也可能会提醒人们该责怪谁。在一项研究中，研究人员调查了人们是否信任三个最常见的电影推荐过滤器，即内容，合作和人口统计过滤器。最受信任的系统——协同过滤系统，会根据具有相似品味的其他用户的选择提供推荐。基于内容的过滤提供与用户先前选择的内容相似的推荐，而人口统计过滤基于用户提供的人口统计信息(例如年龄和性别)来呈现选择。
根据研究人员的说法，获得用户对这些系统的信任可以帮助组织更有效地提供内容和服务，他们今天(5月2日)在ACM计算系统中人的因素会议(CHI'22)的会议录上报告了他们的发现，这是人机交互研究的首要出版物。
“这些是我们每天都在使用的推荐系统——在网飞和亚马逊这样的平台上——为我们推荐内容和产品，”唐纳德·P·贝里萨里奥传播学院詹姆斯·p·吉米罗媒体效果教授兼宾夕法尼亚州立大学媒体效果研究实验室联合主任s·希亚姆·桑达尔说。“我们发现，当这些系统告诉我们一些关于他们为什么推荐某些内容以及他们如何提出特定推荐的信息时，这些信息对于与用户建立信任非常重要。”
Sundar也是宾夕法尼亚州立大学计算和数据科学研究所(ICDS)的成员，他说，即使协同过滤没有提供最好的推荐，参与者也更有可能信任它。“与被告知该系统使用基于内容的过滤的参与者相比，他们觉得该系统提供了更高质量的建议。”他补充说，这表明用户更关心其他人的推荐，凸显了社交认可的强大影响力。
在其他两种类型的系统中，基于内容的过滤比人口统计的过滤更受研究参与者的信任，因为他们认为电影建议反映了他们的个人身份。
用户偏好不同的推荐系统，是不是因为一种类型的推荐系统实际上能提供更好的推荐？这项研究的合著者约瑟夫·瓦尔特(Joseph Walther)说，这是有可能的，但不是这次。瓦尔特是贝特尔森总统的主席，也是加州大学圣巴巴拉分校信息技术与社会中心的主任。
“我们考虑到这一点，确保只出现一个或另一个不同的推荐系统在运行。实际的推荐并没有什么不同——只有推荐的表面来源不同，”Walther补充道。
该团队还发现，当一个协作或基于内容的系统推荐好电影时，该系统的用户通常会认为自己表现良好。然而，当推荐产生了烂片时，他们将错误的选择归咎于系统。
“我们有这种偏见，当我们得到好的推荐时，我们更可能认为这是因为我们，”宾夕法尼亚州立大学大众传播专业的博士生、论文的第一作者蒙奇·廖说。“毕竟，我们在输入我们的信息，所以我们在帮助系统做出选择。但是，另一方面，如果系统给了我们不好的建议，我们更有可能认为这是系统的错。”
据廖说，然而，当参与者使用人口统计过滤系统时，这种“自私偏见”就不那么明显了。她补充说，用户对人口统计推荐系统有不同的期望。
“这可能是因为人类倾向于信任我们负责的事情，而不是机器负责的事情，以保持我们的自尊和自控力，这在人机交互中至关重要，”廖说。
研究人员表示，设计者和开发者在标记他们的推荐系统时，可能希望将用户放在心上。用户贡献的界面使用可以触发“自我启发”，这可以增加系统的可信度。
“这一发现的一个明显的设计含义是，在交互的每个阶段，用户对系统结果的贡献应该是显而易见的，”廖说。“界面应该强调协作，用户坐在驾驶座上，做出与结果相关的关键决策。”
根据研究人员的说法，设计者和开发者不仅应该显示推荐，还应该告诉用户推荐背后的逻辑。
“重要的是在界面上包含一条信息，告诉用户这些产品是如何被推荐的，”廖说。“那会有巨大的说服力。这种心理效应甚至可能与系统的性能无关，因为我们应该知道，无论系统提供的推荐是好是坏，协同过滤都更受信任。”
研究人员从一个在线众包研究平台招募了226名参与者。参与者被随机分配到六种不同类型的电影推荐系统中的一种，这些系统具有两种不同的结果——好的推荐或坏的推荐——来自三种不同的过滤系统:内容过滤、协作过滤或人口统计过滤。
在填写了人口统计调查或评估电影品味的问卷后，参与者被要求与系统互动。这些建议没有区别，相反，这三个系统之间唯一的区别是标签和对这三个系统如何工作的描述。
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
