由监督办出版社出版 从多层次分析研究算法和算法透明性
信用:信息政治
算法在政府中的使用正在改变官僚在不同领域的工作和决策方式，如医疗保健或刑事司法
在本期《信息政治》特刊中，专家们讨论了在宏观、中观和微观层面的决策程序中使用算法所带来的透明度挑战
根据最近的研究，机器学习算法在使政府服务更加公平和有效方面有着巨大的潜力，并且有可能将决策从人类的主观性中“解放出来”
算法用于许多公共服务环境
例如，在法律系统中，已经证明算法比刑事法院法官更能预测累犯
与此同时，批评者强调了算法决策的几个危险，如种族偏见和缺乏透明度
一些学者认为，在决策过程中引入算法可能会导致官僚决策方式的深刻转变，算法可能会影响更广泛的组织程序和结构
这期关于算法透明性的特刊提供了六个方面的内容，以加深我们对政府使用算法的概念和经验的理解
“对政府算法决策的‘黑箱’的批评激增，”客座编辑萨拉·吉斯特(莱顿大学)和斯蒂芬·格里梅里基森(乌特勒支大学)解释道
“在这期特刊中，我们展示了仅仅解开算法的技术细节是不够的，还要看看这些算法运行的机构、组织和个人背景，才能真正理解我们如何在政府中实现透明和负责任的算法
例如，法规可能会启用透明机制，但组织会针对如何使用算法制定新的政策，而公务员个人会创建新的专业储备
所有这些层次相互作用，影响公共组织中算法的透明度
" 算法使用的透明度挑战超越了政府的不同层面——从欧洲层面到个人公共官僚
这些挑战也可以采取不同的形式；透明度可以通过技术工具以及监管准则或组织政策来实现或限制
本期文章讨论了在宏观、中观和微观层面上算法使用的透明度挑战
宏观层面从制度的角度描述现象——哪些国家制度、法规和文化在算法决策中发挥作用
中观层次主要关注组织和团队层次，而微观层次关注个人属性，如信念、动机、互动和行为
“如果我们不能理解算法是如何影响人类决策的，算法设计是如何影响透明度和人类判断力的实际可能性的，那么‘让人类保持在循环中’的呼吁可能就没有意义了，”墨西哥城CIDE经济研究与教学中心的公共管理研究教授里克·彼得斯指出
在一篇关于算法系统微观层次动力学的近期学术文献综述中，他讨论了决定人类透明度和判断力前提条件的三个设计变量，并确定了“人类-算法交互”的四个主要变异源
" 这篇文章得出了两个主要结论:首先，人类智能体很少完全“脱离循环”，算法中设计的监督和覆盖级别应该被理解为一个连续体
第二个与有限理性、满意行为、自动化偏差和前线应对机制有关，它们在人类使用算法进行决策的过程中发挥着至关重要的作用
为了将来的研究
皮特斯建议仔细研究行为机制，结合识别官僚处理算法的相关技能
“如果没有对屏幕和街道级别的官员必须使用的算法的基本理解，很难想象他们如何能够恰当地运用他们的判断力，批判性地评估算法程序和结果
专业人员应接受足够的培训，以监督他们正在使用的算法
" 亚历克斯·英格拉姆博士写道，在宏观层面上，算法可以成为实现制度透明的重要工具
D
荷兰莱顿莱顿大学公共行政学院治理和全球事务
本研究评估了一种机器学习方法，该方法为政策制定公开公众意见，以提高美国立法过程中公众意见的机构透明度
本文对提交给美国运输安全管理局的数千条公众意见进行了无监督的机器学习分析，这些意见涉及2013年提出的在机场使用新型全身成像扫描仪的法规
该算法突出了公众意见中的显著主题群，有助于决策者理解公开的公众意见流程
“算法不仅应该透明，还可以作为政府决策透明的工具。”
英格拉姆斯
“监管的确定性与组织和管理能力相结合，将推动技术开发和使用的方式，以及每一步都有什么样的竞争机制，”客座编辑指出
“就其本身而言，在制定和通过法律或为公共管理人员和官僚提供培训和指导方面，这些是需要解决的更大问题
它们相互关联的事实使这一过程更加复杂
强调这些联系是了解为什么在某些情况下透明度机制到位而在其他情况下没有到位的更大图景的第一步，并为未来研究的比较分析和决策者的新见解打开了大门
为了倡导负责任和透明地使用算法，未来的研究应着眼于微观、中观和宏观层面的动态之间的相互作用
" “我们很荣幸能推出这期特刊，第100期《信息政治》
其对人工智能治理的关注表明了我们解决当代电子政务问题的持续愿望，以及展示卓越研究和信息政治观点所提供的见解的重要性，”主编艾伯特·梅耶尔教授(乌得勒支大学)和威廉·韦伯斯特教授(斯特灵大学)补充道
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
