Credit:Unsplash/CC0 Public Domain在麻省理工学院攻读计算机科学学位时，Marzyeh Ghassemi写了几篇论文，内容是如何将人工智能的机器学习技术应用于临床数据，以预测患者的结果。“直到我的博士工作结束，我的一个委员会成员才问:“你有没有检查过你的模型在不同人群中的工作表现如何？“这个问题让加塞米大开眼界，他之前评估了所有患者模型的总体表现。仔细一看，她发现模特对包括黑人女性在内的人群的工作方式往往不同——尤其是更糟，这一发现让她大吃一惊。”她说:“我事先没有意识到健康差异会直接转化为模型差异。”考虑到我是麻省理工学院一名明显的少数民族女性身份的计算机科学家，我有理由确信许多其他人也没有意识到这一点。"
在1月14日发表在《模式》杂志上的一篇论文中，2017年获得博士学位、现为电气工程和计算机科学系以及医学工程和科学M IT研究所(IMES)助理教授的加塞米和她的合著者、波士顿大学的伊莱恩·奥坎奈·恩索西(Elaine Okanyene Nsoesie)对人工智能在医学中的前景提出了警告。“如果小心使用，这项技术可以提高医疗保健的绩效，并有可能减少不平等，”加塞米说。“但如果我们实际上不小心，技术可能会恶化医疗。”
这一切都归结于数据，因为所讨论的人工智能工具通过处理和分析大量数据来训练自己。但是他们给出的数据是由人类产生的，人类容易犯错，他们的判断可能会因为这样一个事实而变得模糊，即他们与患者的互动因年龄、性别和种族而异，而他们甚至不知道这一点。
此外，医疗条件本身仍然存在很大的不确定性。“在同一所医学院接受了10年培训的医生可以，而且经常会，对病人的诊断有不同意见，”加塞米说。这不同于现有机器学习算法擅长的应用程序，比如物体识别任务，因为实际上世界上每个人都会同意狗实际上是一只狗。
机器学习算法在掌握像国际象棋和围棋这样的游戏方面也做得很好，这些游戏的规则和“获胜条件”都有明确的定义。然而，医生并不总是同意治疗病人的规则，甚至连“健康”这个双赢条件也没有得到广泛认同。“医生知道生病意味着什么，”加塞米解释道，“我们掌握的数据最多的是人们生病时的情况。但是，当人们健康时，我们不会从他们那里获得太多数据，因为那时他们不太可能去看医生。”
即使是机械设备也可能导致有缺陷的数据和治疗差异。例如，脉搏血氧仪主要针对浅色皮肤的人进行校准，不能准确测量深色皮肤的人的血氧水平。当氧气水平较低时，这些缺陷最为严重——准确的读数是最迫切的。同样，Ghassemi和Nsoesie写道，女性在“金属对金属”髋关节置换过程中面临的风险增加，“部分原因是在植入物设计中没有考虑到解剖学差异。”诸如此类的事实可能隐藏在输入计算机模型的数据中，其输出将因此受到损害。
根据加塞米的说法，机器学习算法的产品来自计算机，提供了“客观的光泽”。但这可能是欺骗性的，也是危险的，因为找出大量提供给计算机的错误数据要比不考虑一个可能是inep t(甚至可能是种族主义者)医生的建议更难。“问题不在于机器学习本身，”她坚称。“是人。人类看护者有时会生成错误的数据，因为它们并不完美。”
尽管如此，她仍然相信机器学习可以在医疗保健方面提供更有效、更公平的建议和实践。实现机器学习在医疗保健中的前景的一个关键是提高数据质量，这不是一件容易的事情。“想象一下，如果我们可以从表现最好的医生那里获取数据，并与其他训练和经验较少的医生分享，”加塞米说。“我们真的需要收集这些数据并进行审计。”
她指出，这里的挑战是数据收集没有受到激励或奖励。“要获得这方面的资助，或者要求学生花时间在这上面，并不容易。数据提供商可能会说，“当我可以以数百万的价格将我的数据出售给一家公司时，我为什么要免费提供这些数据？“但研究人员应该能够访问数据，而不必处理类似这样的问题:“我会在什么论文上写下我的名字，以换取你访问我所在机构的数据？"
“获得更好的医疗保健的唯一方法是获得更好的数据，”加塞米说，“获得更好数据的唯一方法是激励其发布。”
这不仅仅是收集数据的问题。还有谁来收集和审查它的问题。加塞米建议召集不同的研究人员群体——临床医生、统计学家、医学伦理学家和计算机科学家——首先收集不同的患者数据，然后“专注于开发公平公正的医疗保健改进，这些改进不仅可以部署在一个先进的医疗环境中，还可以部署在广泛的医疗环境中。”
她说，Patterns论文的目的不是阻止技术人员将他们在机器学习方面的专业知识带到医学领域。“他们只需要认识到治疗中出现的差距，以及在批准特定计算机模型之前应该考虑的其他复杂性。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
