大多数用于在乳腺摄影扫描中发现癌前病变的人工智能不会揭示它们的任何决策过程(上图)。如果有，通常是显著图(中间)只告诉医生他们在看哪里。一个新的人工智能平台(底部)不仅告诉医生它在看哪里，还告诉医生它过去的使用经验来得出结论。功劳:Alina Barnett，杜克大学计算机工程师和放射科医生在杜克大学开发了一个人工智能平台来分析乳房x光扫描中潜在的癌性病变，以确定患者是否应该接受侵入性活检。但与它的许多前辈不同，这种算法是可解释的，这意味着它向医生展示了它是如何得出结论的。研究人员训练人工智能来定位和评估病变，就像一个真正的放射科医生会被训练一样，而不是让它自由地开发自己的程序，这使它比“黑盒”同行有几个优势。它可以成为一个有用的培训平台，教学生如何阅读乳腺摄影图像。它还可以帮助世界上人口稀少地区的医生做出更好的医疗保健决定，这些医生不定期阅读乳房x光扫描。
研究结果于12月15日在线发表在《自然机器智能》杂志上。
杜克大学放射学教授约瑟夫·罗说:“如果计算机将帮助做出重要的医疗决策，医生需要相信人工智能是基于有意义的东西得出结论的。“我们需要的算法不仅有效，还能自我解释，并展示他们得出结论所依据的例子。这样，无论医生是否同意结果，人工智能都有助于做出更好的决定。”
读取医学图像的工程AI是一个巨大的产业。数以千计的独立算法已经存在，美国食品和药物管理局已经批准了其中的100多种用于临床。然而，无论是阅读核磁共振成像、计算机断层扫描还是乳房x光扫描，很少有人使用超过1000张图像或包含人口统计信息的验证数据集。信息的缺乏，加上最近几个著名例子的失败，导致许多医生质疑人工智能在高风险医疗决策中的使用。
在一个例子中，人工智能模型失败了，即使研究人员用使用不同设备从不同设施拍摄的图像对其进行了训练。人工智能学会了利用设备本身引入的细微差异来识别来自癌症病房的图像，并赋予这些图像更高的癌变概率，而不是只关注感兴趣的病变。正如人们所料，人工智能没有很好地转移到使用不同设备的其他医院。但是因为没有人知道这个算法在做决定时在看什么，没有人知道它在现实应用中注定会失败。
杜克大学计算机科学博士候选人、该研究的第一作者艾莉娜·巴尼特(Alina Barnett)说:“我们的想法是建立一个系统，说潜在癌性病变的这个特定部分看起来很像我以前见过的另一个部分。“没有这些明确的细节，如果没有办法理解为什么系统有时会出错，执业医生就会失去时间和对系统的信心。”
杜克大学电气和计算机工程及计算机科学教授辛西娅·鲁丁(Cynthia Rudin)将这种新的人工智能平台的流程与房地产估价师的流程进行了比较。在主导这一领域的黑盒模型中，评估者会提供一套房子的价格，而不做任何解释。在一个包含所谓“显著图”的模型中，评估者可能会指出房屋的屋顶和后院是其定价决策的关键因素，但除此之外，它不会提供任何细节。
鲁丁说:“我们的方法会说，你有一个独特的铜屋顶和后院游泳池，与你附近的其他房子相似，这使得它们的价格上涨了这个数量。“这就是医学成像AI的透明度可能是什么样子，也是医学领域的人对任何放射学挑战应该要求的。”
研究人员用杜克大学卫生系统484名患者的1136张图像训练了新的人工智能。
他们首先教人工智能找到有问题的可疑病变，并忽略所有健康组织和其他无关数据。然后，他们聘请rad生物学家仔细标记图像，教人工智能聚焦于病变的边缘，潜在的肿瘤在那里与健康的周围组织相遇，并将这些边缘与已知癌变和良性结果的图像中的边缘进行比较。
放射线或模糊边缘，医学上称为肿块边缘，是乳腺癌的最佳预测因素，也是放射科医生首先要寻找的。这是因为癌细胞复制和扩张的速度如此之快，以至于在乳房x光照片中并不容易看到所有正在发展的肿瘤边缘。
“这是一种训练人工智能如何看待医学图像的独特方法，”巴尼特说。“其他人工智能并没有试图模仿放射科医生；他们正在想出自己的方法来回答这个问题，但这些方法通常没有帮助，或者在某些情况下，依赖于有缺陷的推理过程。”
训练完成后，研究人员对人工智能进行了测试。虽然它的表现没有超过人类放射学家，但它和其他黑盒计算机模型一样出色。当新的人工智能出错时，与它一起工作的人将能够认识到它是错误的，以及它为什么出错。
展望未来，该团队正在努力添加其他物理特征，供人工智能在做出决策时考虑，例如病变的形状，这是放射科医生学会观察的第二个特征。Rudin和Lo最近还获得了杜克MEDx高风险高影响奖，以继续开发该算法，并进行放射科医生读者研究，看看它是否有助于临床表现和/或信心。
杜克放射学研究员菲德斯·施瓦茨(Fides Schwartz)说:“当研究人员第一次开始将人工智能应用于医学图像时，人们感到非常兴奋，也许计算机将能够看到一些东西，或者找出一些人们看不到的东西。“在一些罕见的情况下可能是这样，但在大多数情况下可能不是这样。因此，我们最好确保我们人类理解计算机用来做出决策的信息。”
来源：由phyica.com整理转载自PH，转载请保留出处和链接！
