AI也会白人歧视？《柳叶刀》文章：AI诊断系统可能输出带有白人偏见的结果

芝加哥大学和纽约大学的一个研究工作团队在中医杂志《特罗斯季亚涅齐数字健康》上刊出，称AI服务器端可以从X射线和CT扫描结果里分辨病患者的宗教信仰，直观率将近90%。

这不一定是一个好消息，因为连科学家们都没了解到这些AI服务器端是如何做到分辨宗教信仰的。

“当我的研究工作生向我展示这篇专著里的某些结果时，我显然这一定显露了确实。”都由分析对应主题的专著原作者之一，芝加哥大学兼职系主任Marzyeh Ghassemi不一定知道新闻界，“当他们不一定知道我的时候，我真的以为我的很多学生疯了。”

Marzyeh Ghassemi

这一段话里感叹明，AI确诊系统对无论如何可能会根据宗教信仰对病患者进行时确诊和治疗，而非病患者的个人病状。

这种做法将可能会危及病患者的健康。

研究工作部门感叹明一个案例，AI服务器端在安全检查背部X光片时，漏掉黑人和妇女病患者双腿病变的几率更加高。

而这项研究工作的目的，正是验证AI系统对借此医影像里探测全人类宗教信仰的程度，以及它们如何从里探测显露宗教信仰讯息。

为此，研究工作团队适用全人类双腿不同口腔的中医三维对AI系统对进行时训练。被提供给AI系统对的中医影像里，不包含指甲光泽、肤色以及BMI或骨密度等相对来感叹的宗教信仰标记。

通过测试者，研究工作部门辨认出，AI系统对对全人类宗教信仰的识别系统对直观率将近90%。不论是哪个双腿口腔的中医影像，AI系统对都能从里识别系统对显露宗教信仰讯息。

更加难以置信失望的是，即便是不堪重负有缺陷或损毁的中医影像，AI系统对也能从里直观识别系统对宗教信仰。

研究工作部门更加关怀的，并非是AI系统对必需探测全人类宗教信仰这件事情本身，而是AI系统对的外科表现将因为这些宗教信仰性取向受到影响。而外科医生但可能会比如感叹AI系统对确诊结果里的误差。

文中的原作者表示，“AI预测宗教信仰身份的灵活性本身不一定重要，但是这种灵活性很可能存在于许多中医影像分析模型里，这将可能会使外科里从未存在的宗教信仰相似之处解决办法加剧。”

全人类目前还无法验证AI系统对借此医影像的哪些特征里探测显露病患者的宗教信仰，加之AI必需从双腿任何口腔的中医影像，以及不堪重负损毁的中医影像里识别系统对病患者宗教信仰，这意味着适用中医成像技术创建一个未宗教信仰性取向的AI系统对将可能会非常艰难。

Ghassemi不一定知道新闻界，她传闻，某种程度是中医三维以某种未确定方式则详细描述了病患者皮肤里体细胞的水平，从而被AI系统对识别系统对。

根据研究工作结果，也意味著是宗教信仰彼此之间存在一些所谓的相似之处。

罕萨里学院生物全历史学系主任、《宗教信仰主义不是宗教信仰》的原作者之一Alan Goodman不一定知道新闻界，他不毕竟认同这种感叹法。

Alan Goodman

在过往的研究工作里，科学家们很难在全人类基因组里寻觅恰当的宗教信仰相似之处，但经常能根据全人类起源的进化寻觅恰当的基因相似之处。因此，人与人彼此之间的基因相似之处，很大概率是源于全人类个体起源进化的不同特征，而非宗教信仰。

Ghassemi表示，这一解决办法还须要进行时更加多的研究工作才能得显露明确的事实。

“我们须要取消AI系统对的落地，”芝加哥大学的科学家、外科医生Leo Anthony Celi感叹，“在验证AI系统对未做显露宗教信仰主义提议或偏见提议之前，我们不可能会急于将其引入病房和诊所。”雷峰网

档案资料来源：