消除人工智能的偏见对提高公平至关重要

来源:CC0公共领域

Regenstrief研究所总裁兼首席执行官，印第安纳大学医学院信息学和卫生服务研究副院长Peter Embí，医学博士，医学硕士，强烈指出了算法行动的重要性，以解决医疗保健中的固有偏见算法他们的部署《美国医学会杂志》网络公开邀请评论。算法警惕性(algorithmovilance)是Embí博士创造的一个术语，可以定义为与评估、监测、理解和预防医疗保健中算法的不良影响相关的科学方法和活动。

Embí博士说:“在没有首先确保其有效性和安全性之前，我们不会考虑用一种新的药物或设备来治疗病人。”“同样，我们必须认识到，算法既有巨大的好处，也有巨大的危害，因此需要研究。”此外，与药物或设备相比，算法通常有额外的复杂性和多样性，比如它们如何部署，谁与它们交互，以及与算法交互的临床工作流程。”

这篇评论是对IBM科学家的一项研究的回应，该研究评估了为预测产后抑郁症而开发的医疗算法去偏倚的不同方法。Embí博士指出，该研究表明，去偏倚方法可以帮助解决用于开发和部署人工智能方法．他还说，这项研究表明，评估和监测这些算法的有效性和公平性是必要的，甚至是道德上需要的。

“算法性能随着使用不同的数据、设置和不同的部署而变化人机交互．这些因素可能会把一个有益的工具变成一个造成意外伤害的工具，所以必须不断评估这些算法，以消除我们的医疗体系中存在的固有和系统性的不公平，”Embí博士继续说道。“因此，我们必须继续开发工具和能力，以便在医疗保健算法的开发和使用中实现系统监测和警戒。”