使AI可以理解 - 构建解释过程

分析X射线图像，筛选工作应用，暗示新的曲目清单 - 人与机器之间的互动已成为现代生活不可或缺的一部分。这些的基础人工智能（AI）过程是算法的决策。但是，由于这些通常很难理解，因此它们通常比预期的不太有用。

Paderborn和Bielefeld University的研究人员希望改变这一点，并讨论如何改善人工智能的解释性，并适应人类用户的需求。研究人员将解释描述为一种社会实践，双方共同建设理解过程。

解释性研究

“人造系统变得复杂。这是一个严重的问题，尤其是当人类对基于计算机的决策负责时。特别是在医学预后或法律背景的领域，我们需要了解机器驱动的决定是如何继续进行的。他指出，尽管已经有一些方法可以解决此类系统的解释性，但它们的发展远远不够。

帕德伯恩大学（Paderborn University）的凯瑟琳娜·罗尔芬（Katharina Rohlfing）教授同意，迫切需要采取进一步的行动：“公民有权透明算法决定。欧盟一般数据保护法规中特别提到这个问题的理由是有充分的理由。”

制作目标算法可访问是“可解释的人工智能（XAI）”的至关重要的：“在解释性研究中，目前的重点放在透明度和可解释性的期望上，” Rohlfing说，描述了最新的研究。

了解如何做出决策

参与这项研究的团队进一步迈进了一步，并正在从各种不同的角度研究基于计算机的解释。他们从以下假设开始：只有用户不仅向他们提供了解释，但是如果用户参与制定它们：“正如我们从许多日常情况下所知道的那样，如果他们不这样做，那么好的解释是什么都不值得的。take account of the other person’s knowledge and experience. Anyone who wonders why their application was rejected by an algorithm is not generally interested in finding out about the technology of machine learning, but asks instead about how the data was processed with regard to their own qualifications,” explains Rohlfing.

“当人们彼此互动时，他们之间的对话确保了解释是针对对方的理解量身定制的。对话合作伙伴提出了进一步的解释或可以表达不理解的问题，然后解决。在人工智能的情况下，由于相互作用的范围有限，因此存在局限性。”

为了解决这个问题，语言学家，心理学家，媒体研究人员，社会学家，经济学家和计算机科学家正在跨学科团队紧密合作。这些专家正在研究计算机模型和复杂的AI系统以及在交流互动中的角色。

作为社会实践的解释

Paderborn和Bielefeld的研究人员为设计可解释的AI系统设计开发了一个概念框架。Rohlfing说：“我们的方法使AI系统能够以可以进行交互配置的方式回答选定的问题。通过这种方式，可以为对话伙伴量身定制解释，而社交方面可以包括在决策中。”研究小组将解释视为双方以社会实践形式汇集在一起​​的一系列行动。

目的是要以“脚手架”和“监视”为指导。这些术语最初来自发展研究领域。“简而言之，脚手架描述了一种方法，其中的学习过程得到了提示和指导的支持，并将其分为部分步骤。监测意味着观察和评估另一方的反应。” Rohlfing解释道。研究人员的目标是将这些原则应用于AI系统。

新的援助形式

这种方法旨在扩展当前的研究，并为与人工智能有关的社会挑战提供新的答案。基本的假设是，从解释中获得理解和进一步行动的唯一成功方法是将对话伙伴参与解释。这是关于人类参与社会技术系统的核心。Rohlfing在摘要中说：“我们的目标是通过真正可以解释和可理解的AI系统创建新的沟通形式，并以这种方式促进新的援助形式。”

该研究已发表在认知和发展系统的IEEE交易。