研究人员对人工智能进行心理分析

就像人类的发展一样人工智能都是基于经验(对于人工智能来说，是以数据的形式)。这就是为什么人工智能的行为有时会让我们措手不及，而且有无数的例子表明人工智能的行为是性别歧视、种族歧视或不恰当的。

“我们可以开发一种算法，让人工智能在数据中找到模式，以最佳地解决任务，但这并不意味着我们了解人工智能找到的模式。所以，即使我们创造了它，也不意味着我们知道它，”DTU计算学院的Søren Hauberg教授说。

这个悖论叫做黑盒问题。一方面是根植于人工智能的自学习特性,另一方面,在事实上,到目前为止,还没有能看到艾城的“大脑”,看看它与数据形成的基础学习。

如果我们能找出人工智能使用什么数据以及如何使用数据，它就相当于介于考试和精神分析之间的某种东西——换句话说，这是一种更好地了解人工智能的系统方式。到目前为止，这还不可能，但现在Søren Hauberg和他的同事们开发了一种基于经典几何的方法，这使我们能够看到人工智能是如何形成它的“个性”的。

混乱的大脑

它需要非常大的数据集来教机器人抓、扔、推、拉、走、跳、开门等，而人工智能只使用能让它解决特定任务的数据。人工智能将有用的数据从无用的数据中分类出来，并最终看到其随后的行动所依据的模式，这是通过将数据压缩而实现的神经网络年代。

然而，就像我们人类把东西放在一起一样，它很容易在别人看来很凌乱，而且很难弄清楚我们使用的是哪个系统。

例如，如果我们把家放在一起，目的是让它尽可能紧凑，那么枕头很容易被放进汤锅里，以节省空间。这没什么错，但局外人很容易得出错误的结论;那些枕头和汤锅是我们打算一起用的东西。到目前为止，当我们人类试图理解系统人工智能的工作原理时，情况就是这样。然而，根据Søren Hauberg的说法，这已经成为了过去:

“在我们的基础研究中，我们找到了一个系统的解决方案，从理论上追溯过去，这样我们就可以跟踪模式根植于现实，是由压缩发明的。当我们能够区分这两者时，作为人类的我们可以更好地理解人工智能是如何工作的，但也可以确保人工智能不会听从错误的模式。”

Søren和他的DTU同事利用了18世纪发展起来的用于绘制地图的数学。这些经典的几何模型已经在机器学习中找到了新的应用，它们可以用来绘制压缩如何移动数据的地图，从而回溯到人工智能的神经网络，了解学习过程。

回馈控制

在许多情况下，行业都避免使用人工智能，特别是在那些安全是关键参数的生产领域。害怕失去对系统的控制，如果算法遇到无法识别的情况，必须自己采取行动，就会发生事故或错误。

这项新研究恢复了一些失去的控制和理解。这让我们更有可能将人工智能和机器学习应用到我们今天没有做的领域。

不可否认，仍然有一些未解释的部分，因为系统的一部分来自于模型本身在数据中发现的模式。我们不能证实这些模式是最好的，但我们可以看看它们是否合理。这是人们对人工智能更有信心的一大步。”

这种数学方法是与德国卡尔斯鲁厄理工学院(Karlsruhe Institute of Technology)和工业集团博世人工智能中心(Bosch Center for Artificial Intelligence)共同开发的。后者在其机器人算法中实现了来自DTU的软件。