自动驾驶出租车没有乘客，因此它会将自己停在很多地方以减少拥堵空气污染。出租车被招呼后，出发去接乘客，却在途中不幸撞到了人行横道上的行人。

谁或什么值得因汽车减少拥堵和空气污染的行为而受到赞扬？行人的受伤应该归咎于谁或什么？

一种可能性是自动驾驶出租车的设计者或开发商。但在很多情况下，他们无法预测出租车的确切行为。事实上，人们通常希望人工智能能够发现一些新的或意想不到的想法或计划。如果我们确切地知道系统应该做什么，那么我们就不需要费心人工智能。

或者，也许出租车本身应该受到赞扬和谴责。然而，这些类型的人工智能系统本质上是确定性的：它们的行为是由它们的代码和传入的传感器数据决定的，即使观察者可能很难预测这种行为。从道德上评判一台别无选择的机器似乎很奇怪。

根据许多 现代的 哲学家, 理性主体可以承担道德责任对于他们的行为，即使他们的行为完全是预先确定的——无论是通过神经科学还是通过代码。但大多数人都认为，道德主体必须具备自动驾驶出租车几乎肯定缺乏的某些能力，例如塑造自己价值观的能力。人工智能系统处于道德主体和非道德工具之间令人不安的中间地带。

作为一个社会，我们面临着一个难题：似乎没有人或任何事物在道德上对人工智能的行为负责——哲学家称之为责任差距。目前的道德责任理论似乎根本不适合理解涉及自主或半自主人工智能系统的情况。

如果当前的理论行不通，那么也许我们应该回顾过去——回顾几个世纪前的思想，这些思想在今天有着令人惊讶的共鸣。

神与人

类似的问题困扰着 13 世纪和 14 世纪的基督教神学家，从托马斯·阿奎那到邓斯·司各脱到奥卡姆的威廉。如果全知的上帝设计了人们，并且大概知道他们会做什么，那么人们如何能够对自己的行为及其结果负责呢？

中世纪哲学家认为，某人的决定源于他们的意志，并根据其意志的产物进行运作。智力。概括地说，他们理解人类智力作为一组心理能力使理性思考和学习成为可能。

智力是人们思想或灵魂的理性、逻辑部分。当两个人面临相同的情况并且他们都就如何处理事情得出相同的“理性结论”时，他们正在使用智力。从这个意义上讲，智力就像计算机代码。

但智力并不总是能提供独特的答案。通常，智力只提供可能性，而意志在其中选择，无论有意识还是无意识。意志是行动自由选择从可能性之中。

举个简单的例子，在下雨天，理智告诉我应该从衣柜里拿出一把雨伞，但不知道是哪一把。威尔选择了红伞而不是蓝伞。

对于这些中世纪思想家,道德责任取决于意志和智力各自的贡献。如果理智确定只有一种可能的行动，那么我就不能做其他的事情，所以我不承担道德责任。人们甚至可能得出这样的结论：上帝在道德上负有责任，因为我的智力来自上帝——尽管中世纪神学家对于将责任归咎于上帝非常谨慎。

另一方面，如果智力对我的行为完全没有限制，那么我就在道德上负有完全的责任，因为意志正在做所有的工作。当然，大多数行动都涉及智力和意志的贡献——通常不是非此即彼的。

此外，其他人经常限制我们：从父母和老师到法官和君主，尤其是在中世纪哲学家时代，这使得道德责任的归属变得更加复杂。

人与人工智能

显然，人工智能开发者和他们的创造物之间的关系并不完全等同于上帝和人类之间的关系。但作为哲学教授 和计算，我们看到了有趣的相似之处。这些古老的想法可能会帮助我们今天思考人工智能系统及其设计者如何分担道德责任。

AI开发者不是无所不知的神，但他们确实通过以下方式提供了AI系统的“智力”：选择和实施其学习方法和反应能力。从设计者的角度来看，这种“智力”限制了人工智能的行为，但几乎从不完全决定其行为。

大多数现代人工智能系统都旨在从数据中学习，并可以动态响应其环境。因此，人工智能似乎有一个“意志”，可以在其“智力”的限制内选择如何做出反应。

用户、管理者、监管者和其他各方可以进一步限制人工智能系统——类似于君主等人类权威在中世纪哲学家的框架中如何限制人们。

谁负责？

这些有着千年历史的思想与涉及人工智能系统的道德问题的结构惊人地吻合。那么让我们回到我们的开场问题：谁或什么对自动驾驶出租车的好处和坏处负责？

细节很重要。例如，如果出租车开发商明确写下了出租车在人行横道附近的行为方式，那么它的行为将完全归因于它的“智力”，因此开发商将负责。

然而，假设出租车遇到了未明确编程的情况，例如人行横道的绘制方式不寻常，或者出租车从其环境中的数据中学到的东西与开发人员的想法不同。在这种情况下，出租车的行为主要是出于它的“意愿”，因为出租车选择了一个意想不到的选项，所以出租车是有责任的。

如果出租车有道德责任，那又怎样？出租车公司有责任吗？应该出租车的代码要更新吗？甚至我们两个人对于完整的答案也没有达成一致。但我们认为更好地理解道德责任是重要的第一步。

中世纪的思想不仅仅涉及中世纪的物体。这些神学家可以帮助今天的伦理学家更好地理解人工智能系统目前面临的挑战——尽管我们只触及了表面。

本文转载自对话根据知识共享许可。阅读原创文章。