自動駕駛計程車沒有乘客，因此它會將自己停在很多地方以減少擁堵空氣污染。計程車被招呼後，出發去接乘客，卻在途中不幸撞到了人行道上的行人。

誰或什麼值得因汽車減少擁堵和空氣污染的行為而受到讚揚？行人的受傷應該歸咎於誰或什麼？

一種可能性是自動駕駛計程車的設計者或開發商。但在很多情況下，他們無法預測計程車的確切行為。事實上，人們通常希望人工智慧能夠發現一些新的或意想不到的想法或計劃。如果我們確切地知道系統應該做什麼，那麼我們就不需要費心人工智慧。

或者，也許計程車本身應該受到讚揚和譴責。然而，這些類型的人工智慧系統本質上是確定性的：它們的行為是由它們的程式碼和傳入的感測器資料決定的，即使觀察者可能很難預測這種行為。從道德上評判一台別無選擇的機器似乎很奇怪。

根據許多 現代的 哲學家, 理性主體可以承擔道德責任對於他們的行為，即使他們的行為完全是預先決定的——無論是透過神經科學還是透過程式碼。但大多數人都認為，道德主體必須具備自動駕駛計程車幾乎肯定缺乏的某些能力，例如塑造自己價值觀的能力。人工智慧系統處於道德主體和非道德工具之間令人不安的中間地帶。

作為一個社會，我們面臨一個難題：似乎沒有人或任何事物在道德上對人工智慧的行為負責——哲學家稱之為責任差距。目前的道德責任理論似乎根本不適合用來理解涉及自主或半自主人工智慧系統的情況。

如果當前的理論行不通，那麼也許我們應該回顧過去——回顧幾個世紀前的思想，這些思想在今天有著令人驚訝的共鳴。

神與人

類似的問題困擾著 13 世紀和 14 世紀的基督教神學家，從托馬斯·阿奎那到鄧斯司各脫到奧卡姆的威廉。如果全知的上帝設計了人們，並且大概知道他們會做什麼，那麼人們如何能夠對自己的行為及其結果負責呢？

中世紀哲學家認為，某人的決定源自於他們的意志，並根據其意志的產物進行運作。智力。概括地說，他們理解人類智力作為一組心理能力使理性思考和學習成為可能。

智力是人們思想或靈魂的理性、邏輯部分。當兩個人面臨相同的情況並且他們都就如何處理事情得出相同的「理性結論」時，他們正在使用智力。從這個意義上講，智力就像電腦程式碼。

但智力並不總是能提供獨特的答案。通常，智力只提供可能性，而意志在其中選擇，無論有意識或無意識。意志是行動自由選擇從可能性之中。

舉個簡單的例子，在下雨天，理智告訴我應該從衣櫃裡拿出一把雨傘，但我不知道是哪一把。威爾選擇了紅傘而不是藍傘。

對於這些中世紀思想家,道德責任取決於意志和智力各自的貢獻。如果理智確定只有一種可能的行動，那麼我就不能做其他的事情，所以我不承擔道德責任。人們甚至可能得出這樣的結論：上帝在道德上負有責任，因為我的智力來自上帝——儘管中世紀神學家對於將責任歸咎於上帝非常謹慎。

另一方面，如果智力對我的行為完全沒有限制​​，那麼我就道德上負有完全的責任，因為意志正在做所有的工作。當然，大多數行動都涉及智力和意志的貢獻——通常不是非此即彼的。

此外，其他人經常限制我們：從父母和老師到法官和君主，尤其是在中世紀哲學家時代，這使得道德責任的歸屬變得更加複雜。

人與人工智慧

顯然，人工智慧開發者和他們的創造物之間的關係並不完全等同於上帝和人類之間的關係。但作為哲學教授 和計算，我們看到了有趣的相似之處。這些古老的想法可能會幫助我們今天思考人工智慧系統及其設計者如何分擔道德責任。

AI開發者不是無所不知的神，但他們確實透過以下方式提供了AI系統的「智力」：選擇和實施其學習方法和反應能力。從設計者的角度來看，這種「智力」限制了人工智慧的行為，但幾乎從不完全決定其行為。

大多數現代人工智慧系統都旨在從數據中學習，並可以動態地回應其環境。因此，人工智慧似乎有一個“意志”，可以在其“智力”的限制內選擇如何做出反應。

使用者、管理者、監管者和其他各方可以進一步限制人工智慧系統——類似於君主等人類權威在中世紀哲學家的框架中如何限制人們。

誰負責？

這些有著千年歷史的思想與涉及人工智慧系統的道德問題的結構驚人地吻合。那麼讓我們回到我們的開場問題：誰或什麼對自動駕駛計程車的好處和壞處負責？

細節很重要。例如，如果出租車開發商明確寫下了出租車在人行道附近的行為方式，那麼它的行為將完全歸因於它的“智力”，因此開發商將負責。

然而，假設計程車遇到了未明確編程的情況，例如人行橫道的繪製方式不尋常，或者出租車從其環境中的數據中學到的東西與開發人員的想法不同。在這種情況下，計程車的行為主要是出於它的“意願”，因為計程車選擇了一個意想不到的選項，所以計程車是有責任的。

如果計程車有道德責任，那又怎樣？計程車公司有責任嗎？應該計程車的程式碼要更新嗎？甚至我們兩個人對於完整的答案也沒有達成一致。但我們認為更好地理解道德責任是重要的第一步。

中世紀的思想不僅涉及中世紀的物體。這些神學家可以幫助今天的倫理學家更好地理解人工智慧系統目前面臨的挑戰——儘管我們只觸及了表面。

本文轉載自對話根據知識共享許可。閱讀原創文章。