自動運転タクシーには乗客がいないため、混雑を緩和するためにたくさんの場所に駐車し、大気汚染。呼び止めを受けたタクシーは乗客を乗せに出発したが、途中の横断歩道で歩行者と衝突するという悲劇も起きた。

渋滞と大気汚染を軽減するための自動車の行動で賞賛に値するのは誰でしょうか?そして、歩行者の怪我については誰が、あるいは何が責任を負うべきなのでしょうか?

可能性の 1 つは、自動運転タクシーの設計者または開発者です。しかし多くの場合、タクシーの正確な行動を予測することはできなかったでしょう。実際、人々は通常、人工知能に新しいまたは予期せぬアイデアや計画を発見してもらいたいと考えています。システムが何をすべきかを正確に知っていれば、わざわざ AI を使う必要はありません。

あるいは、タクシーそのものを賞賛すべきかもしれないし、非難すべきかもしれない。ただし、この種の AI システムは本質的に決定論的です。たとえ観察者がその動作を予測するのに苦労したとしても、その動作はコードと受信センサー データによって決定されます。選択の余地がなかった機械を道徳的に裁くのは奇妙に思えます。

によると多くの モダンな 哲学者、合理的なエージェント道徳的責任を負う可能性があるたとえ彼らの行動が神経科学や暗号によって完全に事前に決定されていたとしても。しかし、道徳主体は、独自の価値観を形成する能力など、自動運転タクシーにはほぼ確実に欠けている特定の能力を備えていなければならないという点では、ほとんどの人が同意している。AI システムは、道徳的エージェントと非道徳的ツールの間の不快な中間点に位置します。

社会として、私たちは難問に直面しています。AI の行動に対して道徳的な責任を負っている人は誰も、あるいは何もいないように見えます。これを哲学者は責任のギャップと呼んでいます。現在の道徳的責任の理論は、自律型または半自律型 AI システムが関与する状況を理解するのにはまったく適切ではないようです。

現在の理論が機能しないのであれば、おそらく私たちは、今日驚くべき共鳴をもたらす過去から数世紀前のアイデアに目を向けるべきでしょう。

神と人間

同様の質問は、13 世紀と 14 世紀のキリスト教神学者を困惑させました。トーマス・アクィナスにドゥンス・スコトゥスにオッカムのウィリアム。全知全能の神が人間を設計し、おそらく人間が何をするかを知っていたとしたら、人間は自分の行動とその結果にどうやって責任を負えるのでしょうか？

中世の哲学者は、誰かの決定はその人の意志の産物に基づいて行われると考えました。知性。大まかに言えば、彼らは理解しました精神的能力の集合としての人間の知性合理的な思考と学習を可能にします。

知性とは、人々の心や魂の合理的で論理的な部分です。二人の人が同じ状況に直面し、物事にどう対処するかについて同じ「合理的な結論」に達するとき、彼らは知性を使っていることになります。この点では、知性はコンピューターのコードのようなものです。

しかし、知性が常に唯一の答えを提供するとは限りません。多くの場合、知性は可能性だけを提供します。意志が彼らの中から選ぶ意識的か無意識的かは別として。意志とは行為です自由に選ぶ可能性の中から。

簡単な例として、雨の日、知性はクローゼットから傘を取り出さなければならないと命令しますが、どの傘を選ぶかではありません。ウィルは青い傘の代わりに赤い傘を選んでいます。

これらのために中世の思想家、道義的責任それは意志と知性がそれぞれどのような貢献をするかにかかっています。もし知性が、考えられる行動は 1 つしかないと判断した場合、私にはそれ以外の行動はできないので、私には道徳的責任はありません。私の知性は神から来ているので、神には道徳的責任があると結論付ける人さえいるかもしれませんが、中世の神学者は責任を神に帰することに非常に慎重でした。

一方、知性が私の行動にまったく制約を与えない場合、意志がすべての仕事をしているので、私は完全に道徳的責任を負います。もちろん、ほとんどの行動には知性と意志の両方からの貢献が含まれますが、通常はどちらか一方だけではありません。

さらに、特に中世の哲学者の時代には、親や教師から裁判官や君主に至るまで、他の人々が私たちを束縛することが多く、道徳的責任を帰属させることはさらに複雑になっています。

人間とAI

AI 開発者とその創造物との関係が、神と人間との関係とまったく同じではないことは明らかです。しかし、として哲学の教授たち とコンピューティング、興味深い類似点がわかります。これらの古い考え方は、今日の私たちが AI システムとその設計者がどのように道徳的責任を共有するかを考えるのに役立つかもしれません。

AI 開発者は全知全能の神ではありませんが、AI システムの「知性」を提供します。選択して実行するその学習方法と対応能力。設計者の観点から見ると、この「知性」は AI の動作を制限しますが、その動作を完全に決定することはほとんどありません。

最新の AI システムのほとんどは、データから学習し、環境に動的に応答できるように設計されています。したがって、AI は、その「知性」の制約内で、どのように対応するかを選択する「意志」を持っているように見えます。

ユーザー、管理者、規制当局、その他の関係者は、中世の哲学者の枠組みで君主などの人間の権威が人々を制約するのと同様に、AI システムをさらに制約することができます。

責任者は誰ですか？

これらの千年前の考え方は、AI システムに関係する道徳的問題の構造に驚くほどよく当てはまります。それでは、冒頭の質問に戻りましょう。自動運転タクシーの利益と害について、誰が、あるいは何が責任を負っているのでしょうか。

詳細が重要です。たとえば、タクシー開発者が横断歩道付近でタクシーがどのように行動するかを明確に記述した場合、その行動は完全にタクシーの「知性」によるものとなり、開発者が責任を負うことになります。

ただし、タクシーが明示的にプログラムされていない状況に遭遇したとします。たとえば、横断歩道が異常な方法で塗装されていた場合や、開発者が念頭に置いていたものとは異なることを環境内のデータから学習した場合などです。このような場合、タクシーは予期せぬ選択肢を選択したため、タクシーの行動は主にタクシーの「意志」によるものであり、責任はタクシーにあります。

タクシーに道義的責任があるとしたら、どうなるでしょうか？タクシー会社に責任はあるのか？すべきですタクシーのコードは更新されますか?完全な答えについては私たち二人でも意見が一致していません。しかし、私たちは、道義的責任重要な第一歩です。

中世の思想は中世の物体だけを指すものではありません。これらの神学者は、今日の倫理学者が AI システムの現在の課題をよりよく理解するのに役立ちますが、私たちはまだ表面をなぞっただけです。

この記事はから転載されています会話クリエイティブ・コモンズ・ライセンスに基づいて。読んでください元の記事。