愛爾蘭作家約翰康諾利曾經說過：“人性的本質，就是將他人的痛苦視為自己的痛苦，並採取行動消除這種痛苦。”

在我們歷史的大部分時間裡，我們都相信同理心是人類獨有的特質──一種使我們有別於機器和其他動物的特殊能力。但這種信念現在正受到挑戰。

隨著人工智慧成為我們生活中越來越重要的一部分，甚至進入我們最親密的領域，我們面臨著一個哲學難題：將人類品質歸因於人工智慧是否會削弱我們自己的人類本質？我們的研究建議可以。

數位化陪伴

近年來，Replika等人工智慧「伴侶」應用程式吸引了數百萬用戶。Replika 讓使用者可以建立自訂數位合作夥伴來進行親密對話。付費會員複製品專業版甚至可以將他們的人工智慧變成「浪漫的伴侶」。

物理人工智慧伴侶也不甘落後。JoyLoveDolls 等公司正在銷售互動性愛機器人具有可自訂的功能，包括乳房大小、種族、動作和人工智慧反應，如呻吟和調情。

雖然目前這是一個利基市場歷史表明，今天的數位趨勢將成為明天的全球規範。與約四分之一隨著成年人經歷孤獨，對人工智慧伴侶的需求將會成長。

人工智慧人性化的危險

長期以來，人類一直將人類特徵歸因於非人類實體，這種趨勢被稱為擬人論。毫不奇怪，我們使用 ChatGPT 等人工智慧工具來做到這一點，它似乎可以「思考」和「感覺」。但為什麼人工智慧人性化是一個問題呢？

一方面，它允許人工智慧公司利用我們與類人實體形成依戀的傾向。複製品是上市的被譽為「關心的人工智慧伴侶」。然而，為了避免法律問題，該公司在其他地方指出 Replika 沒有感知能力，只是透過數百萬用戶互動來學習。

一些人工智慧公司公開表示宣稱他們的人工智慧助理具有同理心，甚至可以預測人類的需求。此類說法具有誤導性，可能會利用尋求陪伴的人。如果使用者相信他們的人工智慧伴侶真正理解他們，他們可能會投入大量的情感。

這引起了嚴重的道德問題。一個用戶會猶豫一旦他們賦予人工智慧同伴某種感知能力，就刪除（即「放棄」或「殺死」）他們的人工智慧同伴。

但是，當所述伴侶意外消失時，例如用戶再也買不起它，或經營它的公司倒閉，會發生什麼事？雖然伴侶可能不是真實的，但與之相關的感情是真實的。

同理心－不僅僅是可程式輸出

透過減少對可程式輸出的同理心，我們是否會冒削弱其真正本質的風險？要回答這個問題，我們首先要思考什麼是同理心。

同理心涉及以理解和關心的方式回應他人。當你的朋友告訴你他們的心痛時，你分擔他們的悲傷，或當你感受到你關心的人散發出的快樂。這是一次深刻的體驗——豐富且超越簡單的測量形式。

人類和人工智慧的根本差異在於，人類能夠真實地感受到情感，而人工智慧只能模擬情感。這涉及到意識難題，它質疑人類的主觀經驗如何從大腦的物理過程中產生。

雖然人工智慧可以模擬理解，但它聲稱擁有的任何「同理心」都是模仿同理心語言模式的程式結果。不幸的是，人工智慧提供者有經濟動機來誘騙用戶對他們看似同理心的產品產生依戀。

非人化假說

我們的「非人化假說」強調了試圖將人類簡化為可以由機器複製的一些基本功能所帶來的倫理問題。我們越是讓人工智慧人性化，就越有可能讓自己失去人性。

例如，依賴人工智慧進行情緒勞動可能會讓我們更不能容忍現實關係的不完美。這可能會削弱我們的社會紐帶，甚至導致情緒技能下降。隨著情緒技能不斷商品化和自動化，未來幾代人可能會變得缺乏同理心，從而失去對人類基本特質的掌握。

此外，隨著人工智慧伴侶變得越來越普遍，人們可能會用它們來取代真實的人際關係。這可能會增加孤獨感和疏離感——而這些系統聲稱可以幫助解決這些問題。

人工智慧公司對情感數據的收集和分析也帶來了巨大的風險，因為這些數據可能被用來操縱用戶並最大化利潤。這將進一步侵蝕我們的隱私和自主權，將監視資本主義提升到一個新的水平。

讓供應商承擔責任

監管機構需要採取更多措施來追究人工智慧提供者的責任。人工智慧公司應該誠實地了解他們的人工智慧能做什麼和不能做什麼，特別是當他們冒著利用用戶情感脆弱性的風險時。

誇大其詞的“正品”共情「應該被定為非法。提出此類主張的公司應被處以罰款，並應關閉重犯者。

資料隱私政策也應該明確、公平，並且沒有允許公司利用使用者產生內容的隱藏條款。

我們必須保留定義人類經驗的獨特品質。雖然人工智慧可以增強生活的某些方面，但它不能也不應該取代真正的人際關係。

本文轉載自對話根據知識共享許可。閱讀原創文章。