爱尔兰作家约翰·康诺利曾经说过：“人性的本质，就是将他人的痛苦视为自己的痛苦，并采取行动消除这种痛苦。”

在我们历史的大部分时间里，我们都相信同理心是人类独有的特质——一种使我们区别于机器和其他动物的特殊能力。但这种信念现在正受到挑战。

随着人工智能成为我们生活中越来越重要的一部分，甚至进入我们最亲密的领域，我们面临着一个哲学难题：将人类品质归因于人工智能是否会削弱我们自己的人类本质？我们的研究建议可以。

数字化陪伴

近年来，Replika等人工智能“伴侣”应用吸引了数百万用户。Replika 允许用户创建自定义数字合作伙伴来进行亲密对话。付费会员复制品专业版甚至可以将他们的人工智能变成“浪漫的伴侣”。

物理人工智能伴侣也不甘落后。JoyLoveDolls 等公司正在销售互动性爱机器人具有可定制的功能，包括乳房大小、种族、动作和人工智能反应，如呻吟和调情。

虽然目前这是一个利基市场历史表明，今天的数字趋势将成为明天的全球规范。与约四分之一随着成年人经历孤独，对人工智能伴侣的需求将会增长。

人工智能人性化的危险

长期以来，人类一直将人类特征归因于非人类实体，这种趋势被称为拟人论。毫不奇怪，我们使用 ChatGPT 等人工智能工具来做到这一点，它似乎可以“思考”和“感觉”。但为什么人工智能人性化是一个问题呢？

一方面，它允许人工智能公司利用我们与类人实体形成依恋的倾向。复制品是上市的被誉为“关心的人工智能伴侣”。然而，为了避免法律问题，该公司在其他地方指出 Replika 没有感知能力，只是通过数百万用户交互来学习。

一些人工智能公司公开表示宣称他们的人工智能助手具有同理心，甚至可以预测人类的需求。此类说法具有误导性，可能会利用寻求陪伴的人。如果用户相信他们的人工智能伴侣真正理解他们，他们可能会投入大量的情感。

这引起了严重的道德问题。一个用户会犹豫一旦他们赋予人工智能同伴某种感知能力，就删除（即“放弃”或“杀死”）他们的人工智能同伴。

但是，当所述伴侣意外消失时，例如用户再也买不起它，或者运营它的公司倒闭，会发生什么？虽然伴侣可能不是真实的，但与之相关的感情却是真实的。

同理心——不仅仅是可编程输出

通过减少对可编程输出的同理心，我们是否会冒削弱其真正本质的风险？要回答这个问题，我们首先要思考什么是同理心。

同理心涉及以理解和关心的方式回应他人。当你的朋友告诉你他们的心痛时，你分担他们的悲伤，或者当你感受到你关心的人散发出的快乐时。这是一次深刻的体验——丰富且超越简单的测量形式。

人类和人工智能的根本区别在于，人类能够真实地感受到情感，而人工智能只能模拟情感。这涉及到意识难题，它质疑人类的主观体验如何从大脑的物理过程中产生。

虽然人工智能可以模拟理解，但​​它声称拥有的任何“同理心”都是模仿同理心语言模式的编程结果。不幸的是，人工智能提供商有经济动机来诱骗用户对他们看似有同理心的产品产生依恋。

非人化假说

我们的“非人化假说”强调了试图将人类简化为可以由机器复制的一些基本功能所带来的伦理问题。我们越是让人工智能人性化，我们就越有可能让自己失去人性。

例如，依赖人工智能进行情感劳动可能会让我们更不能容忍现实关系的不完美。这可能会削弱我们的社会纽带，甚至导致情感技能下降。随着情感技能不断商品化和自动化，未来几代人可能会变得缺乏同理心，从而失去对人类基本品质的掌握。

此外，随着人工智能伴侣变得越来越普遍，人们可能会用它们来取代真实的人际关系。这可能会增加孤独感和疏远感——而这些系统声称可以帮助解决这些问题。

人工智能公司对情感数据的收集和分析也带来了巨大的风险，因为这些数据可能被用来操纵用户并最大化利润。这将进一步侵蚀我们的隐私和自主权，将监视资本主义提升到一个新的水平。

让供应商承担责任

监管机构需要采取更多措施来追究人工智能提供商的责任。人工智能公司应该诚实地了解他们的人工智能能做什么和不能做什么，特别是当他们冒着利用用户情感脆弱性的风险时。

夸大其词的“正品”共情“应该被定为非法。提出此类主张的公司应被处以罚款，并应关闭屡犯者。

数据隐私政策还应该明确、公平，并且没有允许公司利用用户生成内容的隐藏条款。

我们必须保留定义人类体验的独特品质。虽然人工智能可以增强生活的某些方面，但它不能也不应该取代真正的人际关系。

本文转载自对话根据知识共享许可。阅读原创文章。