上个月，OpenAI出来反对一项尚未颁布的加州法律，旨在为大型人工智能 (AI) 模型的开发人员制定基本安全标准。这是该公司态度的转变，其首席执行官萨姆·奥尔特曼此前曾表示发言表示支持人工智能监管。

这家前非营利组织于 2022 年因 ChatGPT 的发布而声名鹊起，目前估值为高达1500亿美元。它仍然处于人工智能开发的最前沿，上周发布了新的“推理”模型旨在解决更复杂的任务。

该公司近几个月采取的多项举措表明对数据采集的兴趣不断增长。这不仅仅是用于训练当前生成人工智能工具的文本或图像，还可能包括与在线行为、个人互动和健康相关的私密数据。

没有证据表明 OpenAI 计划将这些不同的数据流整合在一起，但这样做将带来巨大的商业利益。即使访问如此广泛的信息的可能性也会引发有关隐私和隐私的重大问题。伦理影响的集中数据控制。

媒体优惠

今年，OpenAI 已签约多重伙伴关系和媒体公司包括时间杂志金融时报，阿克塞尔·施普林格，世界报、Prisa Media 以及最近的 Condé Nast（康泰纳仕集团），时尚,纽约客,名利场和有线。

这些合作伙伴关系使 OpenAI 能够访问大量内容。OpenAI 的产品还可用于分析用户行为和交互指标，例如跨平台的阅读习惯、偏好和参与模式。

如果 OpenAI 能够访问这些数据，该公司就可以全面了解用户如何与各种类型的内容互动，这可用于深入的用户分析和跟踪。

视频、生物识别和健康

OpenAI还投资了一家名为 Opal 的网络摄像头初创公司。目的是通过先进的人工智能功能增强相机。

由人工智能驱动的网络摄像头收集的视频片段可以转化为更敏感的生物识别数据，例如面部表情和推断的心理状态。

7 月，OpenAI 和 Thrive Global 推出了 Thrive AI Health。该公司表示将利用人工智能“超个性化和规模化行为改变“在健康方面。

尽管 Thrive AI Health 表示它将拥有“强大的隐私和安全护栏”，但目前还不清楚这些会是什么样子。

之前的人工智能健康项目都涉及广泛的个人数据共享，例如微软与美国普罗维登斯健康公司之间的合作伙伴关系，以及谷歌 DeepMind 与英国皇家自由伦敦 NHS 基金会信托基金之间的合作伙伴关系。在后一种情况下，DeepMind面临法律诉讼因其使用私人健康数据。

萨姆·奥尔特曼的眼球扫描副业项目

Altman 还投资了其他需要数据的企业，其中最著名的是一个名为 WorldCoin 的有争议的加密货币项目（他是该项目的联合创始人）。WorldCoin 旨在使用生物识别（特别是虹膜扫描）创建一个全球金融网络和识别系统。

该公司声称已经扫描了超过 650 万人的眼球遍布近 40 个国家。与此同时，十多个司法管辖区要么暂停其运营，要么对其数据处理进行审查。

巴伐利亚当局目前正在考虑Worldcoin 是否符合欧洲数据隐私法规。如果裁决是否定的，该公司可能会被禁止在欧洲运营。

正在调查的主要问题包括敏感生物识别数据的收集和存储。

为什么这很重要？

现有的 AI 模型，例如 OpenAI 的旗舰产品 GPT-4o，很大程度上已经接受过训练公开数据来自互联网。然而，未来的模型将需要更多的数据——而且越来越难遇到。

去年，该公司说它希望人工智能模型“深入理解所有主题、行业、文化和语言”，这将需要“尽可能广泛的训练数据集”。

在此背景下，OpenAI 对媒体合作的追求、对生物识别和健康数据收集技术的投资，以及首席执行官与世界币等有争议项目的联系，开始描绘出一幅令人担忧的画面。

通过获取大量用户数据，OpenAI 将自己定位为构建下一波人工智能模型，但隐私可能会成为牺牲品。

风险是多方面的。大量个人数据很容易遭到泄露和滥用，例如医疗安全数据泄露其中近一半的澳大利亚人的个人和医疗数据被盗。

大规模数据整合的潜力也引起了人们对分析和监控的担忧。同样，没有证据表明 OpenAI 目前计划从事此类实践。

然而，OpenAI 的隐私政策已过去不太完美。更广泛地说，科技公司也拥有悠久的历史可疑的数据实践。

不难想象，对多种数据的集中控制将使 OpenAI 在个人和公共领域对人们产生重大影响。

安全会退居二线吗？

OpenAI 最近的历史并没有缓解安全和隐私问题。2023年11月，奥特曼被暂时被驱逐作为首席执行官据报道，由于公司战略方向的内部冲突。

Altman 一直大力倡导人工智能技术的快速商业化和部署。据报道，他经常优先考虑增长和市场渗透过度安全措施。

奥特曼的角色被短暂解除，随后迅速恢复以及 OpenAI 董事会的重大改组。这表明该公司的领导层现在支持他积极的人工智能部署方法，尽管存在潜在风险。

在此背景下，OpenAI 最近反对加州法案的影响超出了单一的政策分歧。反监管立场表明了一种令人不安的趋势。

OpenAI 没有在截止日期前回复 The Conversation 的置评请求。

本文转载自对话根据知识共享许可。阅读原创文章。