上個月，OpenAI出來反對一項尚未頒布的加州法律，旨在為大型人工智慧 (AI) 模型的開發人員制定基本安全標準。這是該公司態度的轉變，其執行長薩姆·奧爾特曼此前曾表示發言表示支持人工智慧監管。

這家前非營利組織於 2022 年因 ChatGPT 的發布而聲名鵲起，目前估值為高達1500億美元。它仍然處於人工智慧開發的最前沿，上週發布了新的「推理」模型旨在解決更複雜的任務。

該公司近幾個月採取的多項措施顯示對數據收集的興趣不斷增長。這不僅是用於訓練當前生成人工智慧工具的文字或圖像，還可能包括與線上行為、個人互動和健康相關的私密資料。

沒有證據表明 OpenAI 計劃將這些不同的資料流整合在一起，但這樣做將帶來巨大的商業利益。即使存取如此廣泛的資訊的可能性也會引發有關隱私和隱私的重大問題。倫理影響的集中資料控制。

媒體優惠

今年，OpenAI 已簽約多重夥伴關係和媒體公司包括時間雜誌金融時報，阿克塞爾·施普林格，世界報、Prisa Media 以及最近的 Condé Nast（康泰納仕集團），時尚,紐約客,名利場和有線。

這些合作夥伴關係使 OpenAI 能夠存取大量內容。OpenAI 的產品也可用於分析使用者行為和互動指標，例如跨平台的閱讀習慣、偏好和參與模式。

如果 OpenAI 能夠存取這些數據，該公司就可以全面了解用戶如何與各種類型的內容互動，這可用於深入的用戶分析和追蹤。

影片、生物辨識和健康

OpenAI也投資了一家名為 Opal 的網路攝影機新創公司。目的是透過先進的人工智慧功能增強相機。

由人工智慧驅動的網路攝影機收集的影片片段可以轉化為更敏感的生物辨識數據，例如面部表情和推斷的心理狀態。

7 月，OpenAI 和 Thrive Global 推出了 Thrive AI Health。該公司表示將利用人工智慧“超個人化和規模化行為改變「在健康方面。

儘管 Thrive AI Health 表示它將擁有“強大的隱私和安全護欄”，但目前還不清楚這些會是什麼樣子。

先前的人工智慧健康計畫都涉及廣泛的個人資料共享，例如微軟與美國普羅維登斯健康公司之間的合作夥伴關係，以及谷歌DeepMind 與英國皇家自由倫敦NHS 基金會信託基金之間的合作夥伴關係。在後一種情況下，DeepMind面臨法律訴訟因其使用私人健康數據。

薩姆·奧爾特曼的眼球掃描副業項目

Altman 也投資了其他需要數據的企業，其中最著名的是一個名為 WorldCoin 的有爭議的加密貨幣計畫（他是該計畫的共同創辦人）。WorldCoin 旨在使用生物辨識（特別是虹膜掃描）來創建一個全球金融網路和識別系統。

該公司聲稱已經掃描了超過 650 萬人的眼球遍佈近 40 個國家。同時，十多個司法管轄區要么暫停其運營，要么對其數據處理進行審查。

巴伐利亞當局目前正在考慮Worldcoin 是否符合歐洲資料隱私法規。如果裁決是否定的，該公司可能會被禁止在歐洲運作。

正在調查的主要問題包括敏感生物識別數據的收集和儲存。

為什麼這很重要？

現有的 AI 模型，例如 OpenAI 的旗艦產品 GPT-4o，很大程度上已經接受過訓練公開數據來自互聯網。然而，未來的模型將需要更多的數據——而且越來越難遇到。

去年，該公司說它希望人工智慧模型“深入理解所有主題、行業、文化和語言”，這將需要“盡可能廣泛的訓練資料集”。

在此背景下，OpenAI 對媒體合作的追求、對生物辨識和健康數據收集技術的投資，以及執行長與世界幣等有爭議項目的聯繫，開始描繪出一幅令人擔憂的畫面。

透過獲取大量用戶數據，OpenAI 將自己定位為建立下一波人工智慧模型，但隱私可能會成為受害者。

風險是多方面的。大量個人資料很容易遭到外洩和濫用，例如醫療安全資料洩露其中近一半的澳洲人的個人和醫療資料被盜。

大規模資料整合的潛力也引起了人們對分析和監控的擔憂。同樣，沒有證據表明 OpenAI 目前計劃從事此類實踐。

然而，OpenAI 的隱私權政策已過去不太完美。更廣泛地說，科技公司也擁有悠久的歷史可疑的數據實踐。

不難想像，對多種資料的集中控制將使 OpenAI 在個人和公共領域對人們產生重大影響。

安全會退居二線嗎？

OpenAI 最近的歷史並沒有緩解安全和隱私問題。2023年11月，奧特曼被暫時被驅逐作為執行長據報道，由於公司策略方向的內部衝突。

Altman 一直大力倡導人工智慧技術的快速商業化和部署。據報道，他經常優先考慮成長和市場滲透過度安全措施。

奧特曼的角色被短暫解除，隨後迅速恢復以及 OpenAI 董事會的重大改組。這表明該公司的領導層現在支持他積極的人工智慧部署方法，儘管存在潛在風險。

在此背景下，OpenAI 最近反對加州法案的影響超出了單一的政策分歧。反監管立場顯示了一種令人不安的趨勢。

OpenAI 在截止日期前沒有回覆 The Conversation 的置評請求。

本文轉載自對話根據知識共享許可。閱讀原創文章。