先月、OpenAI反対に出てきた大規模な人工知能 (AI) モデルの開発者に対する基本的な安全基準を設定することを目的としたカリフォルニア州の法律はまだ制定されていません。これは同社の姿勢の変化であり、その最高経営責任者であるサム・アルトマン氏は以前支持して話したAI規制のこと。

2022 年に ChatGPT のリリースで一躍有名になったこの元非営利団体は、現在では最大1,500億米ドル。先週リリースされた AI 開発の最前線であり続けています。新しい「推論」モデルより複雑なタスクに取り組むように設計されています。

同社はここ数カ月間、データ収集に対する意欲の高まりを示唆するいくつかの動きを行っている。これには、現在の生成 AI ツールのトレーニングに使用されるテキストや画像だけでなく、オンラインでの行動、個人的なやり取り、健康に関する親密なデータも含まれる可能性があります。

OpenAI がこれらの異なるデータ ストリームを統合することを計画しているという証拠はありませんが、そうすることで強力な商業的メリットがもたらされるでしょう。このような広範な情報にアクセスできる可能性さえ、プライバシーと個人情報に関する重大な疑問を引き起こします。倫理的な意味合い集中的なデータ管理。

メディア取引

今年、OpenAIは署名しました複数のパートナーシップとメディア企業含む時間雑誌、フィナンシャル・タイムズアクセル・スプリンガー、ルモンド、Prisa Media、そして最近ではコンデナストなどの所有者です。流行、ニューヨーカー、バニティフェアそして有線。

このパートナーシップにより、OpenAI は大量のコンテンツにアクセスできるようになります。OpenAI の製品は、プラットフォーム全体での読書習慣、好み、エンゲージメント パターンなどのユーザーの行動やインタラクションの指標を分析するために使用することもできます。

OpenAI がこのデータにアクセスできれば、同社はユーザーがさまざまな種類のコンテンツにどのように関与しているかを包括的に理解し、詳細なユーザー プロファイリングと追跡に使用できる可能性があります。

ビデオ、生体認証、健康

OpenAI は以下にも投資していますOpal というウェブカメラのスタートアップ。目的は、高度な AI 機能を搭載してカメラを強化することです。

AI を活用したウェブカメラによって収集されたビデオ映像は、顔の表情や推定される心理状態など、より機密性の高い生体認証データに変換される可能性があります。

7月、OpenAIとThrive GlobalはThrive AI Healthを立ち上げた。同社はAIを活用して「行動の変化をハイパーパーソナライズして拡張する「健康で。

Thrive AI Health は、「堅牢なプライバシーとセキュリティのガードレール」を導入すると述べていますが、それがどのようなものになるかは不明です。

これまでの AI ヘルス プロジェクトには、米国の Microsoft と Providence Health とのパートナーシップや、英国の Google DeepMind と Royal Free London NHS Foundation Trust とのパートナーシップなど、個人データの広範な共有が含まれていました。後者の場合、DeepMind法的措置に直面したプライベートな健康データの使用のため。

サム・アルトマンの眼球スキャンサイドプロジェクト

アルトマン氏は他のデータを必要とするベンチャー企業にも投資しており、最も注目に値するのは WorldCoin と呼ばれる物議を醸している暗号通貨プロジェクト (彼が共同設立者) です。WorldCoin は、生体認証、特に虹彩スキャンを使用した世界的な金融ネットワークと認証システムを構築することを目指しています。

同社はすでにそうしていると主張している650万人以上の眼球をスキャンした約40か国にわたって。一方、十数の管轄区域が業務を停止したり、データ処理を精査したりしている。

バイエルン州当局は現在、次のことを検討している。Worldcoin が欧州のデータプライバシー規制に準拠しているかどうか。否定的な判決が出れば、同社は欧州での事業を禁止される可能性がある。

調査されている主な懸念事項には、機密の生体認証データの収集と保管が含まれます。

なぜこれが重要なのでしょうか?

OpenAI の主力 GPT-4o などの既存の AI モデルは、主に次の方法でトレーニングされています。公開されているデータインターネットから。ただし、将来のモデルにはさらに多くのデータが必要になります。入手が困難になってきている。

昨年、同社は、言ったAI モデルが「すべての主題、業界、文化、言語を深く理解する」ことを望んでおり、そのためには「できるだけ広範なトレーニング データセット」が必要となる。

この文脈において、OpenAIのメディアパートナーシップの追求、生体認証および健康データ収集技術への投資、そしてWorldcoinのような物議を醸すプロジェクトとCEOの関係は、懸念すべき状況を描き始めている。

OpenAI は、膨大な量のユーザー データにアクセスできるようにすることで、AI モデルの次の波を構築する立場にありますが、プライバシーが犠牲になる可能性があります。

リスクは多面的です。個人データの大規模なコレクションは、次のような侵害や悪用に対して脆弱です。メディセキュアのデータ侵害この事件では、オーストラリア人のほぼ半数が個人情報と医療情報を盗まれました。

大規模なデータ統合の可能性により、プロファイリングと監視に関する懸念も生じます。繰り返しになりますが、OpenAI が現在そのような行為を計画しているという証拠はありません。

ただし、OpenAI のプライバシー ポリシーは、過去には完璧ではなかった。より広範なテクノロジー企業には、長い歴史があります。疑わしいデータ慣行。

さまざまな種類のデータを一元管理することで、OpenAI が個人領域とパブリック領域の両方で人々に大きな影響力を及ぼすシナリオを想像するのは難しくありません。

安全性は後回しになるのでしょうか？

OpenAI の最近の歴史は、安全性とプライバシーの懸念を和らげるにはほとんど役立ちません。2023 年 11 月、アルトマンは一時的に追放されたとして最高経営責任者、伝えられるところによると、会社の戦略的方向性をめぐる内部対立が原因とされています。

アルトマンは、AI テクノロジーの迅速な商業化と導入を強力に推進してきました。同氏は成長と市場浸透を優先することが多いと伝えられている過剰な安全対策。

アルトマン氏の役職解任は短期間だった。その後は速やかに復帰そしてOpenAIの取締役会の大幅な刷新。これは、潜在的なリスクにもかかわらず、同社の経営陣が現在、AI導入に対する彼の積極的なアプローチを支持していることを示唆しています。

このような背景を背景に、カリフォルニア州法案に対する最近の OpenAI の反対の影響は、単一の政策上の不一致を超えて広がっています。反規制の姿勢は憂慮すべき傾向を示唆している。

OpenAIは締め切りまでにThe Conversationのコメント要請に応じなかった。

この記事はから転載されています会話クリエイティブ・コモンズ・ライセンスに基づいて。読んでください元の記事。