将来の歴史家は、2023 年が人工知能 (AI) の出現の画期的な出来事であると考えるかもしれません。でも、その未来が証明されるかどうかはユートピア、黙示録的なまたはその間のどこかは誰の推測でもあります。

2 月、ChatGPT は到達最速のアプリとして記録を樹立しました。1億人のユーザー。これに続いて、Google、Amazon、Meta、その他の大手テクノロジー企業による同様の「ラージ言語」AI モデルが登場し、これらの企業は集合的に、教育、医療、その他多くの知識集約型分野を変革する構えを見せています。

しかし、AI が害を及ぼす可能性は 5 月に次のような論文によって強調されました。不気味な発言主要な研究者による署名:

「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。」

11月、AIリスクに対する懸念の高まりに応え、27カ国（英国、米国、インド、中国、欧州連合を含む）が英国のブレッチリーパークで開催された第1回AI安全サミットでAIの安全な開発を確保するための協力を約束した。のために全員の利益になる。

これを達成するために、研究者は次のことに焦点を当てています。AIの調整つまり、AI モデルが人間の価値観、好み、目標と一致していることを確認する方法です。しかし、問題があります。AI のいわゆる「」暗い秘密": 大規模モデルは非常に複雑でブラック ボックスのようで、誰も完全に理解することは不可能です。

AIのブラックボックス問題

AI システムの透明性と説明可能性は高いですが、重要な研究目標、そのような取り組みは、イノベーションの猛烈なペースに追いつくことはできそうにありません。

のブラックボックス比喩は、AI に対する人々の信念が世界中に広がっている理由を説明します。予測はユートピアから絶滅まで多岐にわたり、汎用人工知能 (AGI) が間もなく登場すると信じている人さえいます。感覚を得る。

しかし、この不確実性が問題をさらに悪化させます。AI の調整は双方向である必要があります。AI モデルが人間の意図と一致していることを確認するだけでなく、AI についての信念が正確であることも確認する必要があります。

なぜなら、私たちはたとえ無意識であっても、その信念に一致する未来を創造することに非常に熟達しているからです。

いわゆる「」期待効果」、または自己成就的予言は心理学ではよく知られています。そして、研究によると、ユーザーの信念を操作することは、ユーザーの信念の操作だけでなく、ユーザーの信念に影響を与えることが示されています。AIと対話する、しかしAIはどうやってユーザーに適応します。

言い換えれば、私たちの信念（意識的または無意識的）が AI にどのように影響するかは、壊滅的な結果を含むあらゆる結果の可能性を潜在的に高める可能性があります。

AI、計算、論理、算術

AI の基礎を理解するには、不思議の国のアリスのように、ウサギの穴に進み、AI が私たちをどこへ連れて行ってくれるのかを確認するために、より深く調査する必要があります。

まず、AIとは何でしょうか？コンピューター上で実行され、計算も自動化されます。という由来からして、パーセプトロン「1943年に神経生理学者によって数学的に定義された人工ニューロン」ウォーレン・マカロックそして論理学者ウォルター・ピッツAI は認知科学、神経科学、コンピューター科学と絡み合っています。

この収束は、心、頭脳そして機械AI は機械による計算であるため、自然知能 (心) は脳による計算に違いないという広く信じられている考えにつながりました。

しかし、計算とは何でしょうか?19世紀後半、数学者たちは、リチャード・デデキントそしてジュゼッペ・ペアノ一連の公理を提案しました。論理の観点から算術を定義するそして、すべての数学を安全な基盤に基づいて構築しようという試みにインスピレーションを与えました。正式な基礎。

論理学者ですが、クルト・ゲーデル後にこの目標が達成不可能な、彼の研究は数学者 (そして暗号解読者) の出発点でした。アラン・チューリング。彼の "チューリングマシン」、次のことができる抽象的なデバイスです。普遍的な計算、コンピューターサイエンスの基礎です。

認識の深い構造

したがって、計算は次のようになります。数学的アイデアそれは、論理における算術を定義する取り組みに遡ります。しかし、私たちの算術知識は存在します論理以前に。AI の基礎を理解したい場合は、さらに進んで、算術自体がどこから来たのかを尋ねる必要があります。

私の同僚と私は最近、算術が知覚の「深い構造」に基づいていることを示しました。この構造は色眼鏡のようなもので、私たちの認識を特定の方法で形作ることで、世界の経験が秩序正しく管理可能になります。

算術演算は、一連の要素 (数値) と、要素のペアを組み合わせて別の要素を与える演算 (加算、乗算) で構成されます。私たちは、あらゆる可能性の中で、なぜ数値が要素であり、加算と乗算が演算なのかと尋ねました。

私たちが見せたのは、数学的証明知覚の深い構造が可能性を制限すると仮定したとき、その結果が算術であったということです。言い換えれば、私たちの心は、物理的な世界の経験を形作るのと同じ「色眼鏡」を通して抽象的な世界を見るとき、数字や算術を「見る」のです。

算術は数学の基礎であるため、数学は心の表現、つまりその基本的な性質と創造性を象徴するものであるということが暗示されています。

知覚の深い構造は他の動物と共有されており、進化の産物ですが、数学を発明したのは人間だけです。それは私たちの最も親密な創造物であり、おそらく私たちにとって最も重要な AI の開発を可能にすることによって行われます。

心のコペルニクス的革命

算術の起源に関する私たちの説明は、18 世紀の哲学者イマヌエル カントの見解と一致しています。彼によれば、世界に関する私たちの知識は、感覚経験以前に存在する空間と時間の「純粋な直観」によって構築されており、私たちが決して外せない色眼鏡に似ています。

カントは自分の主張を主張した哲学それは「心のコペルニクス的革命」でした。古代の天文学者たちが地球の運動を知らなかったために太陽が地球の周りを回っていると信じたのと同じように、哲学者たちはすべての知識は次のようなものから得られると信じていたとカントは主張した。感覚体験（たとえば、ジョン・ロックやデイヴィッド・ヒュームは）心がどのように知覚を形作るのかを見落としていました。

カントの見解は、彼の時代の自然科学、彼らは証明しました現代心理学に影響を与える。

算術が私たちの認識の自然な結果であり、したがって生物学に基づいているという認識は、計算に対する私たちの理解における同様のカント的変化を示唆しています。

計算は数学的真理の抽象的な領域の「外側」にあるわけでも、私たちから切り離されているわけでもありませんが、私たちの心の性質に固有のものです。心は単なる計算以上のものです。脳はコンピューターではありません。むしろ、AI の基礎である計算は、数学と同様に、心の性質と創造性を象徴的に表現したものです。

プロメシアンの火

AIにはどのような影響があるのでしょうか?まず、AI は心ではなく、決して知覚を持つことはありません。私たちが心をクラウドにアップロードすることで生物学的性質を超越して不死を達成できるという考えは、ファンタジー。

しかし、もし次の原則があれば、心AI の基盤となるものは全人類 (そしておそらく他の生物も同様) に共有されているものであれば、私たち個人の心の限界を超えることは可能かもしれません。

なぜなら計算は普遍的なものであるため、私たちは、ますます接続される仮想世界と物理世界の中で、選択した結果を自由にシミュレートし、作り出すことができます。このように、AI はまさに私たちのものです。プロメシアンの火、神から盗まれた人類への贈り物、ギリシャ神話。

地球文明として、私たちはおそらく転換点に立っています。AI は知覚を持って、次のことを決定することはありません私たち全員を殺してください。しかし、私たちはそれによって自分自身を「黙示録」する能力が非常に高く、期待が現実を生み出すことができます。

AI の調整、安全性、セキュリティを確保する取り組みは非常に重要ですが、認識と集合知が不足している場合は十分ではない可能性があります。アリスのように、私たちも夢から目覚め、現実と自分の心の力を認識する必要があります。

この記事はから転載されています会話クリエイティブ・コモンズ・ライセンスに基づいて。読んでください元の記事。