科学者は、機械学習を実行できる脳のようなシステムを構築およびスケールアップしようとすると、多くのトレードオフに遭遇します。たとえば、人工ニューラル ネットワークは複雑な言語や視覚のタスクを学習できますが、これらのタスクを実行するようにコンピューターを訓練するプロセスは時間がかかり、多くの電力を必要とします。

デジタルで学習しながらタスクをアナログで実行するように機械をトレーニングすること、つまり、入力が電圧などの物理量によって変化することを意味し、時間と電力を削減できますが、小さな誤差が急速に悪化する可能性があります。

ペンシルバニア大学の物理学および工学研究者が開発した電気ネットワーク以前に設計されたシステムのサイズが大きくなるにつれてエラーが増加しないため、よりスケーラビリティが高くなりますが、入力と出力の間に単純な関係を持つ線形タスクのみを学習できるため、厳しく制限されています。

研究者らは現在、高速、低消費電力、スケーラブルで、より多くのことを学習できるアナログ システムを作成しました。複雑なタスク、「排他的論理和」関係 (XOR) および非線形回帰を含みます。これは、対照的なローカル学習ネットワークと呼ばれます。コンポーネントは、より大きな構造の知識がなくても、ローカルルールに基づいて独自に進化します。

物理学教授のダグラス・J・ドリアンは、これを人間の体内のニューロンの仕組みに例えています。人間の脳他のニューロンが何をしているのかはわかりませんが、それでも学習は生じます。

「それは学習することができます、機械学習計算ニューラルネットワークに似ていますが、これは物理的なオブジェクトです」と、ドリアン研究グループのポスドクであり、このシステムに関する論文の筆頭著者である物理学者のサム・ディラヴォウ氏は言う。出版されたで米国科学アカデミーの議事録。

「私たちが本当に興奮していることの 1 つは、ネットワークの構造についての知識がないため、エラーに対して非常に耐性があり、さまざまな方法で作成された場合でも非常に堅牢であるということであり、これにより多くの可能性が開けると考えています」こうしたことをスケールアップする機会がたくさんあります」と工学教授のマーク・Z・ミスキンは言う。

「これは生物学的問題を含むあらゆる種類の問題を洞察するために研究できる理想的なモデルシステムだと思います」と物理学教授のアンドレア・J・リューは言う。また、カメラやマイクなど、処理が必要なデータを収集するデバイスとのインターフェースにも役立つ可能性があると彼女は述べています。

論文の中で著者らは、自社の自己学習システムが「創発的な学習を研究するユニークな機会を提供する」と述べている。生物学的システム脳を含む私たちのシステムは、よりシンプルでよく理解されている力学に依存しており、正確にトレーニング可能で、シンプルなモジュール式コンポーネントを使用しています。」

この研究は、Liu 氏とポスドクの Menachem (Nachi) Stern 氏が考案した連成学習フレームワークに基づいています。2021年に調査結果を発表。このパラダイムでは、特定のタスクを達成するように設計されていない物理システムが、ローカル学習ルールを使用し、集中プロセッサを使用せずに、適用された入力に適応してタスクを学習します。

ディラヴー氏は、特にこのプロジェクトのためにペンに来たと述べ、フレームワークをシミュレーションでの作業から、標準の回路コンポーネントを使用して作成できる現在の物理設計での作業に変換することに取り組んだという。

「これについて最もクレイジーな点の 1 つは、実際には自動的に学習するということです。私たちはそれを準備しているだけなのです」とディラヴー氏は言う。研究者は電圧を入力として供給するだけで、ノードを接続するトランジスタが結合学習ルールに基づいて特性を更新します。

「計算と学習の両方の方法が物理学に基づいているため、はるかに解釈しやすいです」とミスキン氏は言います。「基礎となるメカニズムをよく理解しているので、ネットワークが何をしようとしているのかを実際に理解することができます。他の多くの学習システムはブラックボックスであり、ネットワークがなぜそのような動作をしたのかを知るのがはるかに難しいため、これは一種のユニークなことです。」」

ドリアン氏は、これが「巨大な分野の始まり」になることを願っていると述べ、彼の研究室の別のポスドク、ローレン・アルトマン氏が対照的なローカル学習ネットワークの機械版を構築していることを指摘した。

研究者らは現在、設計のスケールアップに取り組んでおり、メモリの保存期間、ノイズの影響、ネットワークに最適なアーキテクチャ、より良い非線形性の形式があるかどうかなど、多くの疑問があるとリュー氏は言う。

「学習システムをスケールアップすると何が変わるのか、実際には明らかではありません」とミスキン氏は言う。

「脳について考えてみると、300 個のニューロンを持つワームと人間の間には大きな隔たりがあり、それらの能力がどこで現れるのか、スケールアップするにつれて物事がどのように変化するのかは明らかではありません。より大きくできる物理システムがあり、どんどん大きくなって、さらに大きくなるのは、それを実際に研究する機会です。」