Article

光物理学:誤差逆伝播法を用いて訓練された物理的な深層ニューラルネットワーク

Nature 601, 7894 doi: 10.1038/s41586-021-04223-6

深層学習モデルは、科学や工学において広く用いられる手段になった。しかし今では、必要となるエネルギーによって、それらのスケーラビリティーがますます制限されるようになっている。深層学習アクセラレーターは、深層学習をエネルギー効率的に行うことを目標とし、通常は推論フェーズをターゲットにしており、従来の電子工学の枠を超えた物理的基盤を利用することが多い。これまでの手法では、従来とは異なる新たなハードウエアのin situ訓練に、誤差逆伝播アルゴリズムを適用することはできなかった。誤差逆伝播法は、その数々の長所によって大規模ニューラルネットワークの事実上の訓練方法となっているため、この欠陥は主な障害となる。今回我々は、誤差逆伝播法を適用して制御可能な物理系を訓練する、物理認識訓練と呼ばれるin situ–in silicoハイブリッドアルゴリズムについて報告する。深層学習が、数学関数の複数の層からなる深層ニューラルネットワークを用いて計算を実現するのと同じように、我々の手法では、物理的な層が従来の人工ニューラルネットワーク層に対するいかなる数学的同型性を欠く場合でも、制御可能な物理系の層からなる物理的深層ニューラルネットワークの訓練が可能になる。我々は、今回の手法の普遍性を実証するために、光学、力学、電子工学に基づく多様な物理的ニューラルネットワークを訓練して、音声分類と画像分類のタスクを実験的に行った。物理認識訓練は、誤差逆伝播法のスケーラビリティーと、in situアルゴリズムで達成可能な、不完全性や雑音の自動軽減を兼ね備えている。物理的ニューラルネットワークは、従来の電子プロセッサーよりも高速かつエネルギー効率の良い機械学習を行える可能性があり、さらに広く見ると、例えば、ロボット工学、材料、スマートセンサー向けの自動設計された物理的機能を物理系にもたらすことができる。

目次へ戻る

プライバシーマーク制度