人工知能：深層継続学習における可塑性の喪失

人工ニューラルネットワーク、深層学習法、そして逆伝播アルゴリズムは、現代の機械学習と人工知能の基礎をなしている。これらの手法はほとんど常に2段階で使用されており、一方の段階ではネットワークの重みが更新され、もう一方の段階ではネットワークが使用または評価される間、重みは一定に維持される。これは、継続学習を必要とする自然学習や多くの応用とは対照的である。深層学習法が継続学習設定においてうまく働くかどうかは、これまで明らかでなかった。今回我々は、実際にはこれがうまく働かないこと、すなわち、標準的な深層学習法が、継続学習設定では浅いネットワーク以下の学習能力になるまで徐々に可塑性を喪失することを示す。我々は、古典的なImageNetデータセットと、多様なネットワークと学習アルゴリズムにまたがる強化学習問題を用いて、そうした可塑性の喪失を明らかにする。可塑性は、ネットワークに継続的に多様性を注入するアルゴリズム、例えば、使用頻度の低いユニットのごく一部を継続的にランダムに再初期化する継続的逆伝播アルゴリズムの変形例である、今回の継続的逆伝播アルゴリズムによってのみ、無限に維持された。今回の結果は、勾配降下に基づく手法が十分ではないこと、つまり持続的な深層学習には、可変性と可塑性を維持するランダムな非勾配成分が必要であることを示している。

目次へ戻る