Letter 知能：学習理論における予測性の一般条件 2004年3月25日 Nature 428, 6981 doi: 10.1038/nature02341 学習の理論的基礎を構築することは知能を理解する上で大事な一歩である。学習理論には、「例から学ぶ」という、（自然もしくは人工の）システムが実例を用いた訓練をすることで、そこにある関数関係を学び取るというパラダイムがある。このパラダイムにおいて学習アルゴリズムとは、訓練に用いる実例の空間から、起こりうる関数関係全体から成る仮説空間への写像であると考えられる。この理論における中心的な問題は、有限個の実例による訓練から決定された学習アルゴリズムを、どのような場合にその有限個以外の新奇な事例に対しても適用し汎化できるか、という条件を求めることである。学習理論におけるこれまでの画期的な仕事のひとつは、訓練に用いる実例に対するエラーの最小化に基づく方法である経験リスク最小化（ERM）学習アルゴリズムの自然なクラスのものに関して、汎化を保証する仮説空間についての条件を求めたものである。本論文で我々は汎化の条件を、学習過程の詳細な安定性についての条件、すなわち訓練に用いる実例の内の一つを削除したとしてもなお学習された仮説が大きくは変わらないこと、というように定式化した。このような安定性は仮説空間ではなく学習アルゴリズムの方に条件を課すもので、ERMアルゴリズムの古典的な理論を包含するものであり、さらにより一般的なアルゴリズムにも適用できるものである。今回得られた安定性と予測可能性との間の意外な関係は、学習理論の基礎や新奇なアルゴリズムの設計に影響を与え、言語の学習あるいは物理や工学における逆問題など多様な問題に対して示唆をもたらすものである。 Full Text PDF 目次へ戻る
