計算機科学：言語モデルフィードバックの誤差逆伝播による生成AIの最適化

人工知能（AI）における最近の飛躍的な進歩は、大規模言語モデル（LLM）と他の専門ツール（検索エンジンやシミュレーターなど）を協調させるシステムによってますます推進されている。現状では、こうしたシステムは主に、自動的に最適化されるのではなく、分野の専門家により手作業で構築され、発見法的に調整されており、これが発展の加速において大きな難題となっている。人工ニューラルネットワークの開発もまた、逆誤差伝播と自動微分が最適化をターンキー化することでこの分野を様変わりさせるまで、類似の難題に直面していた。今回我々は、これと同様に、LLMにより生成されたフィードバックの逆誤差伝播によって最適化を実行しAIシステムを改善させる汎用フレームワーク、TextGradを提示する。TextGradは、プロンプトから分子や治療計画のような出力まで、自然言語フィードバックを活用してシステムのあらゆる部分を批判し、改善を提案することで、多様なタスクにわたり生成AIシステムの自動最適化を可能にする。我々は、TextGradの汎用性と有効性を、博士論文レベルの科学問題の解決、放射線治療計画の最適化、特定の性質を持つ分子の設計、コーディング、エージェントシステムの最適化における研究を通して実証した。TextGradは、影響力のある生成AIシステムを容易に開発できる力を科学者や技術者にもたらす。

目次へ戻る