人工知能：大規模言語モデル出力を識別するスケーラブルな電子透かし
Nature 634, 8035 doi: 10.1038/s41586-024-08025-4
大規模言語モデル（LLM）によって、人間が書いたコンテンツと見分けがつかないことも多い高品質の合成テキストを、情報エコシステムの性質に著しい影響を与え得る規模で生成することが可能になった。電子透かしは、合成テキストを識別して偶発的または意図的な悪用を制限するのに役立つが、要求される品質、検出可能性、計算効率が厳しいために、プロダクションシステムではまだ採用されていない。今回我々は、テキスト品質を保持し、最小限のレイテンシーオーバーヘッドで高い検出精度を可能にする、実装可能なテキスト電子透かしスキーム「SynthID-Text」について報告する。SynthID-TextはLLMの訓練に影響を与えず、サンプリング手順のみを修正する。電子透かしの検出は計算効率的で、基礎となるLLMは使用しない。我々は大規模な電子透かしを可能にするために、電子透かしと、プロダクションシステムにおいて頻繁に使用される効率的な手法である投機的サンプリングを統合したアルゴリズムを開発した。複数のLLMにまたがる評価により、SynthID-Textは同等の方法よりも検出性が向上していることが経験的に示され、標準的なベンチマークとこれに並行してなされた人間による評価では、LLMの能力に変化はないことが示された。我々は、大規模なプロダクションシステムにおける電子透かしの実現可能性を実証するために、2000万件近いGeminiの応答からのフィードバックを評価した実演実験を実行し、テキストの品質が保たれていることを再度確認した。SynthID-Textが利用可能になることで、電子透かしのさらなる開発とLLMシステムの責任ある使用が促進されると期待される。
