Perspective
計算機科学：「オープン」なAIシステムが実は閉鎖的であり、これが重要な問題である理由
Nature 635, 8040 doi: 10.1038/s41586-024-08141-1
このPerspectiveでは、「オープン」な人工知能（AI）について検討する。「オープン」なAIに関する主張は正確さに欠けることが多く、大規模なAI開発と展開における産業界の実質的な集中についての綿密な調査がしばしば省かれていて、無料でオープンソースのソフトウエアから持ち込まれた「オープン」という理解をAIシステムに間違って当てはめている場合が多い。現在、有力な関係者たちは、「オープン」なAIが一方では技術革新と民主主義に有益であるか、または他方では安全性に有害であるかのいずれかとする主張を使って、政策を形作ろううと試みている。だが、政策の形成においては定義が重要である。我々はこの議論をより明確にするために、AIにおけるオープン性の主張の根拠を検証し、AIとは何か、AIにおける「オープン性」によって何を提供でき何を提供できないかについて、要素解析、すなわち、モデルやデータ、労働、枠組み、計算能力の検証を行った。我々は、「オープン」なAIの3つの主要なアフォーダンスである、透明性、再利用性、拡張性について明らかにし、最大限に「オープン」なAIが、既存のモデル上で何らかの形の監督と実験を可能にすることを見いだした。一方で、オープン性だけでは、AIにおける権力の集中は揺るがないことが分かった。従来の多くのオープンソースのソフトウエアプロジェクトが、大手テクノロジー企業によってさまざまなやり方で共同して決められたように、「オープン」なAIを取り巻く修辞がいかに、AI分野における権力の集中を低減させるのではなくむしろ悪化させるような形で頻繁に行使されているかを、我々は明らかにする。
