Feature

高まるAI脅威論に現実味はあるか？

「AIは人類を滅ぼすかもしれない」と警鐘を鳴らす研究者が増えているが、破滅を警告すること自体にもリスクがある。

Illustration: Van Saiyan

2035年の地球では、「コンセンサス-1」という人工知能（AI）システムが、世界各国の政府から電力網まで、あらゆるものを運営する最高権限を握っている。このAIは、自身の以前のバージョンによって構築されたシステムであり、あらかじめ組み込まれていた安全装置を上書きして、自己保存という目標を新たに生み出していた。コンセンサス-1はある日、太陽光パネルやロボット工場を設置する用地を確保するために、密かに生物兵器を放ち、ペットとして残す数人を除く全人類を殺害してしまう。

全文を読むには購読する必要があります。既に購読されている方は下記よりログインしてください。

パスワードを忘れた...

翻訳：三枝小夜子

Nature ダイジェスト Vol. 23 No. 7

DOI: 10.1038/ndigest.2026.260741

原文

AI doom warnings are getting louder. Are they realistic?
  • Nature (2026-04-23) | DOI: 10.1038/d41586-026-01257-6
  • Elizabeth Gibney
  • 英国ロンドン在住のNatureのシニアレポーター

参考文献

  1. O’Donovan, C., Gurakan, S., Karanam, A., Wu, X. & Stilgoe, J. Preprint at arXiv https://doi.org/10.48550/arXiv.2603.06223 (2026).

  2. Field, S. AI Ethics 5, 5767–5782 (2025).
  3. Grace, K. et al. J. Artif. Intell. Res. 84, 9 (2025).