Feature

AIのハルシネーションをどう抑えるか

大規模言語モデルのハルシネーションを抑制する手法が考案されているが、法廷での宣誓のように「真実を、全ての真実を、そして真実のみを」語らせるのは、依然として非常に困難だ。

Credit: Illustration by Karol Banach

カーネギー・メロン大学（米国ペンシルベニア州ピッツバーグ）で計算機科学を専攻する大学院生でAndy Zouが人工知能（AI）の研究をするとき、研究の背景を知るために読んでおくべき論文や参考文献を提案するようチャットボットにリクエストすることが多い。しかし、これは必ずしもうまくいくとは限らない。「ほとんどの場合、提案すべき著者とは異なる人物の論文を挙げてきます。時には、存在していない論文を挙げてくることさえあります」と彼は言う。

全文を読むには購読する必要があります。既に購読されている方は下記よりログインしてください。

パスワードを忘れた...

翻訳：三枝小夜子

Nature ダイジェスト Vol. 22 No. 4

DOI: 10.1038/ndigest.2025.250427

原文

AI hallucinations can’t be stopped — but these techniques can limit their damage
  • Nature (2025-01-23) | DOI: 10.1038/d41586-025-00068-5
  • Nicola Jones
  • カナダのペンバートン在住のフリーランス記者

参考文献

  1. Chelli, M. et al. J. Med. Internet Res. 26, e53164 (2024).
  2. Hicks, M. T., Humphries, J. & Slater, J. Ethics Inf. Technol. 26, 38 (2024).

  3. Banerjee, S., Agarwal, A. & Singla, S. Preprint at arXiv https://doi.org/10.48550/arXiv.2409.05746 (2024).

  4. Kalai, A. T. & Vempala, S. S. Preprint at arXiv https://doi.org/10.48550/arXiv.2311.14648 (2023).

  5. Zhou, L. et al. Nature 634, 61–68 (2024).

  6. Suzgun, M. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2410.21195 (2024).

  7. Rawte, V. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2310.04988 (2023).

  8. Hron, J. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2408.07852 (2024).

  9. Magesh, V. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2405.20362 (2024).

  10. Agrawal, A., Suzgun, M., Mackey, L. & Kalai, A. T. Preprint at arXiv https://doi.org/10.48550/arXiv.2305.18248 (2024).

  11. Farquhar, S., Kossen, J., Kuhn, L. & Gal, Y. Nature 630, 625–630 (2024).

  12. Qiu, X. & Miikkulainen, R. Preprint at arXiv https://doi.org/10.48550/arXiv.2405.13845 (2024).

  13. Zou, A. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2310.01405 (2023).

  14. Ji, Z. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2407.03282 (2024).

  15. Wei, J. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2411.04368 (2024).