Feature

ChatGPTの「思考過程」を探る

研究者たちは人工知能をリバースエンジニアリングし、大規模言語モデルの「脳」をスキャンして、これらが何を、なぜ、どのようにして行っているかを解き明かそうとしている。

ChatGPTは、どうやって考えているのだろうか？ Credit: miakievy/DigitalVision Vectors/Getty

ノースイースタン大学（米国マサチューセッツ州ボストン）の計算機科学者であるDavid Bauにとって、コンピューターシステムが複雑化し過ぎて動作原理の把握が困難になっているという状況は特段新しいものではない。「私は、研究者に転身する前はソフトウエア技術者として非常に複雑なシステムに20年携わってきましたが、この問題は常にありました」と言う。

全文を読むには購読する必要があります。既に購読されている方は下記よりログインしてください。

パスワードを忘れた...

翻訳：三枝小夜子

Nature ダイジェスト Vol. 21 No. 8

DOI: 10.1038/ndigest.2024.240819

原文

How does ChatGPT ‘think’? Psychology and neuroscience crack open AI large language models
  • Nature (2024-05-30) | DOI: 10.1038/d41586-024-01314-y
  • Matthew Hutson
  • 米国ニューヨーク市在住のサイエンスライター

参考文献

  1. Grosse, R. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2308.03296 (2023).

  2. Li, K. et al. in Proc. Int. Conf. Learn. Represent. 2023 (ICLR, 2023); available at https://openreview.net/forum?id=DeG07_TcZvT

  3. Hagendorff, T. Preprint at arXiv https://doi.org/10.48550/arXiv.2303.13988 (2023).

  4. Wei, J. et al. in Adv. Neural Inf. Process. Syst. 35 (eds Koyejo, S. et al.) 24824–24837 (Curran Associates, 2022); available at https://go.nature.com/3us888x

  5. Turpin, M., Michael, J., Perez, E. & Bowman, S. R. Preprint at arXiv https://doi.org/10.48550/arXiv.2305.04388 (2023).

  6. Zou, A. et al. Preprint at arXiv https://doi.org/10.48550/arXiv.2310.01405 (2023).

  7. Meng, K., Sharma, A. S., Andonian, A. J., Belinkov, Y. & Bau, D. in Proc. Int. Conf. Learn. Represent. 2023 (ICLR, 2023); available at https://openreview.net/forum?id=MkbcAHIYgyS

  8. Hase, P., Bansal, M., Kim, B. & Ghandeharioun, A. Preprint at arXiv https://doi.org/10.48550/arXiv.2301.04213 (2023).