コンピューターはミスを犯す―それを前提とした法改正が必要だ
パーソナルコンピューティングの黎明期には、法律はコンピューターが正常に作動することを前提としていなかった。 Credit: ZUMA Press, Inc./Alamy
今から20年以上前、日本の技術系コングロマリットである「富士通」が、英国郵政公社向けに会計ソフトシステム「ホライゾン」を開発した。ホライゾンは郵政公社の国内各支店に導入され、その多くが、数万人の利用者の手紙や小包を集配する、小規模な独立採算制の支店だった。これは、当時のヨーロッパで最大の民間ITプロジェクトだった。ところが導入後、ホライゾンに数々のエラーがつきまとった。導入したてのITシステムのユーザーなら誰もが経験する局面だったのだが、イライラさせられる小さなバグではなかった。ホライゾンは、1日の取引終了時に十分な額の入金がないと表示し、毎晩数千ポンドの「損失」が生じる事例も少なからず起こっていた。
全文を読むには購読する必要があります。既に購読されている方は下記よりログインしてください。
翻訳：菊川要
原文
Computers make mistakes and AI will make things worse — the law must recognize that- Nature (2024-01-23) | DOI: 10.1038/d41586-024-00168-8