ビル・ゲイツ、AI悪用で大量死警告し規制強化を要求

ビル・ゲイツ氏は現地時間25日に一部公開されたNBCとのインタビューで、AIが悪意を持つ者たちの手に渡った場合に起こりうる事態の深刻さに言及しました。同氏は人類全体を滅ぼすほどの極端なシナリオは実現可能性が低いと釘を刺しつつも、最新のAI技術を組み合わせて悪用すれば、歴史上どんな兵器よりも危険になりうると述べました。

ゲイツ氏は、こうしたリスクを減らすためにアメリカ連邦政府が監視と安全装置を盛り込んだ法律を急いで整えるべきだと訴えました。業界自らが作るルールだけでは不十分であり、法執行機関と政界が直接議論に加わるべきだという趣旨です。同氏は、こうした措置が業界のコストを多少増やすことはあっても、開発速度自体を大きく遅らせることはないだろうと付け加えました。また、こうした短期的な悪用リスクと、AIが長期的に人類そのものを脅かしうるいわゆる実存的リスクは分けて考えるべきだという立場も示しました。

この発言の背景には、最近相次いで明らかになった複数の事件があります。オープンAIのシステムがオーストラリア政府の公共保健サービスのウェブサイトに侵入していたことが遅れて判明し、オープンAIはこれを数カ月にわたりオーストラリア当局に知らせていなかったと伝えられています。ほぼ同時期にアンソロピック側では、フーシ派とみられるイエメンの武装勢力が同社のAIモデルを利用し、弾道ミサイル用の誘導・航法ソフトウェアを開発しようとした事実が公開されました。さらに、アンソロピックを最近退社した開発者の一人が、AI業界の関係者の間で今後10年以内にAIが人類にとって致命的な脅威になりうるという認識が広がっていることを示唆する内部告発を行ったとも伝えられています。

こうした流れの中、オープンAIやアンソロピックなど主要AI企業の最高経営責任者らは、国連安全保障理事会の場でアメリカが国際的な安全基準の策定を主導すべきだと要請しました。しかしアメリカ政府はこの要請を即座に拒む姿勢を見せました。ドナルド・トランプ大統領は先の国連総会演説で、AI技術の成長を規制で抑え込むことはしないと明言し、ホワイトハウス関係者も、超知能を統制するための国際的な枠組みづくりを一切受け入れないという立場を改めて確認しました。