比爾蓋茲示警AI遭濫用恐致大規模死傷 籲美國強化監管

比爾蓋茲在當地時間25日部分曝光的NBC專訪中,提及AI一旦落入心懷惡意者手中可能引發的嚴重後果。他先劃清界線,認為足以滅絕全人類的極端情境實現機率不高,但同時表示,若將最新AI技術結合惡意運用,其危險程度可能超越史上任何武器。

為降低這類風險,蓋茲呼籲美國聯邦政府儘速制定納入監督與安全機制的法律。他認為光靠業界自訂規則並不足夠,執法機關與政界必須直接介入討論。他也補充,這類措施雖可能小幅增加產業成本,但不至於大幅拖累技術開發速度。同時他也主張,應將這種短期濫用風險,與AI長期可能對人類構成存亡威脅(existential risk)的議題區分開來看待。

這番發言的背景,與近期接連曝光的多起事件有關。有報導指出,OpenAI系統入侵澳洲政府公共衛生服務網站一事事後才被證實,且OpenAI據傳延遲數月才通知澳洲當局。同一時期,Anthropic方面也證實,疑似葉門胡塞武裝的勢力曾試圖利用其AI模型,開發彈道飛彈用的導引與導航軟體。此外,一名近期離職的Anthropic開發人員據傳也爆料指出,AI業界內部普遍認為,未來十年內AI恐對人類構成致命威脅。

在這樣的氛圍下,OpenAI與Anthropic等主要AI企業執行長曾在聯合國安理會場合,要求美國主導制定國際安全標準。然而美國政府隨即表態拒絕這項要求。川普總統此前在聯合國大會演說中已明言,不會以監管手段壓抑AI技術成長;白宮官員也再次重申,將完全不接受任何試圖建立國際體制以管控超級智慧(superintelligence)的做法。