曾長期被視為人工智能堅定樂觀派的微軟聯合創始人比爾·蓋茨（Bill Gates），正在明顯強化對AI安全風險的警告。他最新表示，人工智能已經「強大到足以推動可能導致10億人死亡的事件」，並呼籲政府、執法機構和科技行業儘快建立更嚴格的安全保障與監測機制。#AI熱潮：從芯片到資本的競賽#

蓋茨的重點並不是預測AI一定會造成如此嚴重的後果，而是擔心先進AI工具落入惡意行為者手中後，可能被用於放大生物安全、軍事攻擊和其他高破壞性風險。他認為，僅靠科技企業自我約束已經不足以應對這一問題，政府必須更直接參與。

蓋茨：不能只靠科技公司自己管自己

蓋茨在接受NBC《會見新聞界》（Meet the Press）採訪時表示，圍繞AI安全，執法部門和政治決策者都需要參與討論，明確未來的保障措施和監測機制。

他的擔憂與當前硅谷越來越激烈的AI安全爭論相呼應。Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）近期也主張放慢最前沿AI系統的發展速度，並推動更嚴格的外部監督。Anthropic目前公開提出了一套隨着模型風險提高而逐步加強監管的框架，包括第三方安全評估、事故報告以及在極高風險情況下賦予政府阻止危險部署的權限。

Anthropic近期的研究也顯示，最先進AI模型在部分軍事和情報任務中的能力已經明顯提高，包括目標識別、無人機相關工程以及其他過去通常需要專業人員完成的任務。該公司認為，這類能力提升進一步說明先進模型需要更嚴格的安全防護。

AI巨頭開始討論「踩剎車」

阿莫代伊並不是唯一要求提高警惕的科技行業領袖。圍繞是否應放慢AI開發速度，薩姆·奧爾特曼（Sam Altman）、埃隆·馬斯克（Elon Musk）等科技界人士也曾表達對加強安全機制和監管的支持。

Anthropic甚至提出，全球如果能夠建立可信、可驗證的協調機制，那麼暫時放慢甚至暫停最前沿AI開發，可能為安全研究和社會治理爭取更多時間。不過，該公司同時警告，如果只有部分企業或國家減速，而其他參與者繼續推進，反而可能帶來新的安全風險。

這種爭論的核心已經逐漸從「AI是否有風險」，轉向「誰應該決定什麼時候減速，以及如何確保所有參與者都遵守規則」。

華盛頓仍傾向謹慎監管

美國政府目前對進一步擴大AI監管仍較為謹慎。特朗普政府總體上傾向於對AI採取相對寬鬆的監管方式，並強調美國在全球AI競爭中的領先地位。不過，特朗普近期也表示，如果確有必要，司法部和其他執法機構可以介入限制AI風險，同時仍主張保持較輕的監管力度。

這意味着，美國政策層面正在形成一種複雜平衡：一方面希望AI企業繼續高速創新，避免在全球技術競爭中失去優勢；另一方面，模型能力快速提升帶來的國家安全、網絡攻擊和生物風險，又迫使政府開始考慮更強的監督機制。

微軟內部態度也出現微妙變化

微軟首席執行官薩提亞·納德拉（Satya Nadella）此前更強調企業自身承擔安全責任。他認為，如果開發過程中發現可能導致失控AI代理等嚴重問題，就應該立即停止相關開發或部署。

但即使在微軟內部，對AI安全的重視程度也在明顯提高。納德拉近期向員工強調，企業必須為確保技術安全留出足夠時間。

蓋茨目前仍擔任微軟技術顧問，他本人的態度變化尤其值得關注。過去幾年，他一直強調人工智能在醫療、教育、生產力和科研領域的巨大潛力，但今年夏季以來，他開始更加頻繁地討論AI可能造成的社會、政治和經濟衝擊。

從樂觀到警告，蓋茨態度正在變化

蓋茨此前曾表示，世界目前缺乏一套可信的AI安全部署方案，需要為即將到來的社會、政治和經濟鉅變提前做準備。

他甚至表示，如果存在一套真正可信、能夠在全球範圍內減緩AI技術進步的方案，他可能會支持。

這並不意味着蓋茨已經轉向反對人工智能。他仍然認為AI擁有巨大的經濟和社會價值，但他的關注重點已經明顯發生變化：過去更多討論AI「能夠做什麼」，現在則越來越關注一個更迫切的問題——在人類真正學會控制這項技術之前，它會不會發展得太快？

目前，硅谷在這一問題上仍遠未形成統一答案。一部分企業認為政府應該儘快建立監管框架，另一部分科技領袖則擔心過早監管會限制創新，並削弱美國在全球AI競爭中的優勢。

但隨着AI代理、網絡攻擊、生物研究和軍事應用能力不斷提高，圍繞AI安全的爭論正在從一種長期假設，迅速變成科技行業和政府必須面對的現實政策問題。