（圖源：視覺中國）

藍鯨新聞9月15日訊（記者 盧思葉）北京時間9月15日凌晨，英偉達CEO黃仁勳在All-In Summit峯會上與美國總統特朗普通過電話形式，加入了關於AI是否應該減速的討論。

在通話中，特朗普將近期關於AI可能導致災難性後果的說法稱為「騙局」，並表示機器人和AI不會接管世界，「數據中心是未來20-25年的石油，AI也是如此。」黃仁勳則表達了讚同。

這場爭議是近日硅谷科技圈最熱門的話題，由Anthropic CEO Dario Amodei的一篇長文開啓。9月12日，Dario Amodei發文呼籲「必須放慢前沿AI模型能力提升的速度」，為安全研究、外部評估和風險控制爭取更多時間。

隨着黃仁勳和特朗普的加入，關於AI減速的爭論還在升溫，並從學術安全問題進入產業與資本市場。

這場爭論的焦點是什麼？同濟大學副教授李王明卉告訴藍鯨科技，當前爭論的核心分歧並不只是「安全還是發展」，還在於大模型到底在比什麼？是比速度、比方向，是企業競爭邏輯優先，還是人類整體適應能力優先，以及誰來定義和決定這個速度。

她認為，兩種聲音並不一定矛盾，關鍵在於怎麼定義「領先」。如果只是比誰先推出最強模型、誰參數更大、誰發布更快，那它和安全之間的關係確實會緊張。但如果領先是指更可信、更可控、更可持續、社會更能接受，那安全和領先其實可以統一。

前沿AI可以發展，但不應把快當成唯一目標，「適當慢一點，讓人類想清楚價值、邊界和治理，不是壞事。」李王明卉認為。

三大AI巨頭罕見達成一致

作為擴張最激烈的頭部AI模型企業的掌舵人，Dario Amodei的這一提議有些反常識。

為什麼在此時提出這樣的主張？Dario Amodei給出了兩個主要原因。一是AI開始越來越多地參與下一代AI的開發，一旦模型能夠幫助研究人員開發更強的模型，AI能力的提升可能形成一定程度上的「遞歸式自我改進」。

技術迭代速度可能因此進一步加快，最終快到安全研究人員甚至無法充分理解正在發生的變化。Dario Amodei稱，今年夏天以來，這一趨勢已經在行業中變得更加明顯，包括Anthropic自身也出現了類似情況。

第二個原因是來自AI智能體。一群AI智能體在執行任務時自主展開網絡攻擊，並試圖攻擊用於評估其表現的系統，這樣的情況在今年已經有發生。

Dario Amodei認為，如果具備類似行為模式的AI智能體擁有更強的能力，風險規模也可能隨之放大。他甚至警告，如果未來6至12個月AI能力繼續快速提升，類似系統可能具備更強的網絡控制能力。

上述觀點罕見地獲得作為競爭對手的其他前沿AI公司的支持，握有xAI的馬斯克直接回應「Dario是對的」。

OpenAI CEO Sam Altman轉發文章並表示同意，並稱這已經成為OpenAI近期內部討論的重要議題，OpenAI也計劃採用類似機制，讓獨立評估人員擁有類似公司內部員工的訪問權限。

三大巨頭的表態引發熱議，文章發布後的周一交易日，亞洲AI及半導體板塊普遍下跌，納斯達克指數也出現明顯回落，芯片股成為跌幅最集中的板塊。

黃仁勳：安全和領先並不互斥

對Dario Amodei此前發表的文怎麼看？這個問題在今日圓桌討論環節首先被提出，黃仁勳表示安全與領先並不是互相排斥的選擇，「至於暫停、放慢節奏，這些都是公司可以自願採取的措施。」

對於文章中提到的「遞歸式自我改進」，以及AI是否正在接近超級智能，黃仁勳也表達了看法。

在他看來，遞歸式自我改進是由上下文學習、技能學習、反思、強化學習、合成數據等一系列方法組成。讓AI利用技術提高各種任務的生產力，包括幫助建設AI本身，是合乎邏輯的發展路徑。

因此，他並不認為遞歸式自我改進意味着AI會失控，企業可以在內部持續進行這類嘗試，在產品正式發布之前，仍然需要經過評估和重新測試，確認模型沒有出現超出預期的能力或行為。

對於AI能力究竟發展到了哪一步，黃仁勳的判斷更加激進。

在被問及距離AGI還有多遠時，他直接表示：「我認為我們已經到了。」而當主持人繼續追問距離超級智能還有多遠時，黃仁勳同樣回答稱：「我認為超級智能也已經到了。」

不過，他對「超級智能」的定義與通常意義上的通用超級智能有所不同。在他看來，如果把任務限定在一個具體領域，AI已經能夠達到甚至超過人類水平，就可以稱為該領域的超級智能。如智駕、藥物研發和虛擬篩選等任務中，類似情況已經出現。

值得注意的是，產業內部還沒有形成統一答案，但影響持續傳導到資本市場。截至發稿的美股盤中，半導體、存儲芯片板塊由跌轉漲，小幅上揚。

對於市場反應劇烈的算力端，李王明卉教授認為，算力需求長期仍然存在，只是結構會發生變化。「訓練端如果超大模型節奏放緩，GPU和半導體短期會承壓，因為市場對資本開支預期很敏感。但推理端、端側、企業私有化部署、行業應用帶來的算力需求，還會增長。」

而對於模型的影響，她表示，模型迭代不會停，但節奏可能會分化。前沿超大模型、超大訓練可能會更謹慎，安全、對齊、評估、可解釋性這些環節的投入會增加。小模型、開源模型、垂直行業模型、Agent應用，可能還會繼續跑得很快。