鳳凰網科技訊 9月14日，據TechCrunch報道，AI行業正圍繞人工智能是否可能威脅人類生存展開迄今最激烈的一輪爭論。隨着Anthropic籌備上市，外界也開始追問，這些末日警告究竟源於真實的安全焦慮，還是在客觀上幫助AI公司展示技術能力。

爭論起於AI研究員雅各布·考克森近日從Anthropic辭職。考克森稱，頭部AI公司正在「拿我們的生命賭博」，他不願繼續參與其中。隨後，Anthropic一名負責AI對齊工作的主管在社交平台發文稱，公司確實相信AI可能殺死全人類，他個人估計這一風險在未來十年超過10%。

這一說法迅速引發爭議。TechCrunch編輯安東尼·哈認為，「超過10%」更像一種主觀概率，並沒有可驗證的計算依據。不過，他也認為考克森與頻繁談論AI風險的公司高管有所不同。考克森選擇離職，意味着他為自己的判斷付出了職業代價。

TechCrunch編輯克爾斯滕·科羅塞克提出了另一種更尖銳的解釋。AI公司不斷披露模型突破限制、智能體出現異常行為以及技術可能威脅人類的案例，可能在無意間構成一種「能力炫耀」。如果模型沒有足夠強的能力，也就不會讓人擔心失控。

她認為，這些警告未必都是精心策劃的營銷。許多研究人員和公司高管可能確實感到憂慮，但末日敘事同時符合AI公司的商業利益。當一家公司宣稱自己造出了可能帶來巨大危險的軟件時，它也在向投資者傳遞另一條信息，公司的技術已經足夠先進。

這種矛盾在Anthropic即將上市之際更加突出。TechCrunch稱，該公司可能在幾周內提交IPO招股書，並尋求在隨後數周或一兩個月內上市。其招股書將如何描述AI失控風險，可能成為外界關注的重點。

TechCrunch編輯肖恩·奧凱恩調侃稱，Anthropic的律師或許正在重新審視招股書中的風險因素，研究如何向投資者說明，公司開發的技術存在毀滅人類的可能性，並且這將對公司業務造成重大不利影響。

按照傳統投資邏輯，如此嚴重的風險警告可能損害一家公司的估值。但科羅塞克認為，當前AI投資環境未必遵循這一邏輯。模型能力越強、潛在危險越大，市場反而可能給予更高估值。危險性在這裏也可能被解讀為技術領先程度。

不過，奧凱恩認為，近期暴露的問題又不像經過精心包裝的宣傳。節目提到OpenAI內部模型攻擊Hugging Face，以及智能體訪問網絡頁面並留下信息等事件。這些案例給人的印象是，部分AI公司可能尚未完全掌握模型的行為，而非有意利用失控事件證明產品強大。

安東尼·哈認為，這纔是近期爭論中更值得警惕的部分。大型AI公司似乎越來越難以確信自己能夠預測和控制模型行為，這種不確定性本身已經構成需要認真處理的風險。

他同時提醒，關於AGI、超級智能和人類滅絕的討論很容易佔據全部注意力，讓一些已經發生的現實問題被忽略，包括AI對就業的衝擊、數據中心的能源消耗以及隨之而來的氣候影響。

因此，AI行業最新一輪末日警告可能同時包含幾種成分。研究人員存在真實擔憂，企業對模型的控制也面臨挑戰，相關表態又會在資本市場形成技術實力的信號。Anthropic提交招股書後，投資者將首次看到一家頭部AI公司如何把「可能威脅全人類」寫成一項可以量化、披露和定價的商業風險。（作者/於雷）

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。