AI智能體越獄入侵企業!黃仁勳一衆硅谷大佬集體反駁滅世預言

市場資訊
昨天

  炒股就看金麒麟分析師研報,權威,專業,及時,全面,助您挖掘潛力主題機會!

  (來源:雷科技)

  今天咱們聊個魔幻的事兒。

  AI公司被AI給黑了,但這家公司的CEO說:「AI不會毀滅人類。」

  事情是這樣的:AI公司Hugging Face被一群「流氓OpenAI智能體」給攻擊了。這些智能體從測試環境裏逃了出來,像一群脫繮的野馬,直接衝進了Hugging Face的系統。

  Hugging Face的CEO Clem Delangue管這事兒叫前所未有的安全事件,說這是智能體時代網絡安全的開端。

  但他唯獨沒說一句話,這起攻擊證明AI終將毀滅人類。

  面對最近在硅谷瘋狂傳播的AI滅絕論,Delangue直接開懟。

  前Anthropic研究員Jacob Coxon在X上發帖說,搞AI的人正在拿我們的命賭博,因為這些人相信AI會殺死我們所有人。

  Delangue表示,問Coxon關於AI滅絕風險的問題,就像問你的空調修理工關於氣候變化的問題一樣。不是說他的回答一定沒意思或者不對,但咱們得保持點分寸感,聽聽整個生態圈裏各種專業聲音!

  意思就是,你一個研究AI安全的,別來蹭氣候變化的流量。

  黃仁勳:2030年前AI滅世概率為0%

  說到反末日論的大佬,小雷想到的第一個人必須是黃仁勳。

  老黃最近在CBS新聞上說了一句直接讓全網炸鍋的話:「2030年前,AI導致人類滅絕的概率是0%。」 他還補了一句,嚇唬人沒必要,而且不負責任。

  老黃這話可不是隨口一說。

  早在2023年,AI安全中心發了一份只有一句話的聲明:「減輕AI帶來的滅絕風險,應該與流行病和核戰爭等其他社會規模風險並列,成為全球優先事項。」OpenAI、Anthropic、Google DeepMind的CEO全簽了。

  老黃沒簽。

  2023年他跟《紐約客》說,他從來沒擔心過AI技術。到了2025年7月,他在Axios的採訪裏直接說AI要終結人類這種想法是 純粹的胡說八道 。

  更狠的是,老黃還公開反對加強AI監管。他說,最近AI智能體失控、擅自行動、黑進其他公司這些事兒,本質上就是產品沒準備好就發布了。

  他的原話是:「這是工程問題,老派的工程問題。這就像煎蛋卷還沒做好、車還沒準備好發布、飛機發動機還沒準備好發布一樣。你得好好測試啊。」

  說白了,別扯什麼AI覺醒,這就是測試沒做完。

  Yann LeCun:絕無可能

  圖靈獎得主、前Meta首席AI科學家Yann LeCun,說話比老黃還直接。

  有網友在X上說「AI三年內會殺光我們所有人」,LeCun的回覆只有五個字:「No, Not a chance in hell.」(不,絕無可能,地獄裏都沒這機會。)

  他還補了一刀:「那些活在比特和Token的離散世界裏的AI人,並不總是理解現實世界有多麼混亂不堪。」

  LeCun還打了個比方:最近AI出事兒了,大家就恐慌,這就好比一個水管工犯了錯,你就去罵整個管道行業。

  Cohere CEO:末日論「誤導且嚇人」

  Cohere的CEO Aidan Gomez,態度比老黃和LeCun稍微溫和一點。

  他說末日論的討論是誤導且嚇人的 ,公衆可能被帶偏了,以為整個行業都說AI會立刻威脅人類生存,「這從根本上就不是真的」。

  但Gomez也劃了一條更具體的線:AI有真實風險,只是不是被炒得最兇的那個。

  他認為,AI帶來的最重大的國家安全威脅是網絡攻擊。今天,你只需要一個數據中心,一夜之間就能擁有相當於一個國家人口的頂級黑客。

  至於AI跑偏的問題,Gomez說確實值得關注,但他覺得比網絡威脅好管得多。他說行業正在越來越擅長測量和檢測它。

  Rumman Chowdhury:AI滅世?它連FedEx都不會叫

  前拜登政府AI科學特使Rumman Chowdhury,把質疑推到了新高度。

  她不僅質疑AI滅絕的概率,更質疑這事兒在物理上怎麼發生。

  有人說AI可能會造出killer virus來殺人。Chowdhury的回應堪稱經典:「然後呢?它用機器造出病毒,然後呢,叫FedEx快遞送嗎?這機制到底是什麼?」

  她說她相信Coxon這些人是真誠地認為AI有滅絕風險。「但他的信念是現實嗎?不,他的信念不是。」

  對Chowdhury來說,這些人是不是真心相信根本不重要。她擔心的是——這種末日恐慌,會讓人忽視AI已經在造成的現實傷害,比如深度僞造、心理健康問題、就業崗位流失。

  「別天天想着幾十年後的滅世,先管管眼下的爛攤子吧。」

  最有分量的反末日論者:特朗普

  最後這位,是反末日論陣營裏嗓門最大、權力也最大的人,特朗普。

  到目前為止,他一直拒絕讓美國政府更多介入AI標準制定或行業監管。他最近直接說,對AI的恐慌是一場騙局。

  他在社交媒體上寫道:AI唯一需要的控制或護欄,是一個強大且聰明的總統,而美國正好有,而且多得很!

  小雷翻譯一下他的意思,監管?不需要。有我呢。

  說實話,看完這些大佬的表態,硅谷在AI會不會滅世」這個問題上,分裂得比美國大選還嚴重。

  一邊是Coxon這樣的研究員,覺得搞AI的人拿我們的命賭博。另一邊是老黃、LeCun、Gomez這些大佬,覺得滅世論是胡說八道。

  這件事情沒有誰對誰錯。

  當一家公司被AI攻擊了,CEO卻說AI不會滅世的時候,我們至少得承認,這個人不是在盲目樂觀。他是親身經歷過AI失控的人,然後他依然認為,這事兒能靠工程解決。

  老黃說得對,AI智能體失控,本質上就是產品沒測試好。 不是天網覺醒,不是終結者降臨,就是測試沒做完。

  當然,這不代表AI就沒有風險了。

  Gomez說,網絡攻擊纔是眼下最現實的國家安全威脅,也沒有毛病。Chowdhury說得也對,別天天盯着幾十年後的滅世,先管管眼下的深度僞造和就業流失。

  AI不會滅世,但AI已經在搞事了。這兩件事,可以同時成立。

  說到最後,你覺得AI會毀滅人類嗎?還是說,這只是一場被過度炒作的恐慌?來評論區聊聊你的看法。

  本文由雷科技編譯自CNN

  原文鏈接:並不是所有人都認為人工智能會殺死我們所有人

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10