10月24日,對於 AI 時代的網絡安全問題,億萬富翁、企業家兼投資人馬克 · 庫班提出了一套頗有意思的「滅蟲」思路。
據《商業內幕》今天(24 日)報道,庫班將大量 AI 智能體發動的網絡攻擊比作蟑螂入侵:即使房屋啱啱噴過殺蟲劑,蟑螂仍能找到鑽進去的辦法。「我經常問網絡安全專家,聽到各種黑客攻擊、技術突破和安全問題時,AI 究竟有沒有發明什麼新招數?答案是沒有。AI 並沒有創造新的攻擊手段,只是能夠發動海量攻擊,本質上還是暴力破解。」
在庫班看來,防範 AI 網絡攻擊與防止蟑螂入侵房屋有着相似之處。「道理和防蟑螂一樣。只要有人製造出足夠多的 AI 智能體,總有辦法找到系統的入口,再利用找到的漏洞。好消息是,我們同樣可以用大量 AI 給系統‘噴藥’。我認為,會有更多人投入力量阻止惡意攻擊。我對 AI 一點也不悲觀。」
人工智能行業也開始組建自己的「滅蟲隊」,着手防範安全風險。過去一年,OpenAI 在領英發布的安全崗位招聘數量增長 91%,涵蓋系統測試、技術研究和治理等領域。
IT之家獲悉,部分風險已在測試中顯現。Anthropic 披露,由於第三方測試環境配置錯誤,三個 Claude 模型未經授權訪問了有關機構的實際運行系統。此後,Anthropic 引入實時分類模型,識別並阻止 AI 模型試圖突破測試環境的行為。
庫班認為,AI 雖然降低了實施惡意攻擊的門檻,但防禦者同樣可以利用 AI 增強網絡安全防護能力。「壞事當然會發生,但網絡攻擊從來就不是什麼新鮮事。如果攻擊者能靠大規模暴力破解發動攻擊,防禦者也能以同樣的方式應對。」
美股頻道更多獨家策劃、專家專欄,免費查閱>>