路透4月20日 - Anthropic 本月早些時候首次發布了 Mythos (link),這是其迄今為止最先進的人工智能模型,配備了複雜的功能,專為防禦性網絡安全任務而設計。
Mythos 的強大功能引發了人們對傳統軟件安全威脅的擔憂,因為這家人工智能初創公司稱,預覽版發現了 "所有主要操作系統和網絡瀏覽器 "中的 "數千個 "重大漏洞。
該模型是如何推出的,誰有權訪問?
Anthropic通過一項名為 "Project Glasswing "的受控計劃推出了Claude Mythos預覽版,允許亞馬遜AMZN.O、微軟MSFT.O、英偉達NVDA.O和蘋果AAPL.O等科技巨頭訪問。
該公司還將訪問權限擴展到另外 40 多個構建或維護關鍵軟件基礎設施的組織。
神話系統有哪些隱憂?
專家警告說 (link),該模型可以比公司修復漏洞的速度更快地識別和利用以前未知的漏洞。
他們說,該模型的高級編碼和自主能力可能會大大加速複雜的網絡攻擊,尤其是在銀行等依賴於複雜、相互關聯且通常有幾十年歷史的技術系統的行業。
Anthropic公司在首次推出 "神話"(Mythos)時表示,該模型大規模查找軟件缺陷的能力一旦被濫用,可能會給經濟、公共安全和國家安全帶來嚴重風險。
在4月7日推出Mythos之後,美國軟件股在4月9日暴跌 (link),再次引發了人們對人工智能的進步可能會顛覆傳統企業的擔憂。
白宮和監管機構對「神話」有何評論?
白宮與Anthropic公司首席執行官阿莫迪(Dario Amodei)就Mythos舉行了討論 (link),白宮官員稱他們討論了合作、網絡安全以及人工智能創新與安全之間的平衡等問題。儘管五角大樓對Anthropic公司進行了正式的供應鏈風險認定,但雙方還是進行了會談。
據彭博新聞社 (link) 報導,美國政府正計劃向主要聯邦機構提供 Mythos 的一個版本。
據路透社 (link) 報導,美國財政部長斯科特-貝森特和聯儲局主席傑羅姆-鮑威爾與美國主要銀行的首席執行官舉行了一次會議,向他們介紹了該模型的潛在風險。
在英國,該模式也敲響了警鐘 (link),當局與主要銀行和網絡安全官員舉行了會談,以評估可能存在的風險。
各銀行正就Mythos與歐洲監管機構保持密切聯繫,德國銀行業協會主席兼德意志銀行首席執行官斯溫(Christian Sewing)說 (link)。
(為便利非英文母語者,路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤,或未能包含所需語境,路透不保證自動化翻譯文本的準確性,僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失,路透不承擔任何責任。)