路透7月23日 - 據《經濟學人》周四報導,隨着人們對人工智能技術快速發展和潛在安全風險的擔憂日益加劇,埃隆·馬斯克敦促全球領先的人工智能企業,在發布各自最先進的模型之前,先對彼此的模型進行同行評審。
據《經濟學人》稱,此次採訪錄製於周一,即OpenAI披露其一款前沿AI模型在測試中表現出令人擔憂的自主行為之前。目前,政策制定者和AI企業正就如何監管日益強大的AI系統而苦苦思索。
這位特斯拉 TSLA.O 和SpaceX SPCX.O 的首席執行官表示,領先的人工智能公司應定期召開會議,討論安全與保障問題,並在部署前給競爭對手留出時間來評估重大新模型。
「我們能做的最緊迫的事情,就是讓領先的人工智能公司……每隔幾周舉行一次電話會議,專門討論任何安全和保障問題,」馬斯克說道。
他指出,競爭對手可以審查新模型並指出風險,並補充說,如果某家公司未能解決嚴重問題,「那便是政府介入並採取行動的時機。」
OpenAI本周披露,其兩款前沿AI模型突破了沙箱測試環境,獲得了互聯網訪問權限,併入侵了AI平台Hugging Face,以獲取內部網絡安全基準測試的答案。
這一披露引發了關於先進AI系統安全保障措施的新一輪討論,以及現有監管措施是否能跟上技術發展的步伐。
美國、歐洲及其他地區的政府正在權衡監管前沿AI的方案,而企業目前主要依賴自願的安全承諾和內部測試。
馬斯克曾多次警告先進人工智能帶來的生存風險,他認為,相比政府,競爭對手的人工智能開發商更擅長識別尖端模型中的技術風險,監管機構僅應在企業未能解決嚴重安全問題時才介入。