微軟(MSFT.O)CEO納德拉表示,企業應將功能強大的人工智能模型視為潛在的內部威脅,假定這些模型可能已遭入侵,並建立「緊急剎車」機制,防止具備自主行動能力的智能體模型失控。納德拉周六在社交平台上發文稱:「我們必須假定模型已經遭到入侵,並從一開始就對其實施限制。可以把這想象成一個緊急剎車裝置。獲得授權的人員應當始終能夠在模型執行任務的過程中將其暫停或關閉。」納德拉提出的安全建議包括:不要依賴單一模型作出關鍵決策;保留不可篡改的智能體行為記錄;以及讓系統接受獨立審計。他還呼籲披露重大故障或安全漏洞,要求企業分享事故原因及相關細節,以便其他企業加強安全防護措施。
免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。