智通財經APP獲悉，OpenAI周一發布一套關於前沿人工智能(AI)開發安全與保障的提案，重點聚焦對齊研究以及被稱為「遞歸自我改進」(RSI)的計算技術。該公司在一篇博客文章中表示：「要安全地完成這一轉型，對齊研究必須跟上這些能力的發展，以確保我們和其他機構構建的系統始終與人類價值觀保持一致，並處於人類控制之下。」OpenAI呼籲開展國際合作，制定前沿標準，並建議借鑑世界各地現有AI安全機構的工作成果。

這家ChatGPT開發商表示，這些技術標準應聚焦前沿AI模型和開發者，以及自動化AI研究人員的收益與風險管理，其中包括RSI。

RSI之所以令AI開發者興奮，是因為它有望創建無需人類干預即可自我升級的基礎模型。但隨着RSI取得進展，一些技術專家開始擔憂：基礎模型製造商可能失去對底層技術的控制，或者未能預見潛在意外後果，因為AI系統正變得越來越複雜，並在互聯網上無處不在。

OpenAI在其博客文章中指出：「完全自主的RSI目前還無法實現，除非能夠安全實現，否則我們不應貿然推進。如果缺乏適當的謹慎和保障，RSI可能導致人類失去對AI發展的實際控制，無法對自身已不再理解的研究過程進行監督。」

OpenAI 的博客文章提到了Hugging Face被入侵事件。該事件並不涉及RSI技術，但被視為一種「預演」，說明如果沒有強有力的保障措施和對齊，這類風險可能變得嚴重得多。

AI安全爭議升溫：Anthropic倡議「減速」，第三方評估呼聲漸高

上周，競爭對手Anthropic提出了其關於前沿AI模型安全開發的設想，以回應近期行業研究人員對AI威脅人類的一連串警告。曾任職於Anthropic和OpenAI的Jacob Coxon在大約兩周前宣佈辭職，並稱這些公司是在「拿我們的生命賭博」，由此引發全球性討論。

在近期AI相關安全事件和Coxon公開發聲之後，Anthropic CEO達里奧·阿莫代伊發表文章，呼籲AI公司放慢基礎模型開發步伐，並提出其他建議。

阿莫代伊還提出在公司內部引入第三方評估人員的想法，以審核和緩解其技術可能給社會帶來的潛在風險，例如加劇網絡安全相關的黑客攻擊或製造生物武器。

OpenAI CEO薩姆·奧爾特曼，以及特斯拉和SpaceX CEO埃隆·馬斯克等競爭對手領導人，也公開支持阿莫代伊的提議。

不過，由於AI評估領域仍處於早期階段，對於讓獨立第三方更深入地審查尖端技術所需的基本標準和原則，尚未形成統一共識。

這在一定程度上促使一群AI評估專家敦促基礎模型製造商考慮一系列「最低要求」，以便更深入地開展技術相關審查和檢查，包括獲得更深層次的訪問權限，以及防止因發布不利報告而遭到報復。