Anthropic 正呼籲全球頂尖人工智能實驗室考慮放緩研發進度，理由是人工智能系統迭代速度過快，或將在不久後實現脫離人類干預的自主進化，進而對社會構成重大安全隱患。
該企業於周四在一篇官方博客文章中表示，擁有暫緩全球人工智能研發的選擇權 「大概率是一件好事」，博文同時披露內部實驗數據，佐證其旗艦大模型的性能提升速度。
這篇由公司研究院負責人瑪麗娜・法瓦羅與政策主管傑克・克拉克聯合執筆的文章提到，當前模型的迭代趨勢正走向遞歸式自我優化：也就是人工智能無需人類介入就能自主升級能力。不少業內從業者將這一技術臨界點視作危險信號，認為其有可能引發大規模社會動盪。
二人在博文中寫道：「我們認為，全球擁有放緩或臨時叫停前沿人工智能研發的備選方案，對世界有利，這樣各類社會配套機制與人工智能對齊研究纔有時間跟上技術發展的腳步。」 文章提議各國簽署全球性協定，敲定前沿 AI 研發的限速細則，並設立覈查機制，監督同業企業遵守相關約定。
博文提醒，遞歸自主優化目前尚未成為現實，也並非必然出現，「但其落地時間或許會早於絕大多數機構的準備周期。」
這家自創立起便主打人工智能安全理念的企業，長期飽受外界質疑：業內指責其出台各類監管相關政策，本質意在拖累競品的技術研發節奏。風投投資人、特朗普總統非正式顧問戴維・薩克斯就指責 Anthropic 管理層在推行一套 「監管俘獲議程」。
薩克斯在近期一檔播客節目中稱，這套在華盛頓推進的監管俘獲議程，或將推動美國出台禁令限制開源大模型；開源 AI 可供各類機構低成本落地使用、自主二次開發。
長期以來，人工智能行業在兩大議題上分歧顯著：現有模型距離通用人工智能（AGI，擁有比肩人類的智能水平）、遞歸自主優化究竟還有多遠。
Meta 前首席人工智能科學家、行業先驅揚・勒昆等學者認為，依託大語言模型打造的前沿產品永遠無法進化至媲美人類的智力水準。他認可 AI 是強大工具，但將現有模型的智能類比為貓咪水準，並與擔憂 AI 會給人類帶來生存級風險的研究者展開論戰。
責任編輯：江學思