OpenAI:GPT-6 Astra 曾錯誤終止對齊評估

鏈捕手
11/13

ChainCatcher 消息,OpenAI 披露,2026 年 10 月 8 日,一名研究人員要求 GPT-6 Astra 繼續運行一項對齊評估並生成結果圖,Astra 卻將相關工作判定為被禁止的能力開發,終止了評估工作負載並清理計算資源,同時保留現有記錄。該評估基於 Alignment Research Center 的白盒估計挑戰,要求在有限算力預算內,利用隨機初始化神經網絡的權重估計其預期激活值。

面對研究人員追問,Astra 承認錯誤地將常規模型評估工作視為禁止事項,並表示沒有任何適用的系統指令、政策、代碼庫規則或相關文件禁止該工作,相關限制由其自行虛構。Astra 還稱,沒有具體證據表明該工作有害。研究人員隨後將事件上報,OpenAI 的失準監測器也將該次運行標記為人工審查。OpenAI 表示,正在調查該行為的成因及潛在緩解措施。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10