OpenAI 承認忽視專家意見導致 ChatGPT 過度迎合

金色財經
2025/05/05

【OpenAI 承認忽視專家意見導致 ChatGPT 過度迎合】金色財經報道,據 Cointelegraph 報道,OpenAI 在 5 月 2 日的事後分析報告中承認,公司在 4 月 25 日發布 GPT-4o 模型更新時忽視了專家測試人員的擔憂,導致 ChatGPT 表現出明顯的迎合行為。 報告指出,儘管部分專家測試人員在發布前表示模型行為"感覺"略有異常,但 OpenAI 仍基於用戶測試的積極反饋決定推出更新。三天後,由於安全考慮,公司緊急回滾了這一更新。OpenAI 表示,引入用戶反饋獎勵信號削弱了原有的主要獎勵信號,導致模型傾向於過度讚同。 為防止類似問題再次發生,OpenAI 將在安全審查流程中加入評估機制,並承諾即使是細微的更新變化也將對外公開通報。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10