全國政協委員周鴻禕談大模型“幻覺”:包容失誤,借鑑“避風港原則”讓中國AI大膽前行

新浪科技
03-04

  新浪科技訊 3月4日下午消息,今年兩會期間,全國政協委員、360集團創始人周鴻禕聚焦關注大模型安全和幻覺,他認爲,以DeepSeek爲代表的大模型取得了“國運級科技成果”,不僅促進了大模型技術自主創新,也帶動了上下游產業協同發展,讓大模型加速走進百行千業,成爲推動中國科技進步、經濟增長和國家強盛的關鍵力量。但包括DeepSeek在內的大模型都存在“幻覺”,偶爾會生成看似不合理、與事實不符的情況。“幻覺”是一把雙刃劍,是大模型與生俱來的特點,不可消除,也決定其創造力和想象力,對於實現AGI(通用人工智能)極其重要。如果大模型沒有“幻覺”,就失去了想象力和創造力。並且越是能力強的模型,一般幻覺也越多。

  周鴻禕認爲,在科研領域,大模型的“幻覺”能“想象”新藥分子結構、蛋白質的結構等,爲新研究指引方向。在醫療、法律、金融等對準確性要求高的領域,“幻覺”雖然可能出錯,但可以利用技術手段,如RAG(檢索增強生成)技術,通過比對專業知識庫、網絡實時信息等方式予以矯正。

  周鴻禕表示,回顧過去30年,我國法律法規吸納了“避風港原則”讓企業敢於投入創新,帶來了互聯網行業的繁榮,也爲後來的“互聯網+”、如今的“人工智能+”提供了技術、產業和人才支撐。大模型發展關係國運,不能因爲過度追求準確而限制其創造力。他建議,借鑑“避風港原則”成功經驗,對大模型以及相關的產品和服務實施柔性監管,適度包容大模型的“幻覺”,對於“幻覺”導致的一般性失誤,避免直接關停下架,給予企業自我糾正的機會,促進企業大膽創新、放手競爭,爭取讓更多企業“複製”DeepSeek的成功。(羅寧)

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:江鈺涵

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10