陶哲軒尷尬了,哈佛研究顯示AI審稿比專家強

字母榜
3小時前

AI現在連審論文,都比人類專家更厲害了。

10月22日,哈佛大學的兩位研究人員發表了一篇題為《AI審稿意見全面勝過高水平人類同行評審》的論文,對比了134組AI與人類撰寫的審稿意見。結果,AI在七個評價維度上全面領先。

研究人員還請來三位曾經擔任重要學術期刊主編的專家進行盲評。30次比較中,他們有26次認為AI的審稿意見更好。

在接受覈查的具體論斷中,AI審稿意見的事實錯誤比例只有5.5%,人類卻高達15.9%。

這對最近忙着跟AI公司較勁的數學家們來說,可能不是什麼令人愉快的消息。

就在上個月,陶哲軒等25位菲爾茲獎得主還聯名批評AI公司急於宣佈數學突破,強調數學研究需要嚴謹的驗證和審查。

數學家們還在要求AI接受嚴格的學術檢驗,另一邊,人類可能連審稿這份工作都要被AI搶走了。

圖片由AI生成

01

人類一敗塗地

慘敗的審稿人們可不是什麼隨便招來的志願者。

研究使用了124篇學術論文,以及哈佛大學定量社會科學研究所旗下rapidPeer服務提供的134份人類審稿意見——這是一項付費的專業審稿服務,審稿人由領域專家挑選,來自不同的研究機構,而且報酬不低。

他們的表現原本也很不錯:在接受調查的74位論文作者中,有88%認為收到的審稿意見質量很高,其中60%給出了最高檔評價。

研究人員使用Anthropic的Claude Opus 4.8生成審稿意見,再請OpenAI的GPT-5.5擔任AI評委,在不知道意見由誰撰寫的情況下,比較人類與AI的審稿質量。

結果是,人類輸得非常徹底。

即使不允許AI聯網,只給它和人類一樣的審稿指南,在134組對比中,GPT-5.5也全部選擇了AI。

換用專門優化的提示詞、開放聯網後,134組比較中有132組明確判AI獲勝,剩下兩組結果不確定,人類依然沒有取得任何勝利。

具體來看,在補充參考文獻、發現論文弱點和研究方法三個維度上,AI的勝率達到100%;理論創新、論述框架、表達質量等方面,勝率也都超過90%。

研究人員甚至檢查了AI引用的651個帶有DOI或arXiv編號的參考文獻,發現全部真實存在,沒有任何一條是編造的。

這時候可能會有人說,AI審稿AI評,這不公平,誰知道它會不會偏袒同類?指不定就在審稿意見裏藏了什麼暗度陳倉的線索。

於是他們請來了開頭提到的三位前學術期刊主編,分別進行了10次盲評。結果,在30次比較中,人類評委有26次選擇了AI。

這下,就連人類評委都站到了AI那邊。

研究做到這裏,作者們甚至開始認真討論:學術期刊或許可以取消常規的人類同行評審,讓AI承擔大部分審查工作,只留下人類編輯負責最終決定,必要時再請專家介入。

10月23日,該論文發布後,斯坦福大學政治學副教授徐軼青公開表示,學術界應該重新考慮人類專家在審稿中的角色。在他看來,人類專家仍然需要參與,但已經沒必要繼續親自撰寫動輒1500字的長篇審稿意見了。

就連那些禁止使用AI審稿的期刊,也到了該重新審視自身規定的時候。

看來,人類審稿人的工作,已經有人想要交給AI了。

02

AI審稿,認真到煩人

那麼問題來了:AI到底是怎麼把人類審稿人比下去的?

答案可能非常簡單——它壓根就不會累。

審稿是一件相當費神的工作。審稿人需要通讀論文,檢查研究方法、數據、圖表和論證,還得尋找作者可能遺漏的相關文獻。

論文作者甚至在介紹實驗時,順手吐槽了一些傳統期刊審稿人:有些人論文纔看到第三頁,就開始尋找足以否定論文的致命缺陷,好讓自己不用繼續讀下去。

相比之下,AI顯然沒有急着下班的需求。

圖片由AI生成

這次實驗中,研究人員將Claude Opus 4.8的推理強度調到最高,還專門設計了一套審稿提示詞,允許它聯網查找資料。

結果發現,AI平均每審一篇論文,就要進行12.4次聯網搜索。

不過,認真的效果也相當明顯。在不聯網、使用普通審稿指南的情況下,AI在補充參考文獻方面的勝率為62%;換用專門優化的提示詞並開放聯網後,勝率直接提高到了100%。

今時不同往日。

今年4月,學術期刊《Organization Science》的編輯團隊還發表過一項研究,分析了過去幾年收到的一萬多份審稿意見,發現大量使用AI的審稿報告反而更難讀,討論的問題也更加狹窄。

當時研究人員甚至認為,AI生成的審稿意見還沒有達到人類審稿的水平。結果不到半年,哈佛就拿出了另一份成績單。

但AI太認真,偶爾也會讓人崩潰。

論文作者就舉例,AI有時候甚至會吹毛求疵到荒唐的程度:明明知道2+2=4是正確的,卻還要指出作者沒有定義加號是什麼意思。

人類審稿人可能嫌論文毛病太多,AI倒可能「找茬成癮」,沒毛病也給挑點錯出來。

何況AI的能力還在不斷進步。

以前是論文作者需要向人類審稿人證明,自己的研究值得發表;以後可能就輪到人類審稿人向學術期刊證明,自己為什麼還值得花錢請了。

03

數學家們可能有點尷尬了

最近,數學家和AI公司的戰場,已經從驗證數學證明一路打到了同行評審。

9月11日,陶哲軒等首批25位菲爾茲獎得主聯名發聲,批評AI公司把破解數學難題當成模型能力競賽,急着宣佈重大突破,卻沒有給數學界留下足夠的時間驗證、理解和討論。

9月29日,數學與AI諮詢小組(AGMAI)又專門發布指南,強調已經被人類數學家充分理解的AI研究成果,應該按照傳統學術規範發布論文,接受期刊同行評審。

數學研究有一套延續多年的規矩。證明寫出來了,還得經過專家檢查、同行討論,最後才能逐漸成為學術界公認的知識。

AI公司可以興高采烈地宣佈自己又攻克了一道世界難題,但數學界認不認可,就是另一碼事了。

還有一部分數學家,甚至連審稿人的椅子都不想讓AI碰。

10月7日,一個名叫「人類數學協會」(AHM)的組織公開批評OpenAI一次性發布700多份數學研究文件,認為這更像是在展示力量,而非認真做學術。

該組織甚至明確要求成員不得發表AI生成的數學論文、評論,連審稿報告都不行。

就在數學家們努力給AI立規矩的時候,哈佛的兩位研究人員卻把人類和AI審稿人一起送上了考場。

結果我們看到,AI不僅開始挑戰人類寫論文的能力,現在連挑論文毛病,都比不少專業審稿人厲害了。

當然,哈佛這項研究涉及的主要是社會科學論文,尚且無法證明AI已經能夠獨立審查複雜的數學證明。數學家要求嚴格驗證,本身也沒什麼錯。

但事情發展到這裏,多少顯得有些荒誕。

數學家們還在強調,AI不能繞過人類同行評審這道門檻。

AI卻已經開始研究,能不能把守門的人也換掉了。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10