設置星標 關注，從此你的世界多點科學~

自我糾錯是科學的基本原則。其中最重要的形式之一便是同行評審，即研究成果在發(fā)表前交由匿名專家仔細審查。此機制是對學術文獻準確性的保障。當然，這樣的糾錯也總出差錯。

目前有許多來自民間和官方的力量都致力于識別問題論文、完善評審流程，并通過撤稿或?？确绞絻艋蒲杏涗?。但這些工作都有局限性，且需耗費大量資源。

人工智能，或將為學術評審事業(yè)注入強大動力，成為幫助科學自我糾錯的專家里手——那么，當AI全面、深度參與論文評審的那天到來，你我對于科學的信念將會更清澈，還是產生更多搖擺呢？

同行評審越發(fā)力不從心

近幾十年來，數(shù)字時代與學科多元化發(fā)展共同助推學術論文和期刊數(shù)量爆發(fā)式增長，傳統(tǒng)的同行評審作為科學可靠性的主要保障已越發(fā)力不從心。與此同時，多方力量都在為科研誠信做出貢獻。

媒體平臺《撤稿觀察》(

Retraction Watch

調查記者們持續(xù)曝光企業(yè)勢力對科研的干預。新興的“元科學”(科學學)領域正嘗試量化科研流程，揭示其中的偏見與缺陷。

并非所有劣質的科研都產生大影響，但有些確實危害深遠。這些影響不僅限于學術界，往往還會滲透至公眾認知與政策制定。

哈佛大學的科學史學家內奧米·奧雷斯克斯(Naomi Oreskes)與同事近期發(fā)表論文稱，他們對一篇被廣泛引用的草甘膦除草劑安全評估報告進行了審查，發(fā)現(xiàn)文章本身看似獨立而全面，但孟山都公司訴訟案曝光的文件表明，其真實作者為由孟山都的員工，發(fā)表刊物有煙草業(yè)背景。

孟山都是一家來自美國的農業(yè)生物技術公司，于2018年被拜耳收購。由于其生產銷售的草甘膦除草劑農達

(Roundup)

導致大量使用者罹患癌癥，孟山都面臨一系列訴訟。

然而即便真相曝光，該評估報告仍持續(xù)影響全球范圍內的文獻引用、政策文件乃至維基百科詞條。

當此類問題被揭露后，公眾會就此展開熱議，但大家未必認為這是科學界做出了成功的自我糾錯，反而可能將其視作“科學崩壞”的證據。如此負面的論調有損公眾對科學的信任。

我們需要全新的論文糾錯機制或工具，AI此時介入恰似雪中送炭。

人工智能已開始助力學術監(jiān)督

關于自我糾錯所需的技術工具，過去的主要應用一直是查重系統(tǒng)。但局面正在改變：ImageTwin和Proofig等機器學習服務能對數(shù)百萬張圖表進行掃描，檢測是否存在重復、篡改或AI生成的跡象。

自然語言處理工具可標記出“別扭的措辭”(tortured phrases)，即論文工廠特產的怪詞怪語。而像“語義學者”(Semantic Scholar)這樣的文獻計量分析平臺則能追蹤論文被引用的語境是支持性還是反駁性的。

隨著AI——尤其是越發(fā)擅長數(shù)學與推理的代理式新型AI模型——持續(xù)演進，未來它還將有能力識別更隱蔽的學術缺陷。

例如，“黑鏟項目”(Black Spatula Project)正探索如何運用最新AI模型大規(guī)模查驗已發(fā)表的數(shù)學證明，其核心在于自動識別易被人類評審忽略的代數(shù)矛盾。前文提及的奧雷斯克斯等人的工作同樣高度依賴大語言模型處理海量文本。

若獲得全文訪問權限與充足算力，這些系統(tǒng)很快就能對學術文獻展開全球性的審查。全面審查很可能會發(fā)現(xiàn)一些明目張膽的欺詐，以及大量充斥著匠氣與常見錯誤的平庸之作。

我們尚不清楚學術欺詐的確切比例，但可以確定的是，有大量科研成果實際上無足輕重?？茖W家對此心知肚明，正如他們對那些鮮少甚至從無引用的出版物習以為常一樣。

對大眾來說，認識到學術的平庸可能與發(fā)現(xiàn)欺詐事件同樣令人震驚——因為這與主流媒體關于科學發(fā)現(xiàn)的那種戲劇化、英雄主義敘事相悖。

顛覆與重塑，崩壞或革新

要維護好公眾的信任，就必須以更透明、更務實的方式重新定義科學家角色。當今多數(shù)的科研工作都是漸進式的，往往與科學家職業(yè)生涯相綁定，扎根于教育傳承、導師培養(yǎng)和公眾參與。

要對自己和公眾保持誠實，就必須摒棄那些驅使高校、科學出版商乃至科學家本人夸大研究成果的功利機制。真正具有開創(chuàng)性的工作本就鳳毛麟角，但這并不意味著其他科研毫無價值。

相較于將科學發(fā)現(xiàn)描繪成個人英雄式的壯舉，更平和、更誠實地認可科學家作為集體認知進步貢獻者的形象，或許更有利于幫助學術界經受人工智能的審查考驗。

一場跨學科的全面審查即將降臨學術界。審查的發(fā)起者可能是政府監(jiān)督機構、智庫，也可能是企圖削弱公眾科學信心的企業(yè)。

科學家其實可以預見到諸多結果。若科學界做好了面對AI評審的準備，甚至主動去引領浪潮，這場關于學術成果的大調查或許還能激發(fā)體系的革新。但若遲疑不決，AI揭露的裂痕就可能被曲解為科學事業(yè)的崩壞。

科學的力量從來不在永不犯錯，而是敢于糾錯、樂于修正。

資料來源：

《世界科學》雜志版在售中 歡迎訂閱

月刊定價

15元/期

全年訂閱價

180元

點擊左側圖片或以下方訂閱方式選購

方式一：

掃描二維碼，“雜志鋪”訂閱有折扣～

方式二：

全國各地郵局訂閱 郵發(fā)代號：4-263

方式三：

機構訂閱，請撥打

021-53300839；

021-53300838