借助 AI，科學家得以做更多事——但更糟。 一種關於研究如何進行的模型預測，語言模型將使科學家產出更多論文，但品質更低。 華盛頓大學的卡爾·伯格斯特羅姆及其同事將研究過程分為多個階段，並探討哪些階段能被大型語言模型加速。 首先是一個「發現階段」，在此階段中，你提出假設並進行足夠的初步工作，以判斷某個項目是否值得繼續推進。 接著是分為兩部分的「開發階段」： * 必需工作——你必須完成的圖表和撰寫，否則無法發表；以及 * 自主工作——後續實驗和潤色 在編程術語中，自主工作就像發布前的測試和除錯。 大型語言模型加速了發現和必需工作——但它們無法觸及自主工作部分，因為這部分的定義正是「非必需」。 無論是否有多智能體反饋迴路，自主工作部分通常都是「人類參與」的環節——充滿了「等等，這到底在做什麼？」之類的現實檢驗。 因此，節省下來的時間被用於啟動下一篇論文，而非改善當前這一篇，由此得出預測：產出量增加，但其中優質的比例變小。 伯格斯特羅姆的重點在於激勵機制：科學家的評估依據是產出量——因此，能提升產出量的工具就會被用來提升產出量。 他建議的解決方案是，根據研究者最優秀的作品來評估，而非計數論文和引用次數。 （註：伯格斯特羅姆的論文於 7 月 19 日上傳至 arXiv，尚未經過同行評審） #ScienceOfScience #AI #Research