版權(quán)歸原作者所有，如有侵權(quán)，請(qǐng)聯(lián)系我們

近年來(lái)，人工智能（AI）技術(shù)在科學(xué)研究領(lǐng)域中的應(yīng)用與影響日益顯著。從生物醫(yī)學(xué)、材料學(xué)、到天文學(xué)等學(xué)科，AI4Science 正改變著科學(xué)研究的方式，加速科學(xué)研究。

AI 通過(guò)提供大規(guī)模數(shù)據(jù)分析、模擬實(shí)驗(yàn)環(huán)境、優(yōu)化研究過(guò)程等功能，為科學(xué)家們提供了前所未有的支持和幫助，也確實(shí)將科學(xué)研究推向了一個(gè)新的階段。

然而，AI 在為科研帶來(lái)更多可能性的同時(shí)，也引發(fā)了許多問(wèn)題。

來(lái)自耶魯大學(xué)和普林斯頓大學(xué)的研究團(tuán)隊(duì)認(rèn)為，在科學(xué)研究中，AI 可能會(huì)造成知識(shí)生產(chǎn)的單一性，即科學(xué)的單一文化（scientific monocultures）。

具體來(lái)說(shuō)，在這種文化中，某些類(lèi)型的方法、問(wèn)題和觀點(diǎn)主導(dǎo)了其他方法，使科學(xué)缺乏創(chuàng)新性，更容易出錯(cuò)。

同時(shí)，AI 提出的解決方案也可能掩蓋了我們的認(rèn)知局限性，使我們?nèi)菀桩a(chǎn)生一種錯(cuò)覺(jué)，即我們認(rèn)為自己對(duì)世界的了解比實(shí)際情況要多。

因此，科學(xué)家需要審慎考慮 AI 在科學(xué)研究中的潛在影響，從而負(fù)責(zé)任地進(jìn)行知識(shí)生產(chǎn)。

相關(guān)研究論文以“Artificial intelligence and illusions of understanding in scientific research”為題，已發(fā)表在科學(xué)期刊 Nature 上。

該論文從大量與 AI4Science 相關(guān)的文獻(xiàn)中，提煉出了 AI 的四大應(yīng)用愿景——智囊團(tuán)（Oracles）、代理人（Surrogates）、量化分析師（Quants）和裁決者（Arbiters），并分別討論了 AI 在科學(xué)研究中的應(yīng)用和影響。

表｜科學(xué)研究中的 AI 愿景。通過(guò)分析最近有關(guān) AI 改善跨科學(xué)學(xué)科知識(shí)生產(chǎn)潛力的出版物，得出以上四種類(lèi)型。納入的論文要么使用“AI”這個(gè)通用短語(yǔ)，要么提到 AI 概念之下的特定方法，最常見(jiàn)的是機(jī)器學(xué)習(xí)、自然語(yǔ)言處理和大型語(yǔ)言模型。該表總結(jié)了愿景如何響應(yīng)不同的研究階段，以及對(duì)科學(xué)能力和效率的感知限制。

人類(lèi)科學(xué)家為何信任AI？

近年來(lái)，AI 在科學(xué)研究中的應(yīng)用日益廣泛，其提供的解決方案被認(rèn)為能夠徹底改變科學(xué)研究方法。

但 AI 何以獲得科學(xué)家的信任呢？

首先，AI 工具不僅被視為工具，更被看作是研究中的合作者，能夠提供超越人類(lèi)限制的解決方案和見(jiàn)解。這種認(rèn)知增強(qiáng)了科學(xué)家對(duì) AI 的信任，因?yàn)樗麄儗⑦@些工具視為知識(shí)生產(chǎn)中的伙伴。

其次，AI 工具被認(rèn)為具有增強(qiáng)其可信度的特質(zhì)，如客觀性、深度理解能力以及提供令人滿意的解釋能力。這種描繪使得 AI 工具在某些情況下比人類(lèi)更值得信賴。

第三，AI 工具提供的解決方案符合人們對(duì)簡(jiǎn)單、廣泛、簡(jiǎn)化和量化解釋的偏好，進(jìn)而增強(qiáng)了對(duì)理解的感知。

然而，將 AI 整合到科學(xué)研究中也存在認(rèn)知風(fēng)險(xiǎn)，尤其是認(rèn)知理解的錯(cuò)覺(jué)形式。

圖｜AI 驅(qū)動(dòng)的科學(xué)研究中的理解錯(cuò)覺(jué)。

如上圖 a 所示，使用 AI 工具進(jìn)行研究的科學(xué)家可能會(huì)產(chǎn)生解釋深度的錯(cuò)覺(jué)。在示例中，一位科學(xué)家使用 AI Quant 對(duì)現(xiàn)象 (X) 進(jìn)行建模，并相信他們對(duì) X 的理解比實(shí)際更深入。

在圖 b 中，在單一的認(rèn)知文化中，科學(xué)家很容易產(chǎn)生探索廣度的錯(cuò)覺(jué)，他們錯(cuò)誤地認(rèn)為自己正在探索所有可檢驗(yàn)假設(shè)的空間，而實(shí)際上他們正在探索可以用 AI 工具檢驗(yàn)的更狹窄的假設(shè)空間。

另外，如圖 c，在知識(shí)者單一文化中，科學(xué)家很容易產(chǎn)生客觀性錯(cuò)覺(jué)，他們錯(cuò)誤地認(rèn)為 AI 工具沒(méi)有立場(chǎng)或能夠代表所有可能的立場(chǎng)使用人類(lèi)參與者進(jìn)行研究的替代者），而 AI 工具實(shí)際上嵌入了訓(xùn)練數(shù)據(jù)和開(kāi)發(fā)人員的觀點(diǎn)。認(rèn)知理解的錯(cuò)覺(jué)發(fā)生在個(gè)體高估自己的理解程度時(shí)，將 AI 工具或其他社區(qū)成員的知識(shí)和能力誤認(rèn)為自己的。這種現(xiàn)象可能導(dǎo)致科學(xué)論斷中的錯(cuò)誤和過(guò)度樂(lè)觀，特別是當(dāng) AI 工具在專(zhuān)家領(lǐng)域之外使用時(shí)。

AI4Science的未來(lái)，一切向好嗎？

由于 AI 工具看似可信且承諾提升研究的質(zhì)量和數(shù)量，因此依賴這些工具的研究可能會(huì)大幅增加。目前，關(guān)于 AI 的引用在出版物和專(zhuān)利中在逐漸增多，并且使用 AI 工具的論文在學(xué)科內(nèi)外的引用都呈現(xiàn)出增加的趨勢(shì)。

如果這個(gè)趨勢(shì)持續(xù)發(fā)展，那么當(dāng) AI 輔助研究逐漸主導(dǎo)知識(shí)生產(chǎn)，會(huì)有哪些認(rèn)知風(fēng)險(xiǎn)？

文中給出了一個(gè)觀點(diǎn)：科學(xué)可能會(huì)形成單一文化。

作者用了一個(gè)類(lèi)比來(lái)說(shuō)明這一點(diǎn)：在農(nóng)業(yè)中，單一文化是一種在同一片土地上只種植一種作物的做法。這種做法提高了效率，但也使作物更容易受到害蟲(chóng)和疾病的侵害。

文章認(rèn)為，AI 工具所提供的效率可以促進(jìn)科學(xué)單一文化的發(fā)展，其中某些形式的知識(shí)生產(chǎn)主導(dǎo)了其他所有形式。它們可以通過(guò)兩種不同但相輔相成的方式實(shí)現(xiàn)。

首先，通過(guò)優(yōu)先考慮最適合 AI 輔助的問(wèn)題和方法（知識(shí)生產(chǎn)的單一文化）。

其次，通過(guò)優(yōu)先考慮 AI 能夠表達(dá)的觀點(diǎn)類(lèi)型（知識(shí)所有者的單一文化）。

就像植物單一文化更容易受到害蟲(chóng)和疾病的侵害一樣，科學(xué)單一文化使我們對(duì)世界的理解更容易出現(xiàn)錯(cuò)誤、偏見(jiàn)和錯(cuò)失創(chuàng)新的機(jī)會(huì)。

當(dāng)新工具和技術(shù)產(chǎn)生時(shí)，科學(xué)家總是傾向于迅速利用它們的優(yōu)勢(shì)。然而，AI 工具被預(yù)測(cè)將在各個(gè)領(lǐng)域得到廣泛應(yīng)用，成為超級(jí)合作者融入到知識(shí)社區(qū)中，這樣的風(fēng)險(xiǎn)可能會(huì)變得尤其嚴(yán)重。

除了威脅科學(xué)的蓬勃發(fā)展外，知識(shí)生產(chǎn)的單一文化還會(huì)產(chǎn)生認(rèn)知理解錯(cuò)覺(jué)。在這些錯(cuò)覺(jué)中，科學(xué)家錯(cuò)誤地認(rèn)為，AI 工具推進(jìn)了人類(lèi)對(duì)科學(xué)的理解，而不是意識(shí)到，這些工具實(shí)際上縮小了科學(xué)知識(shí)生產(chǎn)的范圍。

了解風(fēng)險(xiǎn)，是應(yīng)對(duì)風(fēng)險(xiǎn)的關(guān)鍵一步。為了減輕 AI 在知識(shí)生產(chǎn)中應(yīng)用的風(fēng)險(xiǎn)，人類(lèi)需要增強(qiáng)對(duì)科學(xué)單一文化的認(rèn)知風(fēng)險(xiǎn)的理解，以及對(duì)認(rèn)知錯(cuò)覺(jué)的感知。

事實(shí)上，AI 在科學(xué)中的應(yīng)用確實(shí)讓所有人興奮，比如 AI 化學(xué)家加速催化研究，生成式 AI 助力碳捕集等等。

然而，在 AI4Science 走得更遠(yuǎn)之前，科學(xué)家們必須考慮到 AI 的技術(shù)限制和潛力，以及它對(duì)科學(xué)知識(shí)生產(chǎn)社會(huì)實(shí)踐的影響。

AI 輔助科學(xué)研究也許預(yù)示著這樣一個(gè)未來(lái)，其中不僅參與者缺乏多樣性，而且追求的研究主題也缺乏多樣性。它們還引發(fā)了認(rèn)知理解的錯(cuò)覺(jué)，阻止我們意識(shí)到我們的視野已經(jīng)變窄。

盡管 AI 在科學(xué)中的廣泛應(yīng)用是不可避免的，但科學(xué)家，除了進(jìn)行知識(shí)生產(chǎn)外，還有責(zé)任決定事物的發(fā)展方式。

歡迎掃碼關(guān)注深i科普！

我們將定期推出

公益、免費(fèi)、優(yōu)惠的科普活動(dòng)和科普好物！