2025年10月，蘭德公司發(fā)布報(bào)告《我們應(yīng)何時(shí)擔(dān)憂(yōu)人工智能被用于設(shè)計(jì)病原體——生物學(xué)和人工智能專(zhuān)家發(fā)表意見(jiàn)》（When Should We Worry About AI Being Used to Design a Pathogen?—Biology and AI Experts Weigh In）。報(bào)告指出，我們正站在一個(gè)技術(shù)變革的十字路口，人工智能與生物技術(shù)的深度融合，正以前所未有的力量重塑生命科學(xué)的研究范式。這股力量兼具創(chuàng)造與毀滅的雙重潛力：一方面，它催生了驚人的科學(xué)突破，為全球健康帶來(lái)曙光；另一方面，它顯著降低了惡意設(shè)計(jì)病原體的門(mén)檻，對(duì)全球生物安全構(gòu)成了嚴(yán)峻且前所未有的威脅。理解人工智能在病原體設(shè)計(jì)中的應(yīng)用邊界與演進(jìn)軌跡，已不再是遙遠(yuǎn)的學(xué)術(shù)探討，而是關(guān)乎國(guó)家與國(guó)際安全的迫在眉睫的核心議題。本報(bào)告旨在系統(tǒng)梳理人工智能賦能病原體設(shè)計(jì)的當(dāng)前能力與未來(lái)風(fēng)險(xiǎn)，評(píng)估現(xiàn)有生物防御體系的脆弱性，并在此基礎(chǔ)上，提出構(gòu)建面向人工智能時(shí)代的韌性生物防御體系的核心政策要點(diǎn)。

一、人工智能在病原體設(shè)計(jì)中的

角色演進(jìn)與風(fēng)險(xiǎn)時(shí)間線

當(dāng)前，人工智能在生物工程領(lǐng)域主要扮演的是“強(qiáng)力輔助”而非獨(dú)立的“設(shè)計(jì)主宰”角色。專(zhuān)家達(dá)成共識(shí)，至少在2027年之前，人工智能尚不具備自主設(shè)計(jì)全新、可行病原體的能力。當(dāng)前其價(jià)值主要體現(xiàn)在加速研究進(jìn)程上，例如：協(xié)助研究人員識(shí)別關(guān)鍵靶點(diǎn)基因，這些基因的突變可能改變病原體的宿主范圍（實(shí)現(xiàn)從非人類(lèi)到人類(lèi)的跳躍或轉(zhuǎn)變?yōu)榭諝鈧鞑ィ?、增?qiáng)其在環(huán)境中的穩(wěn)定性、加快復(fù)制速率、提升毒素的致命性或使其對(duì)抗生素及抗病毒藥物產(chǎn)生耐藥性。然而，這些能力并非憑空創(chuàng)造，其有效性嚴(yán)重依賴(lài)于用于訓(xùn)練模型的生物數(shù)據(jù)的質(zhì)量、廣度與深度。不完整、有偏差或存在空白的數(shù)據(jù)集將直接導(dǎo)致模型預(yù)測(cè)失準(zhǔn)，而涉及多因素交互的復(fù)雜長(zhǎng)期預(yù)測(cè)，如宿主—病原體的相互作用，對(duì)現(xiàn)有人工智能模型而言仍是巨大挑戰(zhàn)。

從生物學(xué)本質(zhì)來(lái)看，病原體的工程化也并非毫無(wú)限制。病原體的傳播能力受制于其物理和生物特性，例如在宿主體外的存活能力、傳播方式以及對(duì)宿主的影響（過(guò)快導(dǎo)致宿主死亡反而可能不利于傳播）。此外，存在“適應(yīng)性權(quán)衡”情形，旨在增強(qiáng)某一特性的基因改造可能會(huì)在其他無(wú)關(guān)方面削弱病原體，例如增強(qiáng)環(huán)境穩(wěn)定性可能以降低復(fù)制效率為代價(jià)。人類(lèi)的免疫反應(yīng)和公共衛(wèi)生干預(yù)措施（如疫苗接種、社交距離和醫(yī)療對(duì)策）同樣構(gòu)成強(qiáng)大的外部制約，即使是設(shè)計(jì)精良的病原體也能夠被迅速遏制傳播。

然而，這絕不意味著可以高枕無(wú)憂(yōu)。風(fēng)險(xiǎn)格局正在動(dòng)態(tài)且迅速地演變。專(zhuān)家們雖然對(duì)能力提升的速度存在分歧，但一致認(rèn)為風(fēng)險(xiǎn)正在累積和擴(kuò)大。展望2027年之后的更長(zhǎng)時(shí)期，幾個(gè)關(guān)鍵領(lǐng)域的進(jìn)展將顯著改變風(fēng)險(xiǎn)前景：生物工程臨床應(yīng)用能力的深化、可實(shí)現(xiàn)快速反饋的實(shí)驗(yàn)室自動(dòng)化、能夠減少對(duì)實(shí)體實(shí)驗(yàn)依賴(lài)的高保真生物系統(tǒng)模擬，以及向通用人工智能系統(tǒng)的邁進(jìn)。一旦人工智能在生物設(shè)計(jì)領(lǐng)域?qū)崿F(xiàn)從“輔助”到“驅(qū)動(dòng)”乃至“自主”的質(zhì)變，其潛在影響將是顛覆性的。不存在能夠阻止人工智能最終具備設(shè)計(jì)病原體能力的基本生物學(xué)限制，這一共識(shí)警示我們，最壞的擔(dān)憂(yōu)雖非眼前，但必須從此刻起未雨綢繆。

二、現(xiàn)有生物防御體系在人工智能時(shí)代

暴露的脆弱性

面對(duì)人工智能驅(qū)動(dòng)的新型生物威脅，傳統(tǒng)生物防御體系的兩大核心支柱——生物設(shè)計(jì)工具模型的內(nèi)在防護(hù)和核酸合成訂單的篩查——正顯露出致命的局限性。

在生物設(shè)計(jì)工具模型防護(hù)方面，現(xiàn)狀堪憂(yōu)。盡管領(lǐng)先的模型開(kāi)發(fā)者可能采取一些安全措施，例如從訓(xùn)練數(shù)據(jù)中移除已知危險(xiǎn)病原體序列，但這類(lèi)防護(hù)往往是靜態(tài)和脆弱的。惡意行為者能夠通過(guò)對(duì)模型進(jìn)行“微調(diào)”，輕易地將有害序列數(shù)據(jù)重新注入，從而“教會(huì)”模型生成危險(xiǎn)設(shè)計(jì)。更令人警覺(jué)的是，整個(gè)生物設(shè)計(jì)工具生態(tài)系統(tǒng)的安全狀況極不樂(lè)觀。調(diào)查數(shù)據(jù)顯示，目前僅有極低比例的生物設(shè)計(jì)工具配備了安全防護(hù)措施（包括嚴(yán)格的訪問(wèn)控制、訓(xùn)練數(shù)據(jù)過(guò)濾或輸出審查），而這些已部署的措施本身也普遍存在漏洞，可靠性存疑。這種整體性的安全缺失，使得強(qiáng)大的生物設(shè)計(jì)能力可能毫無(wú)阻礙地?cái)U(kuò)散。

在核酸合成篩選方面，現(xiàn)行體系建立在“管制病原體與毒素清單”基礎(chǔ)上，其缺陷在人工智能時(shí)代被急劇放大?，F(xiàn)有清單僅涵蓋有限數(shù)量的已知病原體和毒素，這種基于靜態(tài)名單的篩選方法，完全無(wú)法應(yīng)對(duì)由人工智能生成的全新、自然界中不存在的生物序列威脅。測(cè)試結(jié)果觸目驚心：主流商業(yè)合成篩查軟件對(duì)經(jīng)過(guò)人工智能改造的毒素序列漏檢率極高，意味著現(xiàn)有工具基本無(wú)法識(shí)別這類(lèi)非清單上的新型威脅。盡管業(yè)界和政府已啟動(dòng)擴(kuò)展“關(guān)注序列”數(shù)據(jù)庫(kù)的倡議，但這項(xiàng)工作面臨著缺乏標(biāo)準(zhǔn)化、更新嚴(yán)重滯后、不同篩查機(jī)構(gòu)間數(shù)據(jù)孤島化等挑戰(zhàn)，其推進(jìn)速度遠(yuǎn)遠(yuǎn)跟不上人工智能生成新型威脅序列的步伐。

三、構(gòu)建面向未來(lái)的韌性生物防御體系：

核心政策行動(dòng)方案

鑒于威脅的緊迫性和現(xiàn)有防御體系的不足，必須采取果斷且系統(tǒng)的行動(dòng)，構(gòu)建一套能夠有效應(yīng)對(duì)人工智能時(shí)代挑戰(zhàn)的新型生物防御體系。

首要行動(dòng)是強(qiáng)化政府基礎(chǔ)能力建設(shè)與資金保障。國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院及其下屬的美國(guó)人工智能安全研究所應(yīng)被確立為推進(jìn)人工智能生物安全評(píng)估、開(kāi)發(fā)和制定篩查標(biāo)準(zhǔn)的核心機(jī)構(gòu)。它們的工作對(duì)于建立全國(guó)統(tǒng)一的測(cè)試基準(zhǔn)、風(fēng)險(xiǎn)評(píng)估框架和數(shù)據(jù)共享標(biāo)準(zhǔn)至關(guān)重要。當(dāng)前任何旨在削減這些關(guān)鍵機(jī)構(gòu)經(jīng)費(fèi)的預(yù)算提案都將直接削弱國(guó)家的生物安全根基。立法者必須意識(shí)到其中的戰(zhàn)略風(fēng)險(xiǎn)，確保為相關(guān)機(jī)構(gòu)提供充足、穩(wěn)定的資金流，以支持其開(kāi)展前沿模型測(cè)試、推動(dòng)數(shù)據(jù)標(biāo)準(zhǔn)化進(jìn)程及進(jìn)行必要的國(guó)際協(xié)調(diào)。

第二項(xiàng)核心行動(dòng)是建立對(duì)前沿生物設(shè)計(jì)工具的持續(xù)評(píng)估與紅隊(duì)測(cè)試機(jī)制。應(yīng)由專(zhuān)業(yè)智庫(kù)聯(lián)合跨部門(mén)的“人工智能與國(guó)家安全測(cè)試風(fēng)險(xiǎn)工作組”，并吸納國(guó)際合作伙伴及頂尖學(xué)術(shù)機(jī)構(gòu)，定期對(duì)市場(chǎng)上及實(shí)驗(yàn)室中最強(qiáng)大的生物設(shè)計(jì)工具模型進(jìn)行系統(tǒng)性能力評(píng)估。評(píng)估焦點(diǎn)應(yīng)明確放在那些最危險(xiǎn)的能力上，例如設(shè)計(jì)全新病原體、優(yōu)化病原體以逃避免疫系統(tǒng)、或設(shè)計(jì)能夠規(guī)避現(xiàn)有篩查工具序列的能力。為確保監(jiān)管的精準(zhǔn)與高效，測(cè)試對(duì)象應(yīng)聚焦于基于客觀閾值（如計(jì)算算力、訓(xùn)練數(shù)據(jù)量）判定的“能力最強(qiáng)”的模型，避免監(jiān)管范圍過(guò)度擴(kuò)大而扼殺有益的科研創(chuàng)新與產(chǎn)業(yè)發(fā)展。

第三項(xiàng)關(guān)鍵行動(dòng)是推動(dòng)核酸合成篩查系統(tǒng)的技術(shù)升級(jí)與標(biāo)準(zhǔn)化。應(yīng)由白宮科技政策辦公室牽頭，協(xié)調(diào)衛(wèi)生、商務(wù)、國(guó)土安全等部門(mén)，并聯(lián)合私營(yíng)合成生物學(xué)企業(yè)，共同開(kāi)發(fā)和部署一套全國(guó)統(tǒng)一的、人工智能賦能的新一代合成序列篩查系統(tǒng)。這套系統(tǒng)必須超越過(guò)去的靜態(tài)名單比對(duì)，深度整合人工智能的預(yù)測(cè)能力，對(duì)每一筆合成序列訂單實(shí)施動(dòng)態(tài)的、分層級(jí)的風(fēng)險(xiǎn)評(píng)估。其工作框架應(yīng)設(shè)計(jì)為：與已知威脅序列無(wú)相似性的序列劃為低風(fēng)險(xiǎn)快速放行；存在部分相似性的列為中風(fēng)險(xiǎn)，觸發(fā)深度客戶(hù)核查；高度相似或經(jīng)AI預(yù)測(cè)判定為潛在有害的序列視為高風(fēng)險(xiǎn)，需暫緩并由政府監(jiān)管部門(mén)審查；對(duì)于被高度確信具有引發(fā)大流行潛力的極端危險(xiǎn)序列，系統(tǒng)應(yīng)立即終止訂單并自動(dòng)向國(guó)家安全機(jī)構(gòu)報(bào)警。整個(gè)系統(tǒng)設(shè)計(jì)必須精心權(quán)衡安全與效率，在最大化安全效益的同時(shí)，盡量避免給合成生物學(xué)行業(yè)帶來(lái)過(guò)重負(fù)擔(dān)。

四、結(jié)論：

在創(chuàng)新與安全之間尋求平衡之道

人工智能技術(shù)正以指數(shù)級(jí)速度重塑生物技術(shù)的研發(fā)范式，其強(qiáng)大的雙重用途特性要求國(guó)家的應(yīng)對(duì)之策必須同時(shí)服務(wù)于兩個(gè)有時(shí)相互競(jìng)爭(zhēng)的目標(biāo)：堅(jiān)決防范任何惡意濫用行為，與積極保護(hù)和促進(jìn)負(fù)責(zé)任的科學(xué)創(chuàng)新和產(chǎn)業(yè)發(fā)展。分析表明，拖延和不作為的風(fēng)險(xiǎn)極高。雖然美國(guó)政府已認(rèn)識(shí)到這一問(wèn)題并邁出初步步伐，但現(xiàn)在亟需將原則性聲明加速轉(zhuǎn)化為具體、可操作、有資金支持的法律法規(guī)和政策工具。通過(guò)果斷投資于基礎(chǔ)能力建設(shè)、建立對(duì)前沿模型的持續(xù)評(píng)估機(jī)制、以及徹底升級(jí)國(guó)家的核酸合成篩選基礎(chǔ)設(shè)施，美國(guó)可以推行一項(xiàng)“高回報(bào)、低成本”的先發(fā)制人式生物防御戰(zhàn)略。最終目標(biāo)是構(gòu)建一個(gè)多層次的強(qiáng)大防御體系，確保無(wú)論技術(shù)如何演進(jìn)，惡意開(kāi)發(fā)生物武器始終是一項(xiàng)極其困難、成本高昂且極易被察覺(jué)和阻止的行動(dòng)，從而在全球生物安全的新紀(jì)元中牢牢守住人類(lèi)健康的底線。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見(jiàn)。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢(xún)服務(wù)。“全球技術(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話(huà)：010-82635522

微信：iite_er