?

人工智能（AI）正在迅速推進新型蛋白質(zhì)的設計工作，這些蛋白質(zhì)有望用作**、疫苗及其他療法。但這種希望也伴隨著人們的擔憂，同樣的工具可能被用于設計生物武器或有害毒素的組成部件。

如今，科學家提出了一系列可以內(nèi)嵌到AI模型的保護措施，既能阻止惡意使用，也能在出現(xiàn)新型生物武器時追蹤到是哪個AI模型創(chuàng)造了它。4月28日，相關論文發(fā)表于《自然-生物技術》。

圖片來源：IAN C. HAYDON/UNIVERSITY OF WASHINGTON MEDICINE

???

美國約翰斯·霍普金斯大學健康安全**主任、流行病學家Thomas Inglesby表示：“建立正確的框架至關重要，這有助于我們充分發(fā)揮這項技術的巨大潛力，同時防范出現(xiàn)極其嚴重的風險。”

近年來，科學家已經(jīng)證明，AI模型不僅可以根據(jù)氨基酸序列預測蛋白質(zhì)結(jié)構(gòu)，還能以前所未有的速度生成未見過的具有新功能的蛋白質(zhì)序列。像RFdiffusion和ProGen這樣的**AI模型，能在短短幾秒內(nèi)定制設計蛋白質(zhì)。在基礎科學和醫(yī)學領域，它們的前景幾乎無**疑。

但論文通訊作者、美國普林斯頓大學的計算機學家王夢迪指出，這些模型的強大功能和易用性令人擔憂。“AI變得如此簡單易用。普通人不需要擁有博士學位，也能夠生成有毒化合物或病毒序列。”

美國麻省理工學院媒體實驗室的計算機學家Kevin Esvelt支持對有關高風險病毒和DNA制造的研究實施更嚴格的管控。他指出，這種擔憂仍停留在理論層面。“沒有實驗室證據(jù)表明現(xiàn)有模型已經(jīng)強大到足以引發(fā)一場新的大流行病。”

盡管如此，包括Inglesby在內(nèi)的130 名蛋白質(zhì)研究人員去年簽署了一份承諾書，在工作中安全使用AI。現(xiàn)在，王夢迪和同事概述了可以內(nèi)嵌到AI模型的保護措施，從而超越了自愿承諾。

其中一項措施是名為FoldMark的防護機制，由王夢迪實驗室開發(fā)。它借鑒了谷歌旗下DeepMind的SynthID等現(xiàn)有工具的概念，即在不改變內(nèi)容質(zhì)量的前提下，將數(shù)字模式嵌入AI生成的內(nèi)容中。

在FoldMark的案例中，作為**標識符的代碼**入蛋白質(zhì)結(jié)構(gòu)中，而不會改變蛋白質(zhì)功能。如果檢測到一種新的毒素，就可以通過這個代碼追查它的來源。Inglesby評價說，這種干預措施“既可行，又在**風險方面具有巨大的潛在價值”。

研究團隊還提出了一些改進AI模型的方法，以**其造成危害的可能性。蛋白質(zhì)預測模型是基于現(xiàn)有蛋白質(zhì)（包括毒素和致病蛋白質(zhì)）進行訓練的，一種名為“反學習”的方**去除其中一些訓練數(shù)據(jù)，使模型更難生成危險的新蛋白質(zhì)；另外還有“反越獄”概念，即系統(tǒng)訓練AI模型，以識別并拒絕潛在的惡意指令。

此外，研究團隊敦促開發(fā)人員采用外部保障措施，比如使用自主代理來監(jiān)測AI的使用情況。當有人試圖制造有害生物材料時，它就會向安全人員發(fā)出警報。

“實施這些保障措施并不容易。設立一個監(jiān)管機構(gòu)或某種程度的監(jiān)督機制將是一個起點。”論文作者之一、美國國防部**研究計劃局AI項目主管Alvaro Velasquez說。

“人們對AI和生物安全的思考，不如對錯誤信息或深度**技術等其他領域那么多。”美國斯坦福大學的計算生物學家James Zou表示，所以對保障措施的新關注是有益的。

不過，Zou認為，監(jiān)管機構(gòu)與其要求AI模型本身納入防護措施，不如將**放在那些能夠?qū)I生成的蛋白質(zhì)設計轉(zhuǎn)化為大規(guī)模生產(chǎn)的服務設施或機構(gòu)上。“在AI與現(xiàn)實世界接軌的層面設置更多防護機制和監(jiān)管措施是有意義的。”

相關論文信息：https://doi.org/10.1038/s41587-025-02650-8

? 版權(quán)聲明：凡本網(wǎng)注明“來源：**科學報、科學網(wǎng)、科學新聞雜志”的所有作品，網(wǎng)站轉(zhuǎn)載，請在正文上方注明來源和作者，且不得對內(nèi)容作實質(zhì)性改動；微信公眾號、頭條號等新媒體平臺，轉(zhuǎn)載請聯(lián)系授權(quán)。郵箱：shouquan@stimes.cn。

本文 軟文網(wǎng) 原創(chuàng)，轉(zhuǎn)載保留鏈接！網(wǎng)址：/news/73503.html