同樣的 AI 系統理論上既能設計拯救生命的藥物，也能設計其相反的東西。Anthropic、OpenAI 和 Google DeepMind 已決定在問題演變成危機之前先行應對。
三大主導的人工智慧實驗室正在推出一系列針對模型生物應用的安全措施，涵蓋藥物發現、疾病研究到大流行預備。這項協調推進包括即時內容分類器、經過審核的研究人員訪問計劃，以及廣泛的紅隊測試，旨在讓有益的科學研究順利進行，同時阻斷生化武器研究。
一封公開信與一條界線
在 2026 年 6 月，這三家公司的首席執行官共同簽署了一封致美國國會議員的公開信。信中直言：合成 DNA 和 RNA 供應商需要強制性的篩查和記錄保存要求，因為人工智慧使設計危險生物製劑變得更加容易。
Google DeepMind 率先推出了一項具體計劃。7 月 16 日，該公司宣布了其生物韌性計劃，將可信賴的研究人員與快速部署的藥物設計引擎相結合。DeepMind 的方法高度依賴其子公司 Isomorphic Labs，該子公司一直致力於為藥物發現構建 AI 系統。生物韌性計劃將這項工作延伸至防禦領域，專注於對抗生物威脅，而不僅僅是尋找新藥物。
Anthropic 的平衡之道
至於 Anthropic，其一直致力於解決人工智慧安全中最具挑戰性的問題之一：如何阻止危險查詢而不阻礙合法的科學研究。2026 年 8 月，該公司宣布，已將對良性生物學查詢的誤報阻擋率降低了約 85%。
但 Anthropic 並未放寬所有限制。與藥物開發相關的專業工作流程仍面臨更嚴格的限制，這反映了公司對最複雜的生物學查詢具有最高雙重用途風險的判斷。
此校準位於 Anthropic 責任擴展政策的核心，該政策是公司為規範其模型與敏感領域互動而開發的框架。該政策根據模型能力的提升逐步提高安全要求，並以 CBRN（化學、生物、輻射、核）閾值作為觸發額外審查的硬性界限。
OpenAI 於 2025 年推出了其準備框架，該框架涵蓋生物防禦計劃和藥物成功預測工具，旨在讓 AI 在藥物開發中發揮作用，同時設立防範濫用的保障措施。