- 科學家創造出完全由 AI 生成的病毒基因序列。
- 生成模型學習病毒基因組模式，創造新序列。
- AI 技術可能被惡用，增加製造危險病原體的風險。
- 現有的生物安全系統未針對 AI 生成的序列進行設計。
科學家們現在已經創造出完全由人工智能生成的工作的病毒基因序列。這一發展將 AI 輔助生物學從僅僅預測蛋白質結構或篩選藥物候選者，推進到直接設計可以繁殖的病毒。
研究的具體內容包括，該研究利用大型生成性 AI 模型，基於基因組數據庫創建新的病毒序列。研究人員隨後使用標準的 DNA 合成方法製作這些序列，並確認所生成的病毒能夠進行複製。這項研究中製造的病毒並不被視為危險。然而，許多觀察者對於這一方法本身感到擔憂，因為它理論上可以用來創造更危險的病毒。
在這裡，生成模型的工作原理與大型語言模型類似，但它們預測的是核苷酸鹼基，而非單詞。通過研究許多已知的病毒基因組，這些模型學習模式並能創造出行為類似真實病毒的新序列，即使它們並非任何已知株的複製品。這使得標準的生物監控工具難以檢測這些病毒，因為這些工具主要尋找已知病原體的匹配。
AI 技術的潛在風險
主要的擔憂在於，這項技術既可用於善用，也可能被惡用。那些能加速疫苗設計的生成方法，也可能使創造新的生物製劑變得更加容易。過去，製造危險病原體需要相當多的專業知識，包括病毒學、微生物學及細胞培養等。現在，隨著 AI 輔助設計，許多專業知識可以通過簡單地給出提示和下訂單來替代。
當前的 DNA 合成規則是為了捕捉已知的危險病原體和已在數據庫中列出的序列而設計的。理論上，與任何已知病原體不匹配的計算機生成序列可能會通過這些檢查。生物安全專家多年來一直指出這一漏洞，現在 AI 生成的病毒已經被製造出來，這一擔憂變得更加真實。
科學研究與安全的平衡
此外，發表研究的問題也隨之而來。在科學論文中共享詳細方法有助於他人驗證結果並促進進展，但同時也可能提供技術指南以供不當使用。在開放科學與安全之間取得平衡並不容易，不同機構在應對這一挑戰時各自採取不同的方法。
目前的安全系統，如機構生物安全委員會、美國的選擇性病原體計劃及某些生物材料的出口管制，並未針對 AI 生成的序列進行設計。一些政策專家建議，應該在商業基因合成公司中強制進行 AI 篩查，這些公司已經進行了一些基於序列的檢查。然而，篩查沒有已知匹配的計算機生成序列在技術上是困難的，且在行業中尚未標準化。
國際協調也不存在。生物武器公約並沒有正式的方式來驗證合規性。也沒有國際組織有權審計 AI 和生物學研究，類似於國際原子能機構對核計劃所做的工作。
研究社區對於如何應對此事存在分歧。一些病毒學家認為，對於可能的情況保持開放是重要的，這樣政策才能跟上技術的發展。另一些人則認為，詳細的方法不應該在此時公開，不論其意圖如何。當前最迫切的問題是基因合成公司、資助機構和監管機構能否在這項技術變得普遍之前就新篩查標準達成共識。
AI 生成病毒對生物安全的挑戰
隨著人工智能技術的進步，科學家能夠設計出可繁殖的合成病毒，這一發展引發了對生物安全的廣泛擔憂。生成的病毒可能逃避現有的監控系統，增加了潛在的生物武器風險。此外，科學界對於如何在促進研究與確保安全之間取得平衡存在分歧，這使得政策制定變得更加複雜。在這種情況下，亟需建立新的篩查標準和國際協調，以應對這一新興的挑戰。