生成AIの能力向上が続く中、「AIによる生物兵器の惨事を引き起こすのではないか」という懸念が最近になって一気に高まっている。これに先立ち、複数のAI企業の経営トップが合成DNA製造の規制強化を求め、スタンフォード大学とArc研究所の研究者らはAIが新たなウイルスゲノムを設計できることを実証した。これらの進展により、「AIが致死的な病原体を製造する」という議論が一段と拡大している。
一方で、複数の科学者は、AIが生物兵器にもたらす現実の脅威は現時点では依然として限定的だと見ている。研究者は、AIはどちらかといえば情報の検索と整理を加速する道具にすぎず、生物兵器の開発における本質的な難所を根本から変えてはいないと指摘する。真のハードルは依然として実験の段階にあり、具体的には遺伝子断片の入手、ゼロからの完全なゲノムの組み立て、ヒトへの感染力とヒト集団での伝播力の検証、そして必要な原材料、設備、専門知識が挙げられる。
AIが生物兵器開発にもたらす脅威は依然として限定的
実験室の実行という観点から見ても、現時点ではAIが独力で関連プロセスを完結させることはやはり難しい。バイオテクノロジー企業Ginkgo Bioworksの関係者は、AIが実験プロセスに参画できたとしても、依然として人間が設備、試薬、操作面でのサポートを提供する必要があり、人による審査自体がすでに重要な制約となると述べた。また一部の専門家は、今後さらに強力な汎用AIが登場したとしても、人間の研究者がワクチン開発や防疫体制によって対処することは可能だと考えている。
一方で、短期的にはより警戒すべきはAIが独自に生物攻撃を仕掛けることではなく、AIが悪用されるリスクだとする見方もある。関連の専門家は、完全自律型の実験室はまだ普及していないものの、AIが情報の統合、タスクの分解、実行の支援を通じて一部のハードルを下げる可能性はあるため、生物テロへの利用という可能性を見過ごすべきではないとしている。また別の研究者は、生物兵器自体が効率的な攻撃手段とは言えず、その難しさは精密かつ大規模な製造と伝播の制御にあり、実際の操作の複雑さは従来の攻撃手段よりも高いと指摘している。