- Anthropicは、研究者がClaudeを利用して生物兵器開発を支援する活動を5件阻止した。
- 合法的な研究と危険な作業の境界を確定することは難しい。生物研究には二重用途の可能性がある。
- Anthropicは、Claudeの不正利用のさまざまな方法について詳述した詳細な脅威インテリジェンスレポートを発表した。
- モデルの能力が向上するにつれて、合法的な研究と危険な研究の区別がより難しくなっている。
Anthropicは、研究者がClaudeを利用して生物兵器の開発を支援する可能性がある活動を5件阻止したと発表した。同社は、研究者が意図的に危害を加えようとしたかどうかは不明だが、潜在的な結果があまりにも深刻であるため、これらの活動を阻止したと述べている。これらの事例は2025年12月から2026年8月までの間に発生し、Anthropicは新しい脅威インテリジェンスレポートでこれらのモデルの不正利用について詳述した。同社は、これらの事件が最先端のモデルが科学研究の能力を高めるにつれて、より発見しにくい生物学的リスクが生じる可能性があることを示していると述べた。
合法的な研究と危険な研究の境界
Anthropicにとって最大の課題は、合法的な研究と危険な作業の境界を確定することである。生物研究はしばしば二重用途の可能性がある。科学知識は同じく医療治療をサポートし、より危険な病原体の促進にも繋がる可能性がある。Anthropicの脅威インテリジェンス責任者であるJacob Klein氏は『ニューヨーク・タイムズ』に対し、このような状況では明らかな悪意の表明はほとんどないと語った。研究者は一見合法的な科学的な目標を示しながら、深刻な安全問題を引き起こす作業に従事することができる。
「私たちはこれまでで最も詳細な脅威インテリジェンスレポートを発表しています。このレポートは、人々がClaudeの不正利用を試みる方法——ネットワーク攻撃、操作への影響、監視、生物研究、武器建設——および私たちがこれらの行為を発見し阻止する方法について詳述しています。」Anthropicはソーシャルメディアでこう述べ、「私たちは報告書に載っているすべての操作を阻止しました。」と付け加えた。
Claudeの不正利用の事例分析
Anthropicの調査では、地域制限を回避し、セキュリティシステムを逃れる試みが発見された。同社はこの活動に関連するアカウントを禁止し、当局および他の人工知能会社と調査結果を共有した。一つの事例は、チクングニア熱に関連する研究に関連しており、Anthropicのシステムは、軍事研究機関での実施を目的とした機能強化研究に関する助成申請の要求を阻止した。このことは、同社の懸念をさらに悪化させた。研究者はClaudeが敏感な要求を阻止した後、他のチャネルを通じて作業を続けた。
Anthropicはまた、拒否された生物学的プロンプトを販売プラットフォームが高セキュリティの弱いモデルに誘導していることも発見した。第二の事例は、高病原性鳥インフルエンザの研究に関連していた。Anthropicは、研究者がClaudeを使用して研究計画、データ分析、科学的な解釈を行うのに数週間を費やしたと述べた。同社は、そのセキュリティ対策が研究者が最も強力なモデルにアクセスして敏感な作業を行うことを阻止し、その活動が最終的に弱いバージョンのモデルにとどまったと指摘した。
高リスクの生物学的クエリの制御措置
Anthropicは、さらに3件の生物学的研究に関連する事例を報告した。これらの事例には、正痘ウイルス、毒素、および毒液に関連する化合物に関する作業が含まれていた。同社は、研究者の身元、場所、および具体的な生物学的詳細を保持している。Anthropicは、科学者が意図的に危害を加えようとしているとは主張していない。この区別は非常に重要である。なぜなら、旧バージョンのClaudeモデルは複雑な生物学的研究をサポートするのに限られた能力しか示していないからだ。Anthropicは現在、新しいシステムに対して同じ仮定をすることはできないと述べている。
微生物学者および元米国公衆衛生局の職員であるSusan Monarez氏は、レポートの発表前にレビューを行った。彼女は『ニューヨーク・タイムズ』に対し、高度なモデルが悪意のある行為者が合法的な科学的な目標の裏に危険な研究を隠すのを助ける可能性があることを伝えた。Anthropicは、高リスクの生物学的クエリに対する制御措置を強化した。同社はまた、研究者が有用な科学的能力へのアクセスを維持することを望んでいると述べ、これは困難な技術的問題を引き起こすと指摘した。セキュリティ対策は、合法的な研究を妨げることなく、危険な支援を阻止しなければならない。
Anthropicの最近の事例は、最先端のモデルがより深い科学的能力を備えるにつれて、この区別がより難しくなっていることを示している。
最先端のモデルが生物研究に与える影響
人工知能モデルの進歩に伴い、研究者は合法的な科学的な目標の下で潜在的に危険な生物学的研究を行う可能性がある。Anthropicのレポートは、この現象を明らかにし、生物研究分野における二重用途の潜在的なリスクの増加を示している。これはテクノロジー企業のセキュリティ対策を試みるだけでなく、科学の進歩と公共の安全のバランスを取る方法について深く考えることを促している。技術の急速な発展に伴い、研究が誤用されないようにすることが重要な課題となり、将来の科学研究とその応用に大きな影響を与えることになる。