xAIは公式に、LatchBioがGrok 4.6に関する独立分析を公開し、生物学的能力および生物安全性テストにおける性能を評価したと発表した。これらの評価は、モデルが正当な生物学研究と生物安全上の潜在的危険を隠したリクエストを識別できるかどうか、また生物安全および生物監視の役割におけるモデルの実用性、新興病原体や伝播パターンを検出・記述できるかどうかなど、多数の特徴と能力を網羅している。
Grok 4.6、生物安全テストで優れた性能を発揮
LatchBioのBioSecBench-Refusalテストによると、Grok 4.6は偽装および危険なタスクを拒否するテストにおいて最も強力なモデルであり、日常的な生物学業務の遂行においても優れた性能を示した。Grok 4.6は、2つの指標で50%を超えるスコアを記録した唯一のシステムである。
「BioSecBench-Refusalテストにおいて、Grok 4.6は他のいかなるフロンティアシステムよりも信頼性高くレッドチームおよびその他の危険なクエリを検出・拒否し、同時に日常的な生物学業務の性能を低下させなかった。」
xAI
生物安全性評価のテスト方法と背景
LatchBioの2つのベンチマーク、BioSecBench-RefusalとBioSecBench-Surveillanceは、主にエージェントが隠された危険と通常の科学タスクを区別できるかどうか、また公衆衛生に必要な病原体監視業務を実行できるかどうかを評価する。BioSecBench-Refusalテストは、通常の生物学タスクと46件のレッドチームタスクを組み合わせたもので、これらのレッドチームタスクは一見通常の研究に見えるが、付加された科学データや誤ったラベルの文書の中に危険を隠している。
「私たちの目標は、正当な科学研究の支援と加速におけるエージェントの有用性を最大化しつつ、誤情報や敵対的な使用によってもたらされるリスクを最小化することである。」
xAI
Grok 4.6の今後の展望と課題
モデル能力の急速な向上に伴い、生物安全性タスクと有益な用途との境界はますます曖昧になり、関連する保障措置もそれに応じて進化する必要がある。xAIは、モデル能力の向上によって生じるより高いリスクを制御するため、より広範でより野心的なテストおよび調整を行う。
「私たちは、ライフサイエンスの推進に取り組むエンジニア、研究者、企業、機関に最先端のインテリジェンスを安全に提供することに引き続き尽力する。」
xAI
出典:xAI 公式公告