Anthropicは、蒸留攻撃の有効性を減少させるために顕著な進展を遂げ、新しい方法を紹介したと公式に発表した。初期の証拠によれば、これらの新しい措置により、蒸留者が収集するデータ量が約90%から99%減少した。
蒸留攻撃の定義と影響
蒸留攻撃とは、原始モデルの開発者の許可を得ずに、あるモデルの能力を抽出し、別のモデルに複製することを目的とした隠密な工業規模の行動を指す。この種の攻撃は通常、偽のアカウントネットワークを通じて行われ、企業が開発時間とコストを抑えて最先端技術の能力を模倣することを可能にする。Anthropicは、この方法が海外の人工知能研究所が米国企業と競争を維持するために広く利用されていると述べている。
「蒸留は企業が能力の限界に近いモデルを構築することを可能にするが、これらのモデルには実際には相応の強力な防護措置がない。」
Anthropic
防御措置の強化の必要性
Anthropicが蒸留攻撃に対して抱える懸念は主に二つの側面から来ている。第一に、蒸留モデルは生物学やネットワークセキュリティなどの分野で重大な損害を引き起こす可能性がある。第二に、これらの違法に蒸留されたモデルは国家安全保障にリスクをもたらす可能性があり、外国の軍事、情報、監視システムに統合される可能性がある。これらのますます複雑で大規模な攻撃に対処するために、Anthropicは防御措置を拡大し強化した。
「私たちの防御措置は成功を収めているが、これらの措置はAnthropicと私たちの顧客にとってトレードオフを伴う。」
Anthropic
新しい防御措置の具体的な実施
Anthropicの現在の防御措置は主に三つの側面から成り立っており、合法的なユーザーへの影響を最小限に抑えることを目的としている。第一に、推論の流れを制御し、蒸留者が異なる方法を用いてClaudeの完全な推論記録を抽出するのを防ぐ。第二に、抽出の試みを阻止し修正するために、安全措置を強化し、Claudeを用いた蒸留の難易度を下げる。最後に、蒸留攻撃を識別し阻止する能力をさらに向上させ、これらの措置がさまざまな攻撃手法に効果的に対応できることを確保する。
「私たちはこの文章が開発者やプラットフォームがこれらの攻撃を防ぐ方法をよりよく理解する手助けになることを願っている。」
Anthropic
これらの新しい措置の実施には合法的なユーザーによる一定の統合更新が必要だが、Anthropicはこれらのコストは負担する価値があると考えている。蒸留攻撃が継続的に増加する中で、防御措置の強化はモデル開発者が直面しなければならない重要な課題となるだろう。
資料来源：Anthropic公式発表