Anthropicは公式に、非営利団体METRとの協力を開始し、同社の人工知能モデルに対して従業員レベルのアクセス権を提供し、より強力な独立評価を行うことを発表した。この取り組みは、同社が先月約束したモデルおよび安全実践の独立した第三者評価の一環である。
独立評価者との協力の理由
モデルの能力が向上するにつれて、安全対策やリスク評価に対する要求も高まっている。Anthropicは、行った決定に責任を持ちたいと考えているが、安全に関するすべての情報を公開することはできないと述べている。なぜなら、特定の情報は悪意のある行為者に利用される可能性があるか、商業的に敏感なデータであるためである。
「私たちは、評価者が最先端の人工知能企業のシステムを理解するためのギャップを縮小したいと考えています。」
Anthropic
METRの役割と評価方法
METRは、Anthropicのリスク報告を評価し、そのリスク評価結果を公開する責任を負う。AnthropicはすでにMETRと複数回のリスク報告のレビューを行っており、SecureBioやAccentureを含む他の評価機関との協力をさらに強化する計画である。
「私たちの目標は、パートナーが機密情報を保護し、私たちのモデルを評価するために必要なリソースと専門知識を持つことを確保することです。」
Anthropic
評価者のアクセスレベルとその影響
Anthropicは、評価者に対して3つのアクセスレベルを設定する計画であり、協力が進むにつれて評価者の情報アクセス権を段階的に引き上げる。第一レベルの評価者は狭義のリスク調査を行い、第二レベルの評価者は会社の承認なしに結果を発表できる。METRとの協力は第三レベルに属し、従業員に類似したアクセス権を享受する。
「私たちは、すべての最先端の人工知能企業が同様の埋め込み評価措置を採用すべきだと信じています。」
Anthropic
この一連の措置は、Anthropicが人工知能の安全規制において重要な一歩を踏み出したことを示しており、同社のモデルに対する透明性と責任感を強化することを目的としている。
資料来源：Anthropic公式公告