Google DeepMind の研究チームは、Signal メッセージの安全性に関する形式化検証を完了し、これは初めて人工知能が支援して構築した証明であると述べた。この証明は、プロトコルレベルの安全保証と広く使用されている暗号実装を対応させたものである。
この作業は AlphaProof Code に依存しており、これはソフトウェアの形式化規約と検証のためのマルチエージェントフレームワークである。プロセスとしては、まず人工的に導かれたエージェントが Lean 規約を作成し、機械コードの意味を評価し、その後エージェントが証明を生成し、Lean カーネルが規約に対して逐次チェックを行う。
検証対象は Signal の後量子 PQXDH ハンドシェイクと Triple Ratchet であり、これにより libsignal の前向き秘匿性、認証、鍵漏洩後の復元能力、ハンドシェイクの秘匿性に関する設計が確認された。この成果は、今年 4 月に有益な人工知能基金が提案した構想にさらに近づくものであり、同基金は Lean を用いて Signal プロトコルとアプリケーションの形式化検証を行うことを望んでいる。
具体的な手法としては、まず複数のモデルと協力し、Signal の安全目標を人工的にレビューされた数学的規約に変換し、その後 Gemini Carbon エージェントがそれに基づいて Lean コードを生成し、libsignal 実装の正確性を証明する。エージェントは累計で 650 万行のコードを生成し、チームはその後一巡の監査を行い、人工的に再確認が必要な部分を特定した。
Google DeepMind が Signal メッセージの安全性を成功裏に検証
“これは根本的に人間と人工知能が協力するために構築されたシステムです，”と Google DeepMind の研究科学者であり、テキサス大学オースティン校の教授である Swarat Chaudhuri は述べた。彼は、従来の方法では数学者が明確に定義された問題を人工知能に証明させるのに対し、今回はまず何を証明すべきかを明確にする必要があったと説明した。