OpenAIは外部の安全研究者と連携し、デジタル防御システムを強化する

·著者 Henderson·Engineering
OpenAIは外部の安全研究者と連携し、デジタル防御システムを強化する
ポイント
  • OpenAIは外部の安全研究者と協力し、デジタル防御システムを強化している。
  • この協力は、異なる専門知識を活用してシステムの弱点を特定することを目的としている。
  • OpenAIはセキュリティ脆弱性の報奨金を引き上げ、最高でUS$172,000に達する。
  • 同社は継続的な防御サイクルを構築し、弱点を迅速に発見・修正することを目指している。

OpenAIは外部の安全研究者を次回の内部セキュリティスプリントに招待し、彼らにモデルへのアクセス権を付与して、防御の弱点を発見する手助けを行う。同社はCathedral Systemsと提携し、同社の研究者がOpenAIのチームと協力してシステムをテストし、プラットフォームの保護を強化する。この計画された演習は、以前のスプリントに基づいており、そのスプリントにはOpenAIの製品エンジニアの25%が関与していた。この協力に加えて、同社はセキュリティ脆弱性の報奨金を引き上げ、特別な発見に対して最高US$172,000(約HK$1,341,600)の報奨金を提供する。

OpenAIは次回のスプリントがいつ始まるか具体的には明らかにしていない。この取り組みは、AIを活用して脆弱性を特定・修正し、攻撃者がこれらの弱点を利用するのを防ぐというより広範な推進の一環として位置づけられている。

外部研究者の役割

外部研究者は防御テストに参加し、Cathedralの研究者はOpenAIのモデルを使用し、同社のセキュリティチームと共に防御システムに挑戦する。OpenAIは、この協力が異なる専門知識とアプローチをもたらし、弱点を特定することを示していると述べている。CathedralのCEO兼共同創業者であるGavin Kligerによれば、この協力には修正措置のテストも含まれるという。彼は「OpenAIは外部のセキュリティ企業と協力し、自社のモデルを活用して防御を継続的にテスト・強化することで、重要な模範を示している」と述べた。

「すべての企業は、これらの能力をどのように活用できるかを考慮すべきだ」と彼は付け加えた。「我々はOpenAIのチームと協力できることに興奮しており、彼らのモデルとセキュリティの専門知識を組み合わせ、我々の研究を活用して弱点を発見し、修正措置をテストし、この継続的な防御アプローチを強化することを目指している。」

この発表は、計画された協力を示しており、完了した発見ではない。新しい協力関係を通じて発見された特定の弱点については具体的に言及されておらず、研究者が調査するシステムについても詳細は示されていない。OpenAIはまた、セキュリティ脆弱性報奨金プログラムにおける重要な発見に対する報奨金を大幅に引き上げ、最高でUS$172,000(約HK$1,341,600)の報奨金を提供することを発表した。同社は、研究者が自社の仮定に挑戦し、システムとその防御手法を強化することを期待している。以前の内部スプリントでは、エンジニアがCodexを使用して発見を調査し、孤立した環境での脆弱性を再現し、パッチを準備して審査を行った。

OpenAIは製品エンジニアの4分の1をこの作業に投入している。次回のスプリントは、新しい研究者やセキュリティパートナーを内部チームと結集させることで、この作業の基盤の上に構築されることを目指している。

防御ツールへのアクセスの拡大

AI防御ツールへのアクセスを拡大する中で、OpenAIは従来のネットワーク防御に依存するだけでは不十分であると指摘し、最近の業界の出来事を証拠として、脅威がいかに迅速に現れるかを示している。同社の声明の目標は、攻撃者よりも早く弱点を発見し修正するための継続的な防御サイクルを確立することである。内部システムに加えて、同社は最も強力なモデルをDaybreakの顧客に提供している。重要なサービスとデジタルインフラを保護する前線の防御者に対して、6か月以内に10億ドルの補助金アクセスを提供することを約束している。OpenAIはまた、業界と政府のネットワーク防御者を支援するためのブループリントや、以前のスプリントからの教訓を共有している。

同社は、モデルを継続的に進化させ、自社の防御に適用し、AIがより効果的に脆弱性を発見できるようになるにつれて、信頼できる防御者へのアクセスを拡大することを目指している。

OpenAIのセキュリティ課題への対応

OpenAIと外部の安全研究者との協力は、デジタル防御に対する同社の重視を示している。AI技術の急速な発展に伴い、従来の防御策では安全ニーズを満たすことができなくなっているため、防御システムの継続的なテストと改善が必要である。このスプリントは、外部の専門知識の重要性を強調するだけでなく、潜在的な弱点の発見と修正に参加する研究者を奨励するためのセキュリティ脆弱性報奨金プログラムに対するOpenAIの積極的な姿勢を示している。これらの一連の措置は、変化するセキュリティ脅威に対応するためのより健全な防御体制を構築することを目的としている。

H
著者について
Henderson