OpenAI 联手外部安全研究人员 加强数字防御体系

·作者 Henderson·Engineering
OpenAI 联手外部安全研究人员 加强数字防御体系
重点
  • OpenAI 正在与外部安全研究人员合作,加强其数字防御体系。
  • 这次合作将利用不同的专业知识来识别系统中的弱点。
  • OpenAI 提高了安全漏洞奖励,最高可达 US$172,000。
  • 该公司希望建立持续的防御循环,及时发现和修复弱点。

OpenAI 正在邀请外部安全研究人员参加其下一次内部安全冲刺,并授予他们访问其模型的权限,以帮助发现防御中的弱点。该公司与 Cathedral Systems 合作,该公司的研究人员将与 OpenAI 的团队合作,测试其系统并加强其平台的保护。这次计划的演习建立在先前的冲刺上,该冲刺涉及了 25% 的 OpenAI 产品工程师。除了这项合作,该公司还提高了其安全漏洞奖励,对于特殊的发现,最高可获得高达 US$172,000 (约 HK$1,341,600)的奖励,包括奖金。

OpenAI 尚未具体说明下一次冲刺何时开始。这一努力被框架为更广泛的推进,旨在持续利用人工智能识别和修复漏洞,防止攻击者利用这些弱点。

外部研究人员的角色

外部研究人员加入防御测试,Cathedral 的研究人员将使用 OpenAI 的模型,并与公司的安全团队一起挑战其防御系统。OpenAI 表示,此次合作将带来不同的专业知识和方法来识别弱点。根据 Cathedral 的首席执行官兼联合创始人 Gavin Kliger 的说法,这项合作还将涉及测试修复措施。他表示:“OpenAI 通过与外部安全公司合作,并利用其自身模型来持续测试和加强防御,树立了一个重要的榜样。

每家公司都应该考虑如何利用这些能力。”他补充道:“我们对能与 OpenAI 的团队合作感到兴奋,结合他们的模型和安全专业知识,利用我们的研究来发现弱点、测试修复措施,并加强这种持续防御的方法。”

这一公告描述了一项计划中的合作,而非已完成的发现。它并未具体指出通过新合作关系发现的特定弱点,也未详细说明研究人员将检查的系统。OpenAI 也大幅提高了其安全漏洞奖励计划中对于关键发现的奖励,最高支付金额为 US$172,000 (约 HK$1,341,600),包括奖金,适用于特别的发现。该公司表示希望研究人员挑战其假设,并加强其系统及其防御方法。在先前的内部冲刺中,工程师使用 Codex 来调查发现,重现孤立环境中的漏洞,并准备补丁进行审核。

OpenAI 将四分之一的产品工程师投入到这项工作中。下一次冲刺旨在通过将新研究人员和安全伙伴与内部团队聚集在一起建立在这项工作的基础上。

扩大防御工具的访问

扩大对人工智能防御工具的访问,OpenAI 指出,仅依赖传统的网络防御已不再足够,并以最近的行业事件作为证据,显示威胁是多么迅速地出现。其声明的目标是建立持续的防御循环,在攻击者之前发现和修复弱点。除了其内部系统外,该公司还将其最强大的模型提供给 Daybreak 客户。它承诺在六个月内为保护关键服务和数字基础设施的前线防御者提供 10 亿美元的补贴访问。OpenAI 还分享其架构和先前冲刺的经验教训,以及一个赋权于行业和政府网络防御者的蓝图。

该公司表示,将持续推进其模型,将其应用于自身防御,并在人工智能能更有效地发现漏洞的情况下,扩大对可信防御者的访问。

OpenAI 如何应对安全挑战

OpenAI 与外部安全研究人员的合作显示了其对于数字防御的重视。随着人工智能技术的迅速发展,传统的防御措施已经无法满足安全需求,因此需要不断测试和改进防御系统。这次冲刺不仅强调了外部专业知识的重要性,还显示了 OpenAI 在安全漏洞奖励计划上的积极态度,以激励更多研究人员参与发现和修复潜在的弱点。这一系列措施旨在建立一个更加健全的防御体系,以应对不断变化的安全威胁。

H
关于作者
Henderson