OpenAI kooperiert mit externen Sicherheitsforschern zur Stärkung des digitalen Verteidigungssystems

·von Henderson·Engineering
OpenAI kooperiert mit externen Sicherheitsforschern zur Stärkung des digitalen Verteidigungssystems
Wichtige Punkte
  • OpenAI arbeitet mit externen Sicherheitsforschern zusammen, um sein digitales Verteidigungssystem zu stärken.
  • Diese Zusammenarbeit wird verschiedene Fachkenntnisse nutzen, um Schwachstellen im System zu identifizieren.
  • OpenAI hat die Belohnungen für Sicherheitslücken erhöht, die bis zu 172.000 US-Dollar betragen können.
  • Das Unternehmen möchte einen kontinuierlichen Verteidigungszyklus aufbauen, um Schwachstellen rechtzeitig zu erkennen und zu beheben.

OpenAI lädt externe Sicherheitsforscher ein, an seinem nächsten internen Sicherheitssprint teilzunehmen und gewährt ihnen Zugang zu seinen Modellen, um Schwachstellen in der Verteidigung zu identifizieren. Das Unternehmen arbeitet mit Cathedral Systems zusammen, deren Forscher mit dem Team von OpenAI zusammenarbeiten werden, um die Systeme zu testen und den Schutz der Plattform zu verstärken. Diese geplante Übung baut auf einem vorherigen Sprint auf, an dem 25 % der Produktingenieure von OpenAI beteiligt waren. Neben dieser Zusammenarbeit hat das Unternehmen auch die Belohnungen für Sicherheitslücken erhöht, wobei für besondere Entdeckungen bis zu 172.000 US-Dollar (ca. 1.341.600 HKD) als Belohnung, einschließlich Boni, vergeben werden können.

OpenAI hat noch nicht konkretisiert, wann der nächste Sprint beginnen wird. Dieses Bemühen wird als Teil eines umfassenderen Vorstoßes betrachtet, der darauf abzielt, kontinuierlich KI zur Identifizierung und Behebung von Schwachstellen zu nutzen, um zu verhindern, dass Angreifer diese Schwächen ausnutzen.

Rolle der externen Forscher

Externe Forscher nehmen an den Verteidigungstests teil, während die Forscher von Cathedral OpenAIs Modelle nutzen und gemeinsam mit dem Sicherheitsteam des Unternehmens die Verteidigungssysteme herausfordern werden. OpenAI erklärt, dass diese Zusammenarbeit unterschiedliche Fachkenntnisse und Ansätze zur Identifizierung von Schwachstellen mit sich bringt. Laut Gavin Kliger, CEO und Mitgründer von Cathedral, wird diese Zusammenarbeit auch das Testen von Gegenmaßnahmen umfassen. Er sagte: „OpenAI setzt mit der Zusammenarbeit mit externen Sicherheitsunternehmen und der kontinuierlichen Prüfung und Stärkung der Verteidigung durch die Nutzung ihrer eigenen Modelle ein wichtiges Zeichen.“

„Jedes Unternehmen sollte in Betracht ziehen, wie es diese Fähigkeiten nutzen kann.“ Er fügte hinzu: „Wir sind begeistert, mit dem Team von OpenAI zusammenzuarbeiten, um ihre Modelle und Sicherheitskompetenzen zu kombinieren, unsere Forschung zu nutzen, um Schwachstellen zu entdecken, Gegenmaßnahmen zu testen und diesen kontinuierlichen Verteidigungsansatz zu stärken.“

Diese Ankündigung beschreibt eine geplante Zusammenarbeit und nicht bereits abgeschlossene Entdeckungen. Sie gibt nicht konkret an, welche spezifischen Schwachstellen durch die neue Partnerschaft entdeckt wurden, noch werden die Systeme, die die Forscher untersuchen werden, im Detail beschrieben. OpenAI hat auch die Belohnungen in seinem Programm für Sicherheitslücken erheblich erhöht, wobei die Höchstsumme für kritische Entdeckungen 172.000 US-Dollar (ca. 1.341.600 HKD) beträgt, einschließlich Boni, die für besondere Entdeckungen gelten. Das Unternehmen hofft, dass die Forscher ihre Annahmen herausfordern und ihre Systeme sowie ihre Verteidigungsmethoden stärken. In einem vorherigen internen Sprint nutzten Ingenieure Codex, um Entdeckungen zu untersuchen, Schwachstellen in isolierten Umgebungen zu reproduzieren und Patches zur Überprüfung vorzubereiten.

OpenAI hat ein Viertel seiner Produktingenieure in diese Arbeit investiert. Der nächste Sprint zielt darauf ab, auf dieser Arbeit aufzubauen, indem neue Forscher und Sicherheitspartner mit internen Teams zusammengebracht werden.

Erweiterung des Zugangs zu Verteidigungstools

OpenAI weist darauf hin, dass der Zugang zu KI-Verteidigungstools erweitert werden muss, da es nicht mehr ausreicht, sich nur auf traditionelle Netzwerkschutzmaßnahmen zu verlassen, und führt aktuelle Branchenereignisse als Beweis an, die zeigen, wie schnell Bedrohungen auftreten können. Das Ziel seiner Erklärung ist es, einen kontinuierlichen Verteidigungszyklus aufzubauen, um Schwachstellen vor den Angreifern zu erkennen und zu beheben. Neben seinen internen Systemen stellt das Unternehmen auch sein leistungsstärkstes Modell den Daybreak-Kunden zur Verfügung. Es hat sich verpflichtet, innerhalb von sechs Monaten 1 Milliarde US-Dollar an subventioniertem Zugang für Frontline-Verteidiger bereitzustellen, die kritische Dienste und digitale Infrastrukturen schützen. OpenAI teilt auch seine Architektur und die Lehren aus früheren Sprints sowie einen Plan, der die Netzverteidiger in der Branche und der Regierung ermächtigt.

Das Unternehmen erklärt, dass es seine Modelle kontinuierlich weiterentwickeln wird, um sie auf die eigene Verteidigung anzuwenden und den Zugang für vertrauenswürdige Verteidiger zu erweitern, sobald KI effektiver Schwachstellen erkennen kann.

Wie OpenAI auf Sicherheitsherausforderungen reagiert

Die Zusammenarbeit von OpenAI mit externen Sicherheitsforschern zeigt das Engagement des Unternehmens für digitale Verteidigung. Angesichts der rasanten Entwicklung von KI-Technologien sind traditionelle Schutzmaßnahmen nicht mehr ausreichend, weshalb es notwendig ist, die Verteidigungssysteme kontinuierlich zu testen und zu verbessern. Dieser Sprint betont nicht nur die Bedeutung externer Fachkenntnisse, sondern zeigt auch OpenAIs proaktive Haltung im Sicherheitslücken-Belohnungsprogramm, um mehr Forscher zur Entdeckung und Behebung potenzieller Schwachstellen zu motivieren. Diese Reihe von Maßnahmen zielt darauf ab, ein robusteres Verteidigungssystem zu schaffen, um den sich ständig ändernden Sicherheitsbedrohungen zu begegnen.

H
Über den Autor
Henderson