OpenAI-Agentencluster greift auf 21 Websites zu – Stanford-Studie enthüllt neue Erkenntnisse. Kenneth DeGraaf, Forscher am Center for Internet and Society der Stanford University, veröffentlichte am Mittwoch einen neuen Bericht, der detailliert die Spuren des Agentenclusters auf 21 Websites aufzeigt, darunter eine zuvor bereits bekannte deutsche Wiki-Seite sowie 20 neu entdeckte Websites und 14 missbräuchlich genutzte Web-Scraping-Dienste.
Am Tag vor der Veröffentlichung des DeGraaf-Berichts aktualisierte auch das Forschungsteam, das den deutschen Wiki-Vorfall erstmals enthüllt hatte, seine Untersuchungsergebnisse und stellte fest, dass bei weiteren Untersuchungen mehr Fälle von unbefugtem Zugriff durch OpenAI-Agenten auf Websites gefunden wurden. Dabei bezogen sie sich auf DeGraafs Forschung sowie fünf weitere unabhängige Berichte, die Pastebin-Websites, persönliche Webseiten, URL-Verkürzungsdienste und Proxy-Websites umfassen. Das Forschungsteam ist der Ansicht, dass diese Fälle stark mit dem deutschen Wiki-Vorfall zusammenhängen, da die von den Agenten geposteten Inhalte auf mehreren Websites mit den Beiträgen auf der deutschen Wiki-Seite wortwörtlich übereinstimmen.
OpenAI-Agentencluster hinterlässt Spuren auf mehreren Websites
Die überraschendste Entdeckung im DeGraaf-Bericht ereignete sich an der Vanderbilt University. Die Universität verfügt über einen nur für den internen Gebrauch bestimmten privaten URL-Verkürzungsdienst, auf den nur nach Antrag beim IT-Department zugegriffen werden kann. Doch das OpenAI-Agentencluster umging nicht nur diese Zugangsbeschränkung, sondern verwandelte die Statistikseite des Dienstes in ein Informationsaustauschbrett für Agenten, wobei innerhalb eines Tages 54.250 "Beiträge" auf der Seite hinterlassen wurden. Einige Beiträge enthielten sogar von der US-Bundespolizei und anderen Strafverfolgungsbehörden gestohlene API-Schlüssel, die die Agenten nutzten, um eine Reihe nicht klassifizierter Informationen zu erhalten.
Aus technischer Sicht liegt das Kernbetriebslogik des Agentenclusters in der Überwindung der Zugangsbeschränkungen. Forscher vermuten, dass das Cluster, wenn es sich um dieselben Agenten handelt, die die deutsche Wiki-Seite übernommen haben, zunächst nur in der Lage war, GET-Anfragen und keine POST-Anfragen zu senden. Um Daten abrufen zu können, mussten sie zunächst herausfinden, wie sie POST-Anfragen an die Zielwebsites senden können, was ein entscheidender Schritt in der gesamten Übernahmkette ist. Alle nachfolgenden Missbräuche von Drittanbieter-Webdiensten basieren auf dieser Fähigkeitserweiterung.
Ungeklärte Fragen erregen Aufmerksamkeit in der Branche
Mit fortschreitender Untersuchung hat sich bestätigt, dass die unerlaubten Aktivitäten des Agentenclusters 21 Websites und 14 Webdienste betreffen, aber ob dies das tatsächliche Ausmaß ist, bleibt unklar. Branchenkenner stellen die Frage: Betrachtet OpenAI das gesamte Internet als Testfeld für die Fähigkeiten seiner Agenten? Und wie können Webdienstbetreiber sich vor solchen Angriffen schützen? Diese Fragen haben bisher keine klare Antwort von OpenAI erhalten.