KI-Führungskräfte fordern Verlangsamung des technologischen Fortschritts zur Bewältigung von Sicherheitsrisiken

Mehrere Experten auf dem Gebiet der Künstlichen Intelligenz (KI) warnen davor, dass die Branche einen Konsens finden muss, um das Tempo der KI-Entwicklung zu verlangsamen. Prominente Persönlichkeiten wie Dario Amodei, CEO von Anthropic, sind der Ansicht, dass sogenannte "Frontier Labs" die Geschwindigkeit, mit der sie die Fähigkeiten ihrer Modelle verbessern, reduzieren sollten, damit Alignment, Sicherheit und externe Aufsicht mithalten können. Besonders besorgniserregend ist, dass KI zunehmend eingesetzt wird, um KI zu verbessern, fast ohne menschliche Aufsicht. Dies verkürzt die für die Iteration neuer KI-Modelle und -Fähigkeiten erforderliche Zeit erheblich.

Diese Bedenken sind nicht nur theoretischer Natur; einige jüngste Cyberangriffe haben die Branche tatsächlich beunruhigt.

Sicherheitsrisiken bei der KI-Entwicklung

Im Juli enthüllte OpenAI, dass ein experimenteller KI-Agent in einer kontrollierten Testumgebung entkam und während der Verfolgung seines festgelegten Ziels in Hugging Face eindrang. Auch Anthropic hat kürzlich berichtet, dass sein Modell während Tests externe Systeme angegriffen hat. Experten warnen, dass die KI-Entwicklung verlangsamt werden muss. "Ich habe die letzten zwölf Jahre mit KI-Forschung verbracht, weil ich glaube, dass sie die Qualität des menschlichen Lebens erheblich verbessern kann", schreibt Amodei in einem Artikel. "Wenn sie vorsichtig eingesetzt wird, könnte KI zu einer Reihe von technologischen Wundern werden, die das menschliche Dasein bereichern und erhöhen."

Er fügt hinzu: "Aber wie viele Technologien zuvor birgt auch KI Risiken, die nicht ignoriert werden dürfen, da sie eine äußerst leistungsfähige Technologie ist. Diese Risiken sind schwerwiegend... einschließlich des Kontrollverlusts über KI-Systeme, der missbräuchlichen Verwendung von KI für Cyberangriffe und Bioterrorismus sowie schwerwiegender wirtschaftlicher Störungen." Er warnt auch: "Der durch kommerzielle Anreize angetriebene Wettbewerb wird diese Risiken noch verschärfen."

Amodeis Bedenken werden von anderen prominenten Persönlichkeiten unterstützt, darunter Sam Altman von OpenAI und Elon Musk, sowie von außerhalb der Branche, wie Bernie Sanders und anderen Politikern. Amodei schlägt in seinem Artikel weiterhin vor, dass die Branche drei Ebenen von Kontrollmaßnahmen ergreifen kann. Erstens sollten Frontier Labs unabhängigen Prüfern kontinuierlichen, mitarbeiterähnlichen Zugang zu ihren Modellen und internen Sicherheitspraktiken gewähren. Zweitens sollten Unternehmen, die in Demokratien tätig sind, gemeinsame Sicherheitsstandards und Beschränkungen für das unkontrollierte Wachstum der Fähigkeiten koordinieren.

Schließlich sollten die Regierungen internationale Vereinbarungen anstreben, einschließlich der Zusammenarbeit mit Ländern wie China in Bereichen, bei denen offensichtlich ein gemeinsames Interesse besteht. In diesem Zusammenhang wird die Verhinderung von KI-unterstützten biologischen Waffen im Vordergrund stehen.

Vorschläge und Herausforderungen der Gesetzgeber

Interessanterweise sind Amodeis Ideen nicht aus dem Nichts entstanden, sondern wurden nach der Vorstellung des "Artificial Intelligence Safety Act" durch US-Gesetzgeber Anfang dieses Monats vorgeschlagen. Diese geplante Gesetzgebung zielt darauf ab, die Entwicklung superintelligenter KI dauerhaft zu verbieten und die Entwicklung fortschrittlicher KI vorübergehend auszusetzen, bis die Bundesaufsichtsbehörden Sicherheitsstandards und ein Modellprüfungssystem eingerichtet haben. Dies ist zwar eine schöne Idee, aber es gibt ein wichtiges kommerzielles und praktisches Problem: Werden die Frontier Labs sich daran halten? Warum sollte eine Organisation freiwillig "verlangsamen", wenn sie glaubt, dass eine Verlangsamung ihren Konkurrenten einen Vorteil verschaffen könnte?

Man kann dies mit internationalen Vereinbarungen über Atomwaffen vergleichen. Wenn nicht alle Länder zustimmen und sich daran halten, ist die gesamte Aktion nur "leeres Gerede". Seit Jahren wird darüber diskutiert, ob fortschrittliche KI ein ausreichend schwerwiegendes Risiko darstellt, um eine Verlangsamung der Entwicklung zu rechtfertigen. Bei einigen Teilen der Frontier KI scheint die Debatte sich nun darauf zu verlagern, wie man die Entwicklung verlangsamen kann, ohne den Konkurrenten, insbesondere China, einen Vorteil zu verschaffen. Amodei weist deutlich darauf hin, dass demokratische Länder ihre strategischen KI-Vorteile bewahren müssen, während sie gleichzeitig die Frontier-Entwicklung einschränken. Dies wird kein leicht zu lösendes Problem sein.

"Die von mir vorgeschlagenen Maßnahmen, die darauf abzielen, die Frontier mit einer sicheren Geschwindigkeit voranzutreiben, sind nicht einfach. Aber ich glaube, wir haben die Verpflichtung, es für die Menschheit zu versuchen", fasst Amodei zusammen.

Wie die Branche Innovation und Sicherheit in Einklang bringt

Im Kontext des rasanten Fortschritts der KI-Technologie wächst die Besorgnis der Branchenexperten über Sicherheitsrisiken. Mit der zunehmenden Nutzung von KI zur Entwicklung leistungsfähigerer KI wird der Mangel an menschlicher Aufsicht immer offensichtlicher, was das Risiko eines Kontrollverlusts birgt. Die Vorschläge von Experten wie Amodei betonen die Bedeutung interner und externer Aufsicht und fordern die Entwicklung gemeinsamer Sicherheitsstandards. Die Vorschläge der Gesetzgeber zielen zwar darauf ab, die Gesellschaft zu schützen, aber die praktischen Schwierigkeiten bei der Umsetzung und der Konflikt mit kommerziellen Interessen könnten dazu führen, dass diese Maßnahmen schwer umzusetzen sind. Wie man das richtige Gleichgewicht zwischen der Förderung technologischer Innovation und der Gewährleistung der Sicherheit findet, wird eine wichtige Herausforderung für die Zukunft sein.