Vorschlag des US-Kongresses zur Einschränkung staatlicher Eingriffe bei fortschrittlichen KI-Modellen

Anthropic möchte, dass der Kongress strenge Beschränkungen für staatliche Eingriffe festlegt, wenn es darum geht, fortschrittliche KI-Modelle vom Dienst an Nutzern auszuschließen. Laut einem vertraulichen Entwurfsgesetz, das POLITICO vorliegt, wird staatliches Eingreifen an spezifische katastrophale Bedrohungen gekoppelt und erfordert eine gerichtliche Genehmigung, um die Nutzung des Modells auszusetzen. Der Vorschlag würde Entwicklern von fortschrittlicher KI einen klareren rechtlichen Rahmen bieten und gleichzeitig die Umstände einschränken, die staatliches Handeln auslösen könnten, sowie die Frage aufwerfen, wie viel Aufsicht Regulierungsbehörden über zunehmend leistungsstarke Systeme ausüben sollten.

Strenge Bedingungen für Eingriffe

Nach dem Vorschlag können die Bundesbehörden nur dann eine Aussetzung des Modells anstreben, wenn eine vorhersehbare und unmittelbare Bedrohung besteht. Die qualifizierenden Risiken müssen Verluste von über 1 Milliarde USD oder mehr als 50 Todesfälle oder schwere Verletzungen umfassen. Das Gesetz beschränkt diese Bedrohungen auf drei Szenarien: die Schaffung oder Freisetzung von biologischen Waffen, das Entgleisen des Modells aus der Kontrolle seiner Entwickler oder Cyberangriffe. Andere Formen von Schäden fallen nicht unter diesen spezifischen Eingriffsrahmen. Anthropic erklärt, dass diese Gesetzgebung die fortschrittlichen KI-Rahmenbedingungen widerspiegelt, die es seit Juni bei Bundes- und Landesgesetzgebern fördert.

„Dies sind vernünftige Politiken, die wir für den Kongress für angemessen halten“, erklärte ein Sprecher von Anthropic.

Unabhängige Prüfer sind verantwortlich für die Überwachung der Einhaltung. Sie müssen sich beim Handelsministerium registrieren und regelmäßig die Entwickler fortschrittlicher KI und deren Modelle bewerten. Prüfer können von den Unternehmen, die sie überprüfen, bezahlt werden, vorausgesetzt, dass ihre Vergütung nicht von den Ergebnissen ihrer Bewertungen abhängt. Wenn eine Bewertung eine drohende Bedrohung identifiziert, die im Gesetz abgedeckt ist, müssen die Prüfer das Handelsministerium innerhalb von 72 Stunden nach Abschluss der Überprüfung informieren.

Gerichte werden die Aussetzung kontrollieren; der Vorschlag würde das Handelsministerium daran hindern, Modelle eigenständig abzuschalten. Stattdessen müsste das Ministerium einen Antrag auf eine Anordnung bei einem Bundesrichter in Washington, D.C. stellen. Der Entwurf verbietet auch anderen Bundesbehörden, Institutionen und Beamten, die Entwicklung, Bereitstellung oder interne Nutzung von Modellen auszusetzen. Diese Einschränkung könnte das Risiko plötzlicher Durchsetzungsmaßnahmen gegen Entwickler von KI verringern. Dieses Thema ist besonders relevant im Zusammenhang mit Berichten über Exportkontrollen in den USA, die Berichten zufolge im Sommer zwei fortschrittliche Modelle von Anthropic ausschlossen. Dieses Ereignis hat Besorgnis in der Technologiebranche über die Beschränkungen von Regierungsbeamten hinsichtlich des Zugangs zu leistungsstarken Systemen ausgelöst.

Heftige Debatten im Kongress

Das Gesetz wird jedoch auch bestimmte Anforderungen an die öffentliche Risikobewertung, unabhängige Bewertungen und Berichterstattung über bedeutende Ereignisse in bestimmten Bundesstaaten priorisieren. Diese Bestimmung könnte die Debatte neu entfachen, ob Washington nationale Standards schaffen oder stärkeren staatlichen Schutz beibehalten sollte.

Der Kongress wägt konkurrierende Vorschläge ab; der Entwurf von Anthropic ist Teil einer intensiven legislativen Debatte darüber, wie die USA fortschrittliche KI regulieren sollten. Die Abgeordneten Lori Trahan und Jay Obernolte haben den FRONTIER-Gesetzentwurf vorangetrieben, der der Regierung die Befugnis geben würde, bei riskanten Modellen einzugreifen und bestimmte staatliche Gesetze zu überdecken. Im Senat haben Mehrheitsführer John Thune zusammen mit den Senatoren Amy Klobuchar und Ted Cruz Gesetze zu katastrophalen Risiken von KI entwickelt.

Einige Sicherheitsbefürworter und Senatorin Maria Cantwell fordern jedoch einen stärkeren föderalen Überprüfungsprozess. Andere Gesetzgeber drängen auf umfassendere Einschränkungen. Die Abgeordneten Greg Casar und Senator Bernie Sanders fordern ein Moratorium für die Entwicklung fortschrittlicher KI und ein Verbot von superintelligenter KI.

Der Vorschlag von Anthropic verfolgt einen engeren Ansatz. Er würde von Entwicklern fortschrittlicher KI verlangen, Sicherheitsrahmen zu schaffen, transparente Berichte über neue Modelle zu veröffentlichen, Whistleblower zu schützen und dem Handelsministerium bedeutende Ereignisse zu melden. Ob die Gesetzgeber diese Einschränkungen akzeptieren, wird dazu beitragen, zu bestimmen, wie viel Macht die Bundesregierung über fortschrittliche KI-Systeme erhält. Diese Debatte konzentriert sich auch darauf, ob der Schutz der Öffentlichkeit durch einen einheitlichen nationalen Rahmen gewährleistet werden kann, ohne den Regulierungsbehörden zu viel Ermessensspielraum zu geben.

Herausforderungen der Regierung bei der Regulierung von KI

Mit der rasanten Entwicklung der KI-Technologie wird die Frage, wie man effektiv reguliert, zu einem wichtigen Thema. Der von Anthropic vorgeschlagene Gesetzesentwurf zielt darauf ab, Entwicklern fortschrittlicher KI einen klaren rechtlichen Rahmen zu bieten und will willkürliche staatliche Eingriffe einschränken, was die Sorge um das Gleichgewicht zwischen technischer Innovation und öffentlicher Sicherheit widerspiegelt. Angesichts der unterschiedlichen Ansichten im Kongress über regulatorische Maßnahmen wird die zukünftige Gesetzgebung die Richtung der KI-Entwicklung und deren Auswirkungen auf die Gesellschaft beeinflussen. Diese Debatte betrifft nicht nur die Sicherheit der Technologie, sondern auch die Frage, wie man zwischen der Förderung von Innovation und dem Schutz des öffentlichen Interesses die richtige Grenze zieht.