Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete am 10. September zwei Gesetze zur Regulierung von Künstlicher Intelligenz, die das regulatorische Rahmenwerk des Bundesstaates in diesem Bereich weiter ausbauen. Bemerkenswert ist, dass diese Gesetze bereits vor ihrer Verabschiedung die Anerkennung und Unterstützung führender KI-Unternehmen erhalten hatten.
Die Unterzeichnung erfolgte zu einem Zeitpunkt, an dem das Thema Sicherheit in der KI breite Aufmerksamkeit erregt. Zuvor hatte der ehemalige Forscher bei Anthropic, Jacob Coxon, seinen Rücktritt bekanntgegeben und vor einer möglichen Beschleunigung katastrophaler Risiken in der KI-Branche gewarnt. Newsom reagierte darauf, indem er erklärte, dass die jüngsten Ereignisse die langjährige Einschätzung Kaliforniens bestätigen, dass KI zwar ein enormes Potenzial birgt, ihre Entwicklung und Bereitstellung jedoch mit substanziellen Sicherheitsvorkehrungen einhergehen muss. Newsom forderte zugleich die Bundesregierung auf, schnellstmöglich ein nationales KI-Regulierungsgesetz zu verabschieden, das dem aktuellen dringenden Handlungsbedarf gerecht wird.
Kalifornische KI-Regulierungsgesetze werden die Sicherheitsstandards der Branche erhöhen
In diesen beiden Gesetzen schlägt der kalifornische Staatssenator Jerry McNamara mit dem SB 813 die Einrichtung eines kalifornischen KI-Standards- und Sicherheitsrats vor, der für die Entwicklung freiwilliger KI-Sicherheitsstandards verantwortlich sein soll. Das von der Abgeordneten Rebecca Bauer-Kahan eingebrachte AB 1405-Gesetz sieht die Einführung eines Registrierungssystems für KI-Risikoprüfer vor, das die Qualifikationsanforderungen für Prüfer regelt.
Auf Branchenebene hatten sowohl Anthropic als auch OpenAI ihre Unterstützung vor der Unterzeichnung der Gesetze öffentlich bekundet. Chris Lehman, Leiter der öffentlichen Angelegenheiten bei OpenAI, erklärte, dass die Fähigkeiten der KI inzwischen ein neues Stadium erreicht hätten und das entsprechende politische Rahmenwerk mit dieser Entwicklung Schritt halten müsse. Anthropic wies darauf hin, dass gerade die langjährigen Investitionen in Sicherheitsmaßnahmen das Unternehmen dazu veranlasst hätten, die Zusammenarbeit der gesamten Branche in einer legalen und überprüfbaren Weise zu unterstützen, um gemeinsam den Veröffentlichungsrhythmus leistungsstarker Modelle zu steuern. Beide Unternehmen erklärten, dass sie die Entwicklung kompatibler internationaler Standards vorantreiben werden, um in Fragen der Leistungsbewertung, Risikomanagement und Wahrung der menschlichen Kontrolle einen Konsens zu erzielen.