Kalifornien reguliert KI-Risiken: Was der neue Gesetzesentwurf vorsieht.

Nach Angaben von Vox: Wenn es um künstliche Intelligenz geht, spielt Kalifornien die Rolle des legislativen Vorreiters für die Welt. Es ist der bevölkerungsreichste Bundesstaat der USA und ein wichtiges Innovationszentrum im Bereich KI, in dem 32 der 50 führenden Unternehmen in diesem Bereich ansässig sind. Sein Umfang und Einfluss haben Kalifornien ermöglicht, die Spielregeln in Fragen der Ökologie, Arbeitsrechte und Verbraucherschutz zu bestimmen, und jüngst auch im Bereich der künstlichen Intelligenz. Nach dem gescheiterten Versuch, ein bundesstaatliches Moratorium für die Regulierung von KI auf staatlicher Ebene im Juli zu verabschieden, sehen kalifornische Gesetzgeber ein begrenztes Zeitfenster, um Regeln zu entwickeln, die das ganze Land betreffen könnten.

In dieser Woche plant die California State Assembly, über den Gesetzesentwurf SB 53 abzustimmen, der von Entwicklern leistungsstarker 'Front-End'-KI-Modelle Transparenz in ihren Aktivitäten verlangen wird. Zu dieser Kategorie gehören Generierungssysteme wie ChatGPT von OpenAI, Gemini von Google, Grok von xAI und Claude von Anthropic, die große Datenmengen und Rechenressourcen benötigen. Der Gesetzesentwurf, der bereits den Senat passiert hat, muss von der California State Assembly genehmigt werden, bevor er dem Gouverneur zur Unterschrift oder zum Veto vorgelegt wird.

Künstliche Intelligenz kann erhebliche Vorteile bringen, aber wie im Gesetzesentwurf betont wird, birgt sie auch Risiken. Unter einer Vielzahl von Bedrohungen, wie Arbeitsplatzverlusten und Vorurteilen, konzentriert sich SB 53 auf mögliche 'katastrophale Risiken' von KI. Dazu könnten beispielsweise Angriffe mit biologischen Waffen gehören, bei denen KI zum Werkzeug wird, oder Cyberangriffe, die erhebliche Schäden an kritischen Infrastrukturen verursachen können. Solche Risiken, die die menschliche Zivilisation auf lokaler, nationaler und globaler Ebene bedrohen, sind besorgniserregend.

Derzeit wird erörtert, was als katastrophales Risiko angesehen wird, aber SB 53 definiert es als 'vorhersehbares und materielles Risiko' eines Ereignisses, das zu mehr als 50 Opfern oder Schäden von über 1 Milliarde Dollar führt, vorausgesetzt, das Front-End-Modell spielt eine maßgebliche Rolle. Wie die Schuld im praktischen Fall bestimmt wird, ist bereits eine Frage für die Gerichte. Die Identifizierung von katastrophalem Risiko in der Gesetzgebung ist eine komplexe Aufgabe, könnte jedoch helfen, sowohl unmittelbare als auch langfristige Folgen abzuwenden.

Erläuterung von SB 53

Der Gesetzesentwurf SB 53 ist der dritte auf Landesebene, dessen Ziel es ist, katastrophale Risiken von KI zu regulieren. Zuvor gab es das kalifornische SB 1047, das vom Gouverneur abgelehnt wurde, und das New Yorker Gesetz RAISE, das derzeit auf die Genehmigung durch Gouverneurin Kathy Hochul wartet.

Eingeführt von Senator Scott Wiener im Februar, verlangt SB 53 von Unternehmen, die sich mit Front-End-KI beschäftigen, Systeme zur Sicherheit zu entwickeln, die klar darlegen, wie katastrophale Risiken vermindert werden können. Vor der Implementierung ihrer Modelle müssen Unternehmen Sicherheits- und Schutzberichte veröffentlichen. Bei kritischen Sicherheitsvorfällen haben die Unternehmen 15 Tage Zeit, um das California Office of Emergency Services zu informieren. Der Gesetzesentwurf sieht auch Schutz für Zeugen vor, die über gefährliche Modelle berichten, die katastrophale Risiken hervorrufen könnten. SB 53 soll Unternehmen zur öffentlichen Rechenschaft für ihre Verpflichtungen zur Sicherheit von KI anhalten, mit möglichen Geldstrafen von bis zu 1 Million Dollar bei Verstößen.

In verschiedenen Aspekten ist SB 53 der Nachfolger von SB 1047, das ebenfalls von Wiener vorgestellt wurde. Beide umfassen Modelle, die mit 10^26 FLOPS entwickelt wurden – diese erhebliche Rechenleistung als Schwellenwert für Risiken.

“Die Wissenschaft, wie man KI sicher macht, entwickelt sich schnell, und es ist für Gesetzgeber derzeit schwierig, klare technische Vorschriften zu verfassen, wie Unternehmen ihre Sicherheit verwalten sollten”, sagte Thomas Woodside, Mitbegründer des Secure AI Project, einer Advocacy-Gruppe, die daran arbeitet, extreme Risiken von KI zu verringern, in einer E-Mail.

Die Logik von SB 53 besteht darin, die Struktur an den Fortschritt im Bereich KI anzupassen. Der Gesetzesentwurf gibt dem Attorney General von Kalifornien die Möglichkeit, die Definition eines großen Entwicklers nach dem 1. Januar 2027 unter Berücksichtigung von Veränderungen im Bereich KI anzupassen. Die Unterstützer des Gesetzesentwurfs hoffen auf ein positives Ende, wenn es vom Gesetzgeber verabschiedet wird. An dem Tag, an dem Gouverneur Gavin Newsom SB 1047 ablehnte, gründete er eine Arbeitsgruppe, die sich ausschließlich mit Front-End-Modellen befasst.

“Ich würde mit einer ungefähren Sicherheit von 75 Prozent sagen, dass SB 53 bis Ende September in Gesetz verabschiedet wird”, sagte Dean Ball, ehemaliger Berater für KI-Politik im Weißen Haus.

Einige Branchenorganisationen haben jedoch Widerstand eingelegt und argumentiert, dass zusätzliche Anforderungen eine bürokratische Last darstellen würden, angesichts der bereits bestehenden Verpflichtungen der Unternehmen zur Sicherheit vor katastrophalen Schäden. OpenAI lobbyiert dagegen, und die Gruppe Chamber of Progress behauptet, dass der Gesetzesentwurf unnötige bürokratische Hürden schaffen wird, die Innovationen hemmen.

“Diese Compliance-Kosten sind nur der Anfang”, kommentierte Neil Chilson, Leiter der KI-Politik am Institute for Progress.

Im Gegensatz dazu hat das Unternehmen Anthropic eine positive Haltung zu dem Gesetzesentwurf in seiner aktuellen Form.

“Es geht nicht darum, ob wir Kontrolle über KI benötigen, sondern ob wir sie heute durchdacht oder morgen reaktiv entwickeln”, erklärte das Unternehmen in einem Blogbeitrag.

Die Debatten um SB 53 spiegeln die breiteren Diskussionen darüber wider, ob Staaten oder die Bundesregierung die Sicherheit von KI regulieren sollten. Da die meisten Unternehmen in Kalifornien angesiedelt sind, ist die Gesetzgebung des Bundesstaates für das gesamte Land von Bedeutung.

“Der bundesstaatliche Ansatz zur Transparenz ist weitaus besser als die Alternative mit vielen Bundesstaaten”, bemerkte Matthew Mittelstadt, Mitarbeiter des Cato Institute.

Die Frage, ob überhaupt ein einheitlicher bundesstaatlicher Ansatz möglich ist, bleibt offen.

Lücke bei katastrophalen Risiken

Der Fokus des Gesetzes auf katastrophalen Risiken wirft einige Kontroversen auf. Der Begriff katastrophale Risiken selbst ergibt sich aus philosophischen Überlegungen und quantitativen Analysen. Sie beziehen sich auf existenzielle Bedrohungen, die das Überleben der Menschheit gefährden oder unser Potenzial erheblich verringern könnten.

Was genau unter dem Begriff katastrophales Risiko fällt, kann jedoch von der Perspektive abhängen. Diskussionen über Risiken im Zusammenhang mit künstlicher Intelligenz sind wichtig, um Wege zu verstehen, wie solchen Risiken vorgebeugt werden kann. Ohne eine Einigung über die Begriffe werden wir nicht in der Lage sein, eine wirklich konstruktive Diskussion über Risiken zu führen.