Kaliforniens SB 1047: Landmark-Gesetz zur Sicherheit von KI vom Landtag verabschiedet

Das Verständnis von Kaliforniens bahnbrechender KI-Regulierung: SB 1047

Die California State Assembly hat einen bedeutenden Schritt zur Regulierung künstlicher Intelligenz unternommen, indem sie das Gesetz über sichere und geschützte Innovationen für frontale künstliche Intelligenzmodelle (SB 1047) verabschiedet hat. Diese Gesetzgebung stellt einen der ersten bedeutenden regulatorischen Versuche im Bereich der KI in den Vereinigten Staaten dar, insbesondere angesichts der rasanten Entwicklung und Einführung von KI-Technologien in den letzten Jahren.

Die Kernziele von SB 1047

SB 1047 führt eine Reihe von Vorsichtsmaßnahmen ein, die KI-Unternehmen, die in Kalifornien tätig sind, einhalten müssen, bevor sie komplexe Fundamentmodelle trainieren können. Zu diesen Maßnahmen gehören:

• Fähigkeit zur sofortigen Abschaltung: KI-Modelle müssen so gestaltet sein, dass eine schnelle und vollständige Abschaltung möglich ist, um Risiken im Zusammenhang mit fehlfunktionierenden Systemen zu mindern.
• Schutz vor unsicheren Modifikationen: Die Gesetzgebung verlangt Schutzmaßnahmen, um sicherzustellen, dass Modelle nicht unsicheren nachträglichen Änderungen unterworfen werden.
• Strenge Testverfahren: KI-Firmen sind verpflichtet, Testprotokolle umzusetzen, die das Risiko bestimmen, dass ihre Modelle bei der Einführung kritischen Schaden verursachen.

Wichtige Unterstützer und Befürworter

Senator Scott Wiener, der Hauptautor des Gesetzentwurfs, hat erklärt, dass SB 1047 ein ausgewogener Ansatz ist, der mit den Verpflichtungen großer KI-Studios übereinstimmt, katastrophale Sicherheitsrisiken zu bewerten. Er betonte die gemeinsamen Bemühungen zur Verfeinerung des Gesetzentwurfs und erklärte:

„SB 1047 ist gut abgestimmt auf das, was wir über absehbare KI-Risiken wissen, und es verdient, in Kraft gesetzt zu werden.“

Kritik und Opposition

Der Gesetzesentwurf hat jedoch aus verschiedenen Richtungen, einschließlich namhafter Institutionen wie OpenAI und Anthropic, sowie von Politikern wie Zoe Lofgren und Nancy Pelosi, Kritik erfahren. Kritiker argumentieren, dass SB 1047 zu viel Gewicht auf potenzielle katastrophale Schäden lege, was nachteilige Auswirkungen auf kleinere, Open-Source-KI-Entwickler haben könnte.

Als Reaktion auf diese Bedenken hat der Gesetzentwurf Änderungen erfahren, die mögliche strafrechtliche Sanktionen durch zivilrechtliche ersetzen, die Vollmachten des kalifornischen Generalstaatsanwalts einschränken und die Anforderungen für den Beitritt zum neu geschaffenen „Board of Frontier Models“ anpassen.

Die nächsten Schritte für SB 1047

Nachdem der Senat des Staates über die geänderte Version des Gesetzes abgestimmt hat – und erste Erwartungen auf ein positives Ergebnis hinweisen – wird die Gesetzgebung zur abschließenden Prüfung an Gouverneur Gavin Newsom weitergeleitet. Der Gouverneur hat bis Ende September Zeit, um eine Entscheidung zu treffen, wie The New York Times berichtet.

Reaktionen der Branche

Trotz der erheblichen Auswirkungen von SB 1047 hat Anthropic von umfassenden Kommentaren Abstand genommen und stattdessen auf einen Brief verwiesen, den CEO Dario Amodei in der vergangenen Woche an Gouverneur Newsom überreichte. In der Zwischenzeit hat OpenAI noch nicht auf Anfragen zu ihrer Position zu diesem Thema reagiert.

Die Auswirkungen der KI-Regulierung

Die Verabschiedung von SB 1047 signalisiert einen Wendepunkt in der Regulierung der Technologie der künstlichen Intelligenz. Während KI weiterhin verschiedene Branchen prägt, wird diese Gesetzgebung wahrscheinlich als Modell für andere Bundesstaaten und Länder dienen, während sie die Komplexität der Gewährleistung von Sicherheit ohne Innovationshemmschwellen bewältigen.

Fazit

SB 1047 stellt einen vorsichtigen, aber zukunftsorientierten Ansatz zur KIsicherheit dar, der die Notwendigkeit von Innovationen mit dem Imperativ der öffentlichen Sicherheit in Einklang bringt. Während Kalifornien auf die Finalisierung dieser Gesetzgebung zusteuert, werden ihre Auswirkungen sowohl national als auch international aufmerksam verfolgt.