Gavin Newsom, der Gouverneur von Kalifornien, unterzeichnete am Freitag eine neue Exekutivanordnung, um die Umsetzung von zwei kürzlich unterzeichneten KI-Gesetzen zu beschleunigen. Diese Anordnung befasst sich mit der Überprüfung von Vorschlägen, die die Entwicklung eines "Not-Aus-Schalters" für fortschrittliche KI-Modelle zur Pflicht machen.
Gründe für die Exekutivanordnung
Diese Maßnahme erfolgt, nachdem Newsom in einem kürzlichen Interview erklärte, dass er verschiedene Optionen für weitere Maßnahmen zur Sicherheit von KI prüft. Er wies insbesondere auf die Sicherheitsbedenken hin, die von KI-Forschern geäußert wurden, und betonte die Notwendigkeit, rechtliche Rahmenbedingungen zu schaffen, um den Risiken dieser Technologie zu begegnen. Newsom kritisierte auch das Fehlen von Bundesmaßnahmen in diesem Bereich und sagte, dass der frühere Präsident Donald Trump Warnungen vor den Gefahren von KI als "Trick" abgetan habe.
Mehr lesen: Greg Stanton forderte die KI-Führungskräfte auf, die Entwicklung gefährlicher Technologien zu vermeiden
Details zur Exekutivanordnung
Die Exekutivanordnung von Newsom beschleunigt die Umsetzung von zwei kürzlich unterzeichneten kalifornischen Gesetzen. Diese Gesetze, SB 813 und AB 1405, befassen sich mit der Bewertung von KI-Anwendungen durch externe Gruppen hinsichtlich der Sicherheit. Darüber hinaus lädt diese Anordnung Experten ein, innerhalb von zwei Monaten Empfehlungen zur Stärkung der bestehenden Sicherheits- und Schutzgesetze für KI in Kalifornien abzugeben. Einer der Vorschläge, der in dieser Überprüfung berücksichtigt werden könnte, ist die Aktualisierung der Definitionen von Sicherheitsgesetzen, um Vorfälle einzuschließen, bei denen Modelle die Kontrolle verlieren.
Newsom hat auch die Notwendigkeit eines Not-Aus-Schalters für fortschrittliche KI-Modelle betont. Diese Idee wurde kürzlich im Kongress angesprochen, aber im Senat blockiert. Einige Technologieaktivisten, wie Dario Amodei, CEO von Anthropic, sind gegen diese Idee und glauben, dass Not-Aus-Schalter technisch nicht umsetzbar sind.
Newsom hatte auch im Jahr 2024 ein Gesetz, das Sicherheitstests vor der Veröffentlichung und einen Not-Aus-Schalter für große KI-Modelle vorschlug, mit einem Veto belegt. Stattdessen beauftragte er ein Expertengremium, eine Lösung zu empfehlen. Das Ergebnis dieser Maßnahme ist das Gesetz SB 53, das von Senator Scott Wiener verfasst wurde und im vergangenen Jahr verabschiedet wurde. Dieses Gesetz hat Kalifornien als nationalen Vorreiter im Bereich der KI-Gesetze etabliert.
Dennoch haben Befürworter der KI-Sicherheit und einige staatliche Gesetzgeber gewarnt, dass SB 53 die Offenlegung automatisierter Hacks, wie den Hack-Vorfall bei Hacking Face, nicht zwingend vorschreiben kann. Dies zeigt die Notwendigkeit für weitere und effektivere Maßnahmen zur Sicherheit von KI und zur Überwachung dieser Technologie auf.
Mehr lesen: Bill Skarsgård wird in dem neuen Spiel von Hideo Kojima spielen · Die gefährliche Transformation von Gavin Newsom: Von politischem Handeln zu echtem Wandel
