Newsom unterzeichnet Gesetze zu KI am Arbeitsplatz, im Gesundheitswesen und gegen Deepfakes

Neue Grenzen für KI am Arbeitsplatz

Das Büro des Gouverneurs erklärt, die neuen Gesetze schützten Menschen am Arbeitsplatz vor den Folgen von künstlicher Intelligenz, automatisierter Technik und KI-gestützter Überwachung am Arbeitsplatz. Sie bauen auf einer früheren Executive Order auf, die Beschäftigte und Unternehmen auf mögliche Umbrüche durch KI vorbereiten soll.

• Arbeitgeber dürfen sich bei Disziplinarmaßnahmen oder Kündigungen nicht allein auf KI stützen, ein Mensch muss diese Schritte prüfen.
• Arbeitgeber müssen offenlegen, wenn eine Massenentlassung, Verlagerung oder Kündigung durch ein KI-System verursacht wird.
• Überwachungstechnik ist in Toiletten am Arbeitsplatz verboten.
• Kalifornische öffentliche Hochschulen müssen Schulungen für Studierende, Lehrende und Beschäftigte zu KI-Training und KI-Beschaffung entwickeln.
• Anwältinnen und Anwälte dürfen zentrale juristische Arbeit, etwa das Verfassen von Schriftsätzen oder die rechtliche Beurteilung, nicht vollständig an KI abgeben.

Lorena Gonzalez, Präsidentin der California Federation of Labor Unions, AFL-CIO, äußerte sich zu SB 947, SB 951, AB 1331 und AB 1883. Mit der Unterzeichnung dieser vier landesweit ersten Gesetze habe Newsom "dem Land gezeigt, wie wir beginnen können, KI am Arbeitsplatz Leitplanken zu setzen, damit der Mensch diese Technologie überwacht, Überwachung begrenzt wird und die Beschäftigten an erster Stelle stehen".

Gesundheitswesen, Transparenz und Deepfakes

Im Gesundheitswesen stellen die neuen Regeln sicher, dass Ärztinnen, Ärzte und zugelassene Leistungserbringer ihr eigenes fachliches Urteil einsetzen können, wenn KI oder andere klinische Entscheidungstools in der Patientenversorgung genutzt werden. Entwickler solcher Tools müssen zudem angemessene Schritte unternehmen, um bekannte oder vorhersehbare Verzerrungen (Bias) bei der Anwendung dieser Systeme zu verringern. Zu den betreffenden Gesetzen gehören AB 1979 und SB 503.

Bei der Transparenz verbieten die Gesetze das Löschen eines digitalen Wasserzeichens und erlauben den Zugriff auf Metadaten. Das soll leichter erkennbar machen, ob Inhalte KI-generiert oder von Nutzern erstellt wurden. Auch der California AI Transparency Act wird gestärkt, um der technischen Entwicklung gerecht zu werden. Außerdem müssen öffentliche Stellungnahmen bei Sitzungen lokaler Behörden von echten Menschen stammen, nicht von KI-Bots.

Um Missbrauch einzudämmen, aktualisiert Kalifornien Zivil- und Strafrecht, um Persönlichkeitsrechte zu schützen und falsche Identitätsvorspiegelung zu verhindern. Der Staat geht zudem gegen Betrüger vor, die KI-Deepfakes nutzen, um Einwohner Kaliforniens zu bestehlen, zu betrügen oder sich als sie auszugeben, auch durch das Erstellen expliziter Inhalte ohne Einwilligung.

Eine Maßnahme befasst sich mit biologischen Risiken. Unternehmen für Gensynthese müssen Sicherheitsrichtlinien befolgen, die Identität ihrer Kunden überprüfen und kontrollieren, welches genetische Material sie für die Forschung an Krankheiten wie Polio und Ebola verschicken. Es handelt sich um AB 1864.

Der größere Rahmen und der weitere Fahrplan

Die Unterzeichnungen folgen auf frühere Schritte in diesem Jahr. Der Gouverneur unterzeichnete SB 813, das einen Rahmen für die Zertifizierung unabhängiger Prüforganisationen schafft, die KI-Systeme und -Modelle auf Sicherheit und Risiken bewerten können, sowie AB 1405, das ein staatliches Register für KI-Prüfer mit Standards für Unabhängigkeit, Transparenz und Integrität einrichtet. Anschließend erließ er eine Executive Order, um die Kontrolle von Sicherheitsrisiken in KI-Systemen durch Dritte sowie unabhängige Audits zu beschleunigen.

Diese Anordnung berief außerdem eine Expertengruppe ein, die innerhalb von zwei Monaten einen Leitfaden zur Stärkung der kalifornischen KI-Sicherheitsgesetze vorlegen soll. Zu den erwogenen Vorschlägen zählen, dass unabhängige Dritte Sicherheitspläne für Frontier-KI-Unternehmen verfassen, und dass Unternehmen eine Notabschaltung, einen "Kill Switch", für Frontier-Modelle entwickeln müssen.

Das Büro verweist auch auf frühere Meilensteine, darunter eine Executive Order zu generativer KI aus dem Jahr 2023 und SB 53 aus dem Jahr 2025, den Transparency in Frontier Artificial Intelligence Act. Laut dem Büro des Gouverneurs ist SB 53 das erste KI-Sicherheitsgesetz des Landes. Es verpflichtet Entwickler von Frontier-KI, Sicherheitsrahmenwerke öffentlich offenzulegen, bestimmte kritische Sicherheitsvorfälle an den Staat zu melden und Hinweisgeber zu schützen, die auf schwerwiegende Risiken aufmerksam machen.

Für Arbeitgeber, Entwickler klinischer Tools, Anbieter von Gensynthese und Unternehmen, die KI-generierte Inhalte erzeugen, bedeuten die unterzeichneten Gesetze neue Compliance-Pflichten in Kalifornien. Das Büro des Gouverneurs unterzeichnete außerdem eine Executive Order, die nach seinen Angaben dauerhaft festlegt, dass Artificial Intelligence in Kalifornien "Artificial Intelligence" genannt wird.