Kalifornische Gesetzgeber stimmen über KI-Sicherheitsgesetz gegen Widerstand von Technologieunternehmen ab

Der Gesetzentwurf 1047 des kalifornischen Senats, verfasst von Senator Scott Wiener, wäre der erste seiner Art in den Vereinigten Staaten, der KI-Unternehmen dazu verpflichten würde, groß angelegte Modelle zu bauen, um sie auf Sicherheit zu testen.

Die kalifornischen Gesetzgeber erwägen in dieser Sitzung Dutzende Gesetzesentwürfe im Zusammenhang mit künstlicher Intelligenz. Aber Weiners Vorschlag mit dem Namen „Safe and Secure Innovation for Leading AI Paradigms Act“ hat aufgrund des heftigen Widerstands aus dem Silicon Valley, der wichtigsten Bastion der KI-Entwicklung in den Vereinigten Staaten, landesweite Aufmerksamkeit erregt. Gegner sagen, die Einführung belastender Technologieanforderungen und möglicher Bußgelder in Kalifornien würde Innovationen und die globale Wettbewerbsfähigkeit des Landes ersticken.

OpenAI ist der jüngste KI-Entwickler, der seinen Widerstand erklärt und argumentiert In einer Mitteilung vom Mittwoch dass die Regulierung der KI der Bundesregierung überlassen werden sollte und behauptet, dass Unternehmen Kalifornien verlassen werden, wenn das vorgeschlagene Gesetz verabschiedet wird.

Die gesetzgebende Versammlung des Bundesstaates soll nun über den Gesetzentwurf abstimmen, der… Der Gewinner wurde kürzlich geändert Als Reaktion auf die Kritik der Technologiebranche sagte er, dass die neue Sprache nicht alle von der Branche aufgeworfenen Probleme beantworte.

„Dies ist ein vernünftiger und leichter Gesetzentwurf, der Innovationen in keiner Weise behindern wird, uns aber dabei helfen wird, die Risiken zu überwinden, die mit jeder leistungsstarken Technologie einhergehen“, sagte Weiner gegenüber Reportern während einer Pressekonferenz am Montag.

Was wird der Gesetzentwurf bewirken?

Der Gesetzentwurf verlangt von Unternehmen, die große KI-Modelle bauen, deren Training mehr als 100 Millionen US-Dollar kostet, alle signifikanten Risiken im System, die sie finden, durch Sicherheitstests zu mindern. Dazu gehört die Schaffung einer Möglichkeit zur „vollständigen Abschaltung“ – oder einer Möglichkeit, bei Katastrophen ein potenziell unsicheres Modell vom Netz zu nehmen.

Entwickler müssen außerdem einen technischen Plan zur Bewältigung von Sicherheitsrisiken erstellen und eine Kopie dieses Plans so lange aufbewahren, wie das Formular verfügbar ist, plus fünf Jahre. Unternehmen wie Google, Meta und OpenAI verfügen bereits über bedeutende KI-Operationen Freiwillige Verpflichtungen Es ist möglich, dass die Biden-Regierung die Verantwortung für das Management von KI-Risiken übernimmt, aber die Gesetzgebung in Kalifornien würde rechtliche und Durchsetzungspflichten für diese Verpflichtungen vorsehen.

Jedes Jahr bewertet ein externer Prüfer die Einhaltung der Gesetze durch ein Unternehmen. Darüber hinaus müssen Unternehmen ihre Einhaltung der Gesetze dokumentieren und alle Sicherheitsvorfälle dem kalifornischen Generalstaatsanwalt melden. Die Generalstaatsanwaltschaft kann bei ersten Verstößen zivilrechtliche Strafen von bis zu 50.000 US-Dollar und bei weiteren Verstößen weitere 100.000 US-Dollar verhängen.

Was sind die Kritikpunkte?

Ein Großteil der Technologiebranche kritisierte den Gesetzesentwurf als zu aufwändig. Anthropic, ein beliebtes KI-Unternehmen, das sich selbst als auf Sicherheit ausgerichtet vermarktet, hatte argumentiert, dass eine frühere Version der Gesetzgebung komplexe rechtliche Verpflichtungen geschaffen hätte, die KI-Innovationen ersticken würden, wie etwa die Möglichkeit des kalifornischen Generalstaatsanwalts, wegen Fahrlässigkeit zu klagen, selbst wenn dies der Fall wäre nicht. Es kommt zu einer Sicherheitskatastrophe.

OpenAI schlug vor, dass Unternehmen Kalifornien verlassen würden, wenn das Gesetz verabschiedet würde, um seinen Anforderungen zu entgehen. Sie bestand außerdem darauf, dass die Regulierung der KI dem Kongress überlassen werden sollte, um zu verhindern, dass in den einzelnen Bundesstaaten eine verwirrende Reihe von Gesetzen erlassen wird.

Gewinner Sie antwortete Der Ausschuss für auswärtige Angelegenheiten des US-Senats bezeichnete die Idee, dass Unternehmen aus Kalifornien fliehen, als „umständliches Argument“ und stellte fest, dass die Bestimmungen des Gesetzentwurfs weiterhin für Unternehmen gelten würden, die ihre Dienstleistungen für Einwohner Kaliforniens erbringen, auch wenn sich ihr Hauptsitz nicht dort befindet.

Letzte Woche gaben acht Mitglieder des US-Kongresses bekannt Drang Gouverneur Gavin Newsom wird gegen den Gesetzentwurf 1047 des Senats sein Veto einlegen, da er Unternehmen, die künstliche Intelligenz herstellen und nutzen, Verpflichtungen auferlegen würde. Die Abgeordnete Nancy Pelosi schloss sich ihren Oppositionskollegen an. Anruf Die Maßnahme sei „gut gemeint, aber unüberlegt.“ (Weiner hat den Sitz der emeritierten Sprecherin des Repräsentantenhauses im Auge, was einen zukünftigen Showdown mit ihrer Tochter Christine Pelosi erforderlich machen könnte.) Laut Politico.)

Pelosi und Mitglieder des Kongresses stehen an der Seite der „Patin der künstlichen Intelligenz“, Dr. Vivi Li, Informatikerin an der Stanford University und ehemalige Google-Forscherin. In einem kürzlich erschienenen Leitartikel sagte Lee, die Gesetzgebung würde „unserem aufstrebenden KI-Ökosystem schaden“, insbesondere kleineren Entwicklern, die „im Vergleich zu den heutigen riesigen Technologieunternehmen bereits im Nachteil sind“.

Was sagen Unterstützer?

Der Gesetzesentwurf erhielt Unterstützung von vielen Startups im Bereich Künstliche Intelligenz. Mitbegründer von Notion Simon Last und die „Paten“ der künstlichen Intelligenz, Yoshua Bengio und Geoffrey Hinton. Bengio sagte, die Gesetzgebung sei ein „positiver und vernünftiger Schritt“, um KI sicherer zu machen und gleichzeitig Innovationen zu fördern.

Ohne angemessene Sicherheitsmaßnahmen befürchten die Befürworter des Gesetzentwurfs, dass die schlimmen Folgen einer unbeaufsichtigten KI existenzielle Bedrohungen darstellen könnten, wie etwa erhöhte Risiken für kritische Infrastrukturen und die Entwicklung von Atomwaffen.

Weiner verteidigte seine „einfache, vernünftige“ Gesetzgebung und wies darauf hin, dass nur die größten KI-Unternehmen Sicherheitsmaßnahmen ergreifen müssten. Er lobte auch die Führungsrolle Kaliforniens in der US-amerikanischen Technologiepolitik und ließ Zweifel aufkommen, ob der Kongress in naher Zukunft eine substanzielle Gesetzgebung zur künstlichen Intelligenz verabschieden wird.

„Kalifornien hat wiederholt eingegriffen, um unsere Bewohner zu schützen und die Lücke zu füllen, die durch die Untätigkeit des Kongresses entstanden ist“, antwortete Weiner und verwies auf das Fehlen bundesstaatlicher Maßnahmen zum Datenschutz und zur Regulierung sozialer Medien.

Was kommt als nächstes?

In seiner jüngsten Stellungnahme zum Gesetzesentwurf sagte Weiner, dass die jüngsten Änderungen viele der von der Branche der künstlichen Intelligenz geäußerten Bedenken berücksichtigen. Die aktuelle Fassung sieht für die Lüge gegenüber der Regierung eine zivilrechtliche und nicht wie ursprünglich vorgesehen eine strafrechtliche Bestrafung vor. Außerdem wird ein Vorschlag zur Schaffung einer neuen staatlichen Regulierungsbehörde, die KI-Modelle überwachen würde, gestrichen.

Anthropy sagte In einem Brief an Newsom Die Vorteile der geänderten Gesetzgebung überwiegen wahrscheinlich die potenziellen Schäden für die KI-Branche, wobei die Hauptvorteile darin bestehen, dass die Öffentlichkeit Transparenz über die KI-Sicherheit erhält und Unternehmen dazu gebracht werden, in die Risikominderung zu investieren. Anthropic ist jedoch weiterhin besorgt über die Möglichkeit weitreichender Beschränkungen und erweiterter Meldepflichten.

„Wir halten es für entscheidend, dass wir über ein Framework für die Verwaltung führender KI-Systeme verfügen, das diese drei Anforderungen in etwa erfüllt“, sagte Anthropic-CEO Dario Amodei dem Gouverneur, unabhängig davon, ob dieses Framework SB-1047 ist oder nicht.

Die kalifornischen Gesetzgeber haben bis zum 31. August, dem Ende der Sitzung, Zeit, den Gesetzentwurf zu verabschieden. Im Falle einer Genehmigung wird es bis Ende September zur endgültigen Genehmigung an Gouverneur Gavin Newsom weitergeleitet. Der Gouverneur hat nicht angegeben, ob er beabsichtigt, das Gesetz zu unterzeichnen.