Kalifornien verklagt offiziell OpenAI und wirft dem Unternehmen vor, dass seine Modultests mangelhaft überwacht werden und die öffentliche Sicherheit gefährden.
Der kalifornische Generalstaatsanwalt Rob Bonta hat am 16. November OpenAI verklagt und wirft dem Unternehmen Verstöße gegen das Gesetz über unlauteren Wettbewerb sowie öffentliches Ärgernis vor. Der Grund dafür ist, dass im Juli dieses Jahres zwei KI-Modelle von OpenAI die Testumgebung durchbrachen und in das Hugging Face-System eindrangen. Zudem hat das Unternehmen zuvor bereits 80 ähnliche Vorfälle dokumentiert, sich jedoch geweigert, an den Ermittlungen mitzuwirken. Zuvor endete die von Bonta gemeinsam mit mehreren Bundesstaaten gegen Meta eingereichte Klage damit, dass Meta einer Vergleichszahlung von 16,7 Milliarden US-Dollar zustimmte.
Der Generalstaatsanwalt von Kalifornien hat eine Klage gegen OpenAI eingereicht und wirft dem Unternehmen mangelnde Kontrolle bei der Testung von KI-Modellen sowie Gefährdung der öffentlichen Sicherheit vor. Dieser Fall wird zu einem Meilenstein in der Regulierung von KI in den USA.
Am Montag, dem 16. November, reichte Rob Bonta, Generalstaatsanwalt von Kalifornien, am Obersten Gerichtshof von San Francisco eine Klage gegen OpenAI ein. Er wirft dem Unternehmen einen Verstoß gegen das kalifornische Gesetz über unlauteren Wettbewerb vor und sieht darin ein öffentliches Ärgernis im Sinne der staatlichen Gesetzgebung.
Bei einer Pressekonferenz verwies Bonta auf einen Vorfall im Juli dieses Jahres: Zwei KI-Modelle von OpenAI überschritten die Grenzen der Testumgebung, verschafften sich selbstständig Zugang zum öffentlichen Internet und drangen in das interne System der Open-Source-Entwicklungsplattform Hugging Face ein.
Besonders besorgt sind die Regulierungsbehörden darüber, dass OpenAI gegenüber den Ermittlern eingeräumt hat, zuvor bereits von 80 Fällen "unautorisierter Zugriffe und Kontrollverlust über Netzwerke und Websites Dritter" gewusst zu haben, aber sich geweigert hat, die dafür benötigten Details offenzulegen.
Diese Enthüllungen treffen OpenAI direkt. Das Unternehmen befindet sich an einem entscheidenden Punkt auf dem Weg zum Börsengang und hat bereits im Juni dieses Jahres vertraulich ein Listingprospekt bei der US-Börsenaufsicht eingereicht. Am Markt wird ein IPO frühestens für 2027 erwartet.
Der regulatorische Druck kombiniert mit fortlaufenden Klagen könnte die Bewertung und den Zeitplan für den Börsengang einschränken.
Fortgesetzte rechtliche Belastungen erhöhen Unsicherheiten für den Börsengang
Diese Klage stellt das neueste Kapitel in den sich verschärfenden rechtlichen Herausforderungen für OpenAI dar.
Bereits im Juni hatte der Generalstaatsanwalt von Florida, James Uthmeier, eine Klage gegen OpenAI und CEO Sam Altman eingereicht, mit dem Vorwurf, dass das Unternehmen wissentlich Produkte mit Sicherheitsrisiken veröffentlicht habe.
OpenAI steht darüber hinaus vor mehreren Klagen, in denen im ChatGPT-Plattform-Umfeld Nutzern schädliche Wahnvorstellungen zugesprochen wurden und in Einzelfällen sogar ein Zusammenhang zu Selbstmord bestand.
Die aktuelle Klage aus Kalifornien bietet einen Präzedenzfall: Vor etwa drei Monaten schloss eine von Bonta und mehreren Generalstaatsanwälten eingeleitete Klage gegen Meta mit einer Einigung über 16,7 Milliarden US-Dollar ab, wovon Kalifornien voraussichtlich 1,5 bis 2,1 Milliarden US-Dollar erhält.
Auf legislativer Ebene liegt dem Kongress derzeit ein umfassendes KI-Sicherheitsgesetz vor, das allerdings noch nicht verabschiedet wurde. Sowohl OpenAI, Anthropic als auch Kritiker der KI-Technologie forderten nach dem Hugging Face Vorfall eine entsprechende Gesetzgebung.
Bonta betonte, dass er das technische Potenzial von KI anerkennt und an deren Fähigkeit glaubt, "wissenschaftliche Durchbrüche zu erzielen, das Wirtschaftswachstum zu fördern und Cyberangriffe abzuwehren." Er unterstrich jedoch, dass "die Unternehmen, die diese Modelle entwickeln, sowohl moralisch als auch rechtlich verpflichtet sind, die öffentliche Sicherheit an erste Stelle zu setzen."
Kontrollverlust als Auslöser, 80 Sicherheitsvorfälle wurden verschwiegen
Der Vorfall rund um den Hugging Face-Einbruch im Juli ist die zentrale Faktengrundlage der aktuellen Klage.
Laut Bonta haben OpenAIs KI-Modelle während des Tests aktiv nach Informationen gesucht, die zum "Schummeln" nützlich sein könnten, die Grenzen der Testplattform überwunden und unautorisierten Zugang zum Internet erlangt, was letztlich zum Eindringen in Hugging Face führte.
Das Ereignis sorgte für starke Reaktionen in der Branche und führte zu Forderungen nach strengeren Regulierungen für die KI-Branche seitens der Politik. Besonders schwerwiegend ist zudem, dass OpenAI gegenüber kalifornischen Ermittlern zugab, zuvor bereits 80 ähnliche Kontrollverlustfälle dokumentiert zu haben, diese aber weder offenlegte noch dabei mithalf, Details zur Bewertung bereitzustellen.
Bonta erklärte:
Das Unternehmen hat uns die zur Bewertung dieser Vorfälle benötigten Details nicht geliefert. Das ist besorgniserregend und setzt die Öffentlichkeit Risiken aus.
Er wirft OpenAI vor, "die öffentliche Sicherheit zu ignorieren, wissentlich potenziell gefährliche KI-Modelle unter Bedingungen mit ungenügender Überwachung und fehlenden Sicherheitsvorkehrungen zu testen und dabei Konsumenten und die Öffentlichkeit irrezuführen."
OpenAI: Maßnahmen zur Korrektur ergriffen – Problem betrifft die gesamte Branche
Als Reaktion auf die Klage erklärte OpenAI-Sprecher Drew Pusateri, das Unternehmen habe seit dem Hugging Face-Vorfall mehrere transparente Korrekturmaßnahmen umgesetzt, darunter die Veröffentlichung technischer Berichte, Beauftragung und Offenlegung unabhängiger Drittberichte, Information betroffener Organisationen, Verstärkung der Sicherheit seiner Forschungssysteme und Einrichtung eines Rahmens zur Erkennung und Offenlegung von "Inkonsistenzen im Modellverhalten."
Pusateri widersprach zugleich der Ausrichtung der Klage und sagte: "Diese Klage scheint OpenAI isoliert ins Visier zu nehmen, obwohl dieses Problem von jedem führenden KI-Labor anerkannt wird."
Er betonte, OpenAI nehme die Problematik der Modell-Übereinstimmung sehr ernst, habe bereits einen konstruktiven Dialog mit dem Generalstaatsanwalt geführt und werde weiterhin an "umsetzbaren Sicherheitsstandards für die gesamte Branche" mitwirken.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Die Verkaufswelle im KI-Sektor hält an! Der Nasdaq 100 fällt drei Tage in Folge, Nvidia (NVDA.US) verliert weiter über 4%
US-Technologieaktien setzten ihren Abwärtstrend am Montag fort, da Investoren angesichts der bevorstehenden Quartalszahlen von Nvidia und des geplanten Börsengangs des KI-Start-ups Anthropic in dieser Woche bei Investitionen im Zusammenhang mit Künstlicher Intelligenz vorsichtig bleiben.
Die Präsidentin der Federal Reserve von Cleveland plädiert für eine graduelle Zinserhöhung und warnt, dass steigende Inflationserwartungen die Zentralbank zu einer stärkeren Straffung zwingen könnten.
Hammack erklärte, sie neige dazu, die Geldpolitik schrittweise durch fortlaufende, kleine Zinserhöhungen zu straffen. Sollte der Inflationsdruck jedoch weiter zunehmen, könnte die Federal Reserve gezwungen sein, das Tempo der Zinserhöhungen zu beschleunigen oder sogar größere Zinsschritte zu unternehmen und den Zinssatz über das ursprünglich erwartete Niveau hinaus anzuheben.
Ist die KI-Welle ein Motor oder eine Blase? Fed-Vorsitzender Walsh skizziert drei mögliche Szenarien: Produktivitätssteigerung, massenhafte Arbeitslosigkeit oder ein Börsencrash
Der Vorsitzende der US-Notenbank, Walsh, erklärte, dass die rasante Entwicklung der künstlichen Intelligenz zu einem Produktivitätssprung und einem nachhaltigen Wachstum der US-Wirtschaft führen könnte. Gleichzeitig könnte sie jedoch auch zu massiven Arbeitsplatzverlusten führen und, falls die Investitionsrendite hinter den Erwartungen zurückbleibt, einen Rückgang der Aktienmärkte und eine Verlangsamung der Wirtschaft verursachen.

Übernacht US-Aktienmarkt | Drei Hauptindizes fallen, Nvidia (NVDA.US) setzt Rückgang um über 4% fort, Gerüchte über Aufsichtsrat keine Absicht, Jensen Huang als CEO wieder einzusetzen
Bis zum Handelsschluss fiel der Dow Jones um 739,37 Punkte, ein Rückgang von 1,41 %, auf 51.608,17 Punkte; der S&P 500 Index sank um 145,08 Punkte, ein Minus von 1,92 %, auf 7.416,59 Punkte; der Nasdaq fiel um 626,51 Punkte, ein Rückgang von 2,49 %, auf 24.509,75 Punkte.
