Schalten Sie den Editor’s Digest kostenlos frei
Roula Khalaf, Herausgeberin der FT, wählt in diesem wöchentlichen Newsletter ihre Lieblingsgeschichten aus.
Ashley St Clair, die Influencerin und Mutter eines von Elon Musks Kindern, hat das KI-Unternehmen des Milliardärs verklagt und dessen Chatbot Grok beschuldigt, ohne ihre Zustimmung gefälschte sexuelle Bilder von ihr erstellt zu haben.
In der beim New Yorker Staatsgericht eingereichten Klage behauptete St. Clair, dass Grok von xAI Anfang des Monats erstmals ein KI-generiertes oder verändertes Bild von ihr im Bikini erstellt habe.
St. Clair behauptet, sie habe bei xAI darum gebeten, keine weiteren Bilder dieser Art zu machen, dennoch wurden „zahllose sexuell missbräuchliche, intime und erniedrigende Deepfake-Inhalte von St. Clair von Grok produziert und öffentlich verbreitet“.
In einem Fall wurde laut Gerichtsakten ein Foto von St. Clair aus dem Alter von 14 Jahren von Grok verändert, um sie auszuziehen und in einen Bikini zu stecken.
St. Clair ist eine konservative Influencerin mit etwa 1 Million Followern auf X und Mutter eines von Musks Kindern. Der milliardenschwere Unternehmer vertrat pronatalistische Ansichten, plädierte für steigende Geburtenraten und zeugte mindestens 14 Kinder mit mehreren verschiedenen Frauen.
Nach der Meldung der Bilder an xAI wurde St. Clairs Konto auf der Social-Media-Plattform
Der Fall wurde nun an ein Bundesgericht verwiesen. xAI, das X ausführt, reagierte nicht auf eine Anfrage nach einem Kommentar.
Die Nachricht kommt, als xAI und Musk wegen gefälschter sexualisierter Bilder von Frauen und Kindern in die Kritik geraten sind, die in diesem Jahr auf der Plattform stark zugenommen haben, insbesondere nachdem Musk scherzhaft einen von der KI veränderten Beitrag von sich selbst im Bikini geteilt hatte.
In der vergangenen Woche hat das Problem zu Androhungen von Geldstrafen und Verboten in der EU, im Vereinigten Königreich und in Frankreich sowie zu Untersuchungen des kalifornischen Generalstaatsanwalts und der britischen Regulierungsbehörde Ofcom geführt. Grok wurde auch in Indonesien und Malaysia verboten.
Am Mittwoch ergriff xAI Maßnahmen, um die Bildgenerierungsfunktion seines Grok-KI-Modells einzuschränken, um den Chatbot daran zu hindern, Benutzer auszuziehen, und bestand darauf, dass Material zum sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) und nicht einvernehmliches Nacktmaterial entfernt werde.
St. Clair, die Musk in den letzten Monaten zunehmend kritisch gegenüberstand, beantragt außerdem eine einstweilige Verfügung, um zu verhindern, dass xAI Bilder erzeugt, die sie ausziehen.
„Frau St. Clair ist gedemütigt, deprimiert, hat Angst um ihr Leben, ist wütend und braucht dringend Maßnahmen von diesem Gericht, um sie davor zu schützen, dass xAI diesen unfassbaren Albtraum begünstigt“, schrieben Anwälte in einem Antrag auf einstweilige Verfügung.
xAI reichte am Donnerstag in Texas eine Klage gegen St. Clair ein und behauptete, sie habe gegen die Nutzungsbedingungen des Unternehmens verstoßen, indem sie ihre Klage gegen das Unternehmen vor einem New Yorker Gericht statt in Texas eingereicht habe.
Anfang dieser Woche sagte Musk auf Musk, der ein Transgender-Kind hat, hat sich wiederholt kritisch gegenüber Transgender-Personen und den Rechten von Transgender-Personen geäußert.
Zusätzliche Berichterstattung von Kaye Wiggins in New York
