Kehrtwende im Deepfake-Skandal: Elon Musks xAI verklagt eigenen Nutzer wegen illegaler Grok-Bilder
Bisher stand Elon Musks KI-Unternehmen xAI wegen der Erstellung sexualisierter Deepfakes massiv in der Kritik und im Visier der Behörden. Nun geht das Tech-Unternehmen erstmals in die Offensive und verklagt einen Nutzer, der den Chatbot Grok zur Generierung illegaler Inhalte missbraucht haben soll.
Der KI-Chatbot Grok, integriert in die Social-Media-Plattform X (ehemals Twitter), sorgt seit Monaten für heftige Schlagzeilen. Aufgrund unzureichender Sicherheitsfilter war es Nutzern immer wieder gelungen, täuschend echte, sexualisierte Deepfakes von realen Personen zu erstellen. Nachdem sogar Klagen von Opfern und Untersuchungen der EU-Kommission eingeleitet wurden, greift xAI nun zu drastischen rechtlichen Mitteln – allerdings gegen die eigenen Anwender.
Erster Zivilprozess: xAI fordert Schadensersatz von Nutzer
Wie aus aktuellen Gerichtsunterlagen hervorgeht, hat xAI eine Zivilklage gegen einen Mann aus dem US-Bundesstaat South Carolina eingereicht. Dem Beschuldigten wird vorgeworfen, die Sicherheitsbarrieren von Grok gezielt umgangen zu haben, um kinderpornografisches Material und sexuell explizite Deepfakes zu generieren und im Netz zu verbreiten.
Der betroffene Nutzer war bereits im Februar strafrechtlich festgenommen worden und muss sich in mehreren Punkten wegen des Besitzes und der Weitergabe missbräuchlicher Darstellungen Minderjähriger verantworten. Nun fordert xAI im Rahmen einer eigenen Zivilklage Schadensersatz und die Übernahme sämtlicher Rechtskosten. Die Begründung des Tech-Konzerns: Das Verhalten des Nutzers habe dem Unternehmen immense Reputationsschäden zugefügt und es rechtlichen Risiken ausgesetzt.
"Wer Grok missbraucht, trägt die Konsequenzen"
Mit diesem Schritt setzt xAI ein deutliches Signal an die Community. Elon Musk hatte bereits in der Vergangenheit gewarnt, dass Missbrauch der KI strafrechtlich genau so verfolgt werde wie die direkte Verbreitung illegalen Materials.
Der Fall markiert einen Präzedenzfall in der Tech-Branche: Erstmals versucht ein prominenter KI-Entwickler, die rechtliche und finanzielle Verantwortung für generierte Deepfakes komplett auf den Endnutzer abzuwälzen. Ob diese Taktik ausreicht, um den regulatorischen Druck von Regierungen und Opferschutzverbänden zu nehmen, bleibt abzuwarten. Klar ist jedoch: Für die Nutzer von KI-Bildgeneratoren weht ab sofort ein deutlich schärferer Wind.
Patrick Graber
Geschrieben von
Als nächstes lesen
„NaMo Green Rail“: Indien startet einen der stärksten Wasserstoffzüge der Welt
Indien drückt beim Klimaschutz auf der Schiene massiv aufs Gas. Am 17. Juli 2026 hat das Land seinen ersten im Inland produzierten wasserstoffbetriebenen Passagierzug offiziell in Betrieb genommen. Das Pilotprojekt im Bundesstaat Haryana bricht direkt internationale Rekorde. Während in Europa die Debatte über Sinn und Unsinn von Wasserstoffzügen im Vergleich zu klassischen Oberleitungen hitzig geführt wird, schafft Indien nun vollendete Tatsachen. Unter dem Namen „NaMo Green Rail“ hat die indisUpgrade für Hobby-Fotografen: Samsung bringt Profi-Kamerafunktionen auf Südtirols meistverkaufte Mittelklasse-Handys
Wer in Südtirols atemberaubender Natur – ob beim Wandern auf der Seiser Alm oder beim Spaziergang durch die Bozner Laubengasse – das perfekte Foto schießen wollte, stieß mit günstigeren Smartphones oft an die Grenzen der Automatik. Samsung macht damit nun Schluss: Die exklusive Profi-Foto-App „Camera Assistant“ (Samsung App Store), die bisher nur den teuren Flaggschiffen der S-Klasse vorbehalten war, kommt endlich auf die deutlich erschwinglicheren Mittelklasse-Modelle. Für viele Smartphone-Nut
Schluss mit Ruckeln: Google macht Chrome auf dem Smartphone spürbar flüssiger
Wer kenn das nicht? Man scrollt durch einen langen Online-Artikel, ein Online-Portal oder eine Social-Media-Feed, und plötzlich gerät das Bild ins Stottern. Solche winzigen Hänger – in der Fachsprache als „Scroll-Janks“ bekannt – stören den Lesefluss enorm. Doch genau hier hat Google jetzt angesetzt: Das Entwicklerteam konnte die Ruckler beim Scrollen unter Chrome für Android um fast 50 Prozent reduzieren. Das Ergebnis: Das Surfen auf dem Smartphone fühlt sich spürbar flüssiger und direkter an.
Update: Die neue Chatkontrolle 2026: Was ändert sich jetzt konkret für WhatsApp, E-Mails und Co.?
🚨 UPDATE (28. Juli 2026): EU reaktiviert Übergangsregelung bis 2028 Entwarnung für WhatsApp, aber Aufweichung beim Datenschutz: Im Juli 2026 hat das EU-Parlament im Eilverfahren und der Rat der EU-Staaten beschlossen, die abgelaufene Übergangsregelung (Chatkontrolle 1.0) überraschend wieder einzusetzen. Was das jetzt konkret bedeutet: * Messenger wie WhatsApp, Signal & Co. bleiben geschützt: Ende-zu-Ende-verschlüsselte Kommunikation darf weiterhin nicht gescannt werden. * E-Mails & unversc
Nichts als die Wahrheit: Ich breche heute und jetzt mein Schweigen.
17 Jahre lang Psychoterror, körperliche Attacken und die große Flucht von zu Hause. Dieser Text war der schwerste, den ich je geschrieben habe. Wenn er euch bewegt hat, teilt ihn gerne mit Menschen, denen er vielleicht Mut machen könnte. Ich wurde sehr streng erzogen. Mein Bruder hat mich täglich schikaniert, ich habe viel geweint. Am Ende bekam ich die Schuld von allen Seiten, hatte von niemandem Rückhalt und wurde am Ende bestraft. Die Bestrafung war beispielsweise, indem ich zum Schlafen i
Als mein Leben im Chaos versank: Die Bilder meiner dunkelsten Zeit
Vor sechs Jahren befand ich mich an einem Ort, an dem ich nicht mehr weiterwusste. Ich hatte die Kontrolle über mein Leben komplett verloren, kämpfte mit schweren Depressionen, Lähmung und Angstzuständen. Heute zeige ich diese Aufnahmen – nicht um zu schockieren, sondern um zu zeigen: Es gibt einen Weg zurück ins Leben. Wenn Depressionen und extremer psychischer Stress die Kontrolle übernehmen, passiert das meist leise. Gegenüber der Außenwelt versucht man irgendwie zu funktionieren, doch hinte
Tagebuch #4: Kleine Schritte führen auch zum Ziel
Als mich vor einigen Jahren die Depressionen so richtig heimgesucht haben, ging gar nichts mehr. Drei Wochen lang habe ich mich komplett zurückgezogen. Ich bin nicht mehr aus dem Haus gegangen und hatte schlichtweg keine Kraft mehr. Nach diesen drei Wochen habe ich mir vorgenommen, mit ganz kleinen Schritten anzufangen: * Phase 1: Jeden Tag 15 Minuten draußen im Hof verbringen. * Phase 2: Jeden Tag 5 Minuten zu Fuß zum Müll bringen. * Phase 3: Nach zwei Wochen schaffte ich wieder den Weg in