EU erhöht Druck auf Musks X wegen KI-Bildern von Kindern

Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.

Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.

EU verhängte im Dezember Strafe gegen X - weitere könnten folgen

Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel." Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.

Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. "Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist", sagte der Sprecher.

Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun./tre/DP/nas