EU-Kommission weitet Untersuchung gegen X und Grok aus

Neuer Ärger für X: Seit dem 26. Januar prüft die EU-Kommission, ob die Plattform die Risiken durch Grok ausreichend minimiert hat. Zudem wird ein laufendes Verfahren auf die neuen Grok-basierten Empfehlungssysteme ausgeweitet.

Fokus auf sexualisierte Deepfakes und Kinderschutz

Ein Hauptaspekt der Untersuchung betrifft die Erstellung und Verbreitung von manipulierten, sexuell eindeutigen Bildern. Die Kommission nennt hier explizit „Deepfakes von Frauen sowie Darstellungen, die Material über sexuellen Kindesmissbrauch enthalten könnten“. Der US-Blog „engadget“ hatte zuvor berichtet, die Bilder-KI von Grok habe innerhalb von 11 Tagen 3.000.000 sexualisierte Bilder erstellt, darunter 11.000 von Kindern.

Im Rahmen des „Gesetzes über digitale Dienste“ (DSA) wird nun geprüft, ob X seinen Verpflichtungen zum Risikomanagement nachgekommen ist. X hätte vor der Einführung der Grok-Funktionen einen spezifischen Ad-hoc-Risikobewertungsbericht an die Kommission übermitteln müssen, da die KI das Risikoprofil des Dienstes maßgeblich verändert. Die Ermittler untersuchen zudem negative Auswirkungen auf das körperliche und geistige Wohlbefinden der Nutzer sowie geschlechtsspezifische Gewalt.

Erweiterung laufender Verfahren und bisherige Strafen

Parallel zur neuen Untersuchung hat die Kommission ein bereits seit Dezember 2023 laufendes Verfahren gegen X ausgeweitet. Hierbei geht es um die Frage, ob das Unternehmen alle Systemrisiken im Zusammenhang mit seinen Empfehlungssystemen im Griff hat. Dies schließt nun auch den kürzlich angekündigten Wechsel auf ein Empfehlungssystem ein, das maßgeblich auf Grok-Technologie basiert. Die Kommission arbeitet bei dieser Untersuchung eng mit dem irischen Koordinator für digitale Dienste zusammen. X/Twitter hat seinen europäischen Hauptsitz in Irland.

Es ist nicht die erste Konfrontation zwischen Brüssel und dem Unternehmen von Elon Musk. Erst am 5. Dezember 2025 verhängte die EU eine Geldbuße in Höhe von 120 Millionen Euro gegen X. Grund dafür waren Verstöße gegen Transparenzregeln bei der Werbung sowie unzureichender Datenzugang für Forscher. Sollten sich die neuen Vorwürfe im Zusammenhang mit Grok bestätigen, drohen X weitere empfindliche Sanktionen.

Die EU-Kommission behält sich zudem vor, einstweilige Maßnahmen zu verhängen, falls X keine signifikanten Anpassungen an seinem Dienst vornimmt, um die Sicherheit der Nutzer zu gewährleisten. Obwohl X angibt, bereits technische Schritte zur Sperrung bestimmter Bildgenerierungen unternommen zu haben, sieht die EU weiterhin dringenden Handlungsbedarf, da derartige Inhalte auf dem europäischen Markt keinen Platz haben dürfen.