Europeiska kommissionen har inlett en formell utredning av plattformen X och dess AI-verktyg Grok.
Grok används sedan 2024 för att generera text, bilder och ge användare bakgrundsinformation.
Utredningen fokuserar på om X har gjort tillräckliga riskbedömningar och vidtagit åtgärder för att motverka spridning av olagligt och skadligt innehåll inom EU.
Det handlar i synnerhet om manipulerade sexuella bilder som kan utgöra övergreppsmaterial mot barn.
Kommissionen utreder också om X har rapporterat riskerna med Grok tillräckligt noggrant inför lanseringen av verktyget.
Ta tag i problemen eller få restriktioner
I december 2025 dömdes X till 120 miljoner euro i böter för bristande transparens kring reklam och dataåtkomst för forskare, samt för vilseledande design.
Om nya brister påvisas kan det leda till ytterligare sanktioner mot X.
Om X inte vidtar nödvändiga åtgärder kan kommissionen införa tillfälliga restriktioner mot plattformen.
Bakgrunden till granskningen är oro för att Grok och X:s rekommendationssystem kan bidra till spridning av olagligt innehåll och påverka användares rättigheter samt barns och kvinnors säkerhet.
Kommissionen betonar att det finns hjälp för personer som drabbats av AI-genererade övergreppsbilder.
”Sexuella deepfakes av kvinnor och barn är en oacceptabel form av övergrepp. Med denna utredning fastställer vi om X följt lagen eller om europeiska medborgares rättigheter har kränkts”, säger kommissionens verkställande viceordförande Henna Virkkunen i ett uttalande.