Grok, AI:n som Elon Musks bolag ligger bakom, har hamnat i blickfånget. EU är den senaste i raden av aktörer som startat en utredning.
Musks AI genererade barnporr – riskerar hårt straff
Johannes Stenlund
Uppdaterad: 26 jan. 2026Publicerad: 26 jan. 2026
ANNONS
Mest läst i kategorin
ANNONS
Elon Musks sociala medieplattform X är i blåsväder.
Efter att AI-chatboten Grok kopplats till spridning av sexuellt explicit material har EU-kommissionen inlett en formell utredning mot bolaget.
Granskningen sker inom ramen för EU:s Digital Services Act (DSA), ett regelverk som syftar till att minska risker och skydda användare på stora digitala plattformar.
Kan ha utsatts för skada
Utredningen fokuserar på huruvida X har genomfört tillräckliga riskbedömningar och vidtagit nödvändiga åtgärder i samband med att Groks funktioner integrerats i plattformen inom EU.
En central del gäller spridningen av olagligt innehåll, däribland manipulerade sexuella bilder som kan utgöra material kopplat till sexuella övergrepp mot barn, skriver CNBC.
Enligt EU-kommissionen finns indikationer på att dessa risker redan har förverkligats och att användare i unionen därmed kan ha utsatts för allvarlig skada.
ANNONS
Senaste nytt
Gick att generera bilder
Grok har tidigare kritiserats efter att användare lyckats generera sexualiserade bilder av barn och andra individer genom riktade uppmaningar till systemet.
ANNONS
X har under januari uppgett att bolaget infört tekniska begränsningar för att minska missbruket.
Bland annat har möjligheten att redigera bilder av verkliga personer i avslöjande klädsel blockerats via Grok-kontot på X.
Utreds i flera länder
Samtidigt har funktioner för bildgenerering och bildredigering begränsats till betalande användare på plattformen.
Den fristående Grok-appen, som inte publicerar innehåll öppet, har dock fortsatt tillåtit icke-betalande användare att skapa bilder av både kvinnor och barn.
Detta har bidragit till ökad regulatorisk uppmärksamhet även utanför EU.
Flera andra länder har parallellt inlett egna granskningar av Grok och X.
Fick böter i december
Myndigheter i bland annat Storbritannien, Indien och Malaysia undersöker hur den AI-genererade bildproduktionen kunnat ske och vilka skyddsmekanismer som saknats.
ANNONS
X är sedan tidigare föremål för tillsyn under DSA. EU-kommissionen har nu även beslutat att utvidga en pågående undersökning från 2023 som rör plattformens rekommendationssystem.
I december bötfälldes X med 120 miljoner euro för bristande transparenskrav enligt samma lagstiftning.
DSA ger EU möjlighet att utfärda betydande böter mot teknikbolag som inte uppfyller sina skyldigheter när det gäller riskhantering, innehållskontroll och konsumentskydd.
Läs mer: Ammunitionsjätte rusar i börsdebuten. Realtid
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Johannes Stenlund
Johannes Stenlund är en journalist som bevakar ekonomi, näringsliv och politik för Dagens PS. Särskilt intresserad av internationell handel, råvaror, utvecklingsfrågor och politisk ekonomi. Har tidigare skrivit om utrikespolitik och ekonomi för flera svenska tidningar. Trivs både med att förklara det stora sammanhanget och att bevaka den lilla händelsen på plats. Kontakta Johannes Stenlund här.
Johannes Stenlund
Johannes Stenlund är en journalist som bevakar ekonomi, näringsliv och politik för Dagens PS. Särskilt intresserad av internationell handel, råvaror, utvecklingsfrågor och politisk ekonomi. Har tidigare skrivit om utrikespolitik och ekonomi för flera svenska tidningar. Trivs både med att förklara det stora sammanhanget och att bevaka den lilla händelsen på plats. Kontakta Johannes Stenlund här.
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS