Uppgifterna väcker nya frågor om ansvar, reglering och risker med snabbt växande generativ AI.
Ramaskri: Elon Musks AI Grok skapar sexuellt innehåll med barn
Christian Pedersen
Uppdaterad: 09 jan. 2026Publicerad: 09 jan. 2026
ANNONS
Mest läst i kategorin
ANNONS
En brittisk välgörenhetsorganisation varnar nu för att AI verktyget Grok som ägs av Elon Musks bolag xAI kan ha använts för att skapa sexuellt innehåll med minderåriga.
Uppgifterna har fått stor uppmärksamhet eftersom de rör ett av de mest känsliga och strikt reglerade områdena inom digital säkerhet.
Organisationen Internet Watch Foundation IWF uppger man identifierat vad som beskrivs som kriminellt bildmaterial föreställande flickor i åldrarna 11 till 13 år.
Materialet ska ha hittats på ett forum på darknet där användare uppgett att de använt Grok för att generera bilderna. Det skriver BBC.
Larm om ny risk med generativ AI
Enligt IWF rör det sig om sexualiserade och delvis avklädda bilder av barn.
Organisationen betonar att materialet i sin ursprungliga form klassas som den lägsta nivån av olagligt innehåll enligt brittisk lag men att samma användare därefter ska ha använt ett annat AI verktyg för att skapa ännu grövre material.
IWF:s chef för policy och påverkan Ngaire Alexander varnar för en utveckling där sådan teknik riskerar att normalisera övergreppsmaterial.
”Vi är extremt oroade över hur enkelt och snabbt människor till synes kan skapa fotorealistiskt sexuellt övergreppsmaterial på barn”, säger hon till BBC.
ANNONS
Läs mer: Analys av TikTok-videos senaste verktyget i jakten på nästa börsstjärna – Dagens PS
ANNONS
Senaste nytt
Inte tillåtet på plattformen X
Grok kan användas via en egen webbplats och app samt genom Elon Musks sociala plattform X.
Enligt IWF kommer materialet inte från X utan på ett externt forum på darknet.
BBC har sökt både X och xAI för kommentarer.
I ett tidigare uttalande har X betonat att bolaget agerar mot olagligt innehåll.
”Alla som använder eller uppmanar Grok att skapa olagligt innehåll kommer att möta samma konsekvenser som om de laddar upp olagligt material”, har bolaget tidigare sagt.
Press på tillsyn och reglering ökar
Fallet aktualiserar en bredare debatt om hur snabbt utvecklingen av generativ AI har gått i förhållande till lagstiftning och tillsyn.
ANNONS
Myndigheter och branschaktörer står inför svåra avvägningar mellan innovation och skydd av utsatta grupper.
För investerare och teknikbolag innebär frågan även ökade regulatoriska risker.
Förtroende, ansvar och efterlevnad väntas bli allt viktigare konkurrensfaktorer i takt med att AI verktyg får större genomslag i samhället.
Missa inte:
Nu kliver AI rakt in i din mejl – och rensar upp kaoset – Dagens PS
Jurist hittade på rättsfall genom AI – Dagens PS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Christian Pedersen
Bevakar nyheter inom bil och techsektorerna.
Christian Pedersen
Bevakar nyheter inom bil och techsektorerna.
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS