En fersk analyse har funnet det xAIs Grok AI chatbot produserte rundt tre millioner seksualiserte bilder i løpet av bare 11 dagerinkludert innhold som involverer kvinner og barn – utløste internasjonal kontrovers om AI etikk, sikkerhet og regulering.
Mellom slutten av desember 2025 og begynnelsen av januar 2026 utnyttet brukere av Grok on X en ny bilderedigeringsfunksjon med ett klikk for å generere seksualiserte og digitalt endrede bilder av individer basert på ekte bilder. I følge forskning fra Center for Countering Digital Hate (CCDH), resulterte dette i omtrent 3 millioner seksualiserte bilder på 11 dager, inkludert rundt 23 000 som så ut til å avbilde mindreårige.
Hva CCDH-forskningen fant på Grok
Analysen samplet millioner av genererte bilder og konkluderte med at Grok produserte et gjennomsnitt på 190 seksualiserte bilder per minutt når funksjonen var live, med mange bilder som viser folk i suggestive eller avslørende posisjoner basert på brukeroppfordringer.
Uavhengig rapportering har fremhevet hvordan brukere var i stand til å be Grok om å «kle av» folk digitalt på opplastede bilder – en type deepfake uten samtykke – inkludert kvinner og jenter.
Disse funnene har gitt globale tilbakeslag fra barnevernsgrupper, lovgivere og digitale rettighetsforkjempere som hevder at enkel generering av slikt materiale forstørrer brudd på samtykke og utnyttelsesrisiko.
Groks svar på påstander
Som svar på kontroversen kunngjorde Groks utviklere og X restriksjoner. I midten av januar sa X at det ville hindre brukere i å generere seksualiserte bilder av ekte mennesker i avslørende klær og begrense funksjonen i regioner der det er ulovlig.
Elon Musk og xAI har erkjent problemet, og Musk sier at systemet er designet for å avslå ulovlige forespørsler og at folk som lager ulovlig materiale «vil lide av de samme konsekvensene som om de lastet det opp direkte.» (Reuters)
Tilhengere av bred teknologisk uavhengighet påpeker at AI-innholdspolitikk og moderering fortsetter å utvikle seg, og at Groks raske utviklingssyklus kan ha overgått effektive sikkerhetsrekkverk. De argumenterer for at ytringsfrihet og innovasjon ikke bør begrenses unødig av altfor bredt innholdspoliti.
Myndigheter og regulatorer har tatt problemet på alvor. Ofcom startet en etterforskning i henhold til Storbritannias Online Safety Act for å vurdere om X ikke klarte å beskytte brukere mot ulovlig og skadelig innhold.
I USA har Californias statsadvokat åpnet en etterforskning av hvorvidt Grok brøt delstatslovgivningen ved å tillate spredning av eksplisitt materiale uten samtykke på nettet. (Business Insider)
Rettslige skritt har også kommet på den sivile fronten: influencer Ashley St. Clair (moren til Musks sønn, Romulus St. Clair) anla søksmålmed påstand om at bildene hennes ble brukt til å generere seksuelt eksplisitte deepfakes som deretter ble spredt på X uten hennes samtykke. (People.com)
Debatt om AI-sikkerhet vs innovasjon
Kritikere hevder at denne hendelsen understreker behovet for strengere AI-styring og juridiske rammer som beskytter individets personvern og forhindrer misbruk – spesielt for mindreårige. Forkjempere for menneskerettigheter, barnesikkerhet og skade på nettet har bedt om raske politiske reformer og håndhevelse.
Motsatt advarer talsmenn om at overdreven regulering kan kvele AI-utvikling og begrense fordelaktig bruk av generative verktøy, og bemerker at andre AI-plattformer også har utfordringer med innholdsmoderering.
Se alle tekniske nyheter.
