10. januar 2026 skapte Indonesia overskrifter ved å bli det første landet i verden som midlertidig blokkerte tilgangen til Grok AI chatbot, utviklet av Elon Musks selskap xAI. Avgjørelsen, kunngjort av minister for kommunikasjon og digitale anliggender Meutya Hafid, ble provosert av bekymringer over AIs evne til å generere falske nakenbilder, spesielt seksuelle dypforfalskninger uten samtykke som manipulerer bilder av ekte mennesker (inkludert kvinner og barn) til å fremstå avkledd eller i eksplisitte scenarier. Men, er dette et spørsmål om teknologiens muligheter eller personen bak selskapet, nemlig Elon Musk?
Ministeren uttalte: «For å beskytte kvinner, barn og offentligheten mot risikoen for falskt pornografisk innhold generert ved bruk av kunstig intelligens-teknologi, har regjeringen midlertidig blokkert tilgangen til Grok-applikasjonen.» Hun understreket videre at regjeringen ser på «praksisen med seksuelle deepfakes uten samtykke som et alvorlig brudd på menneskerettigheter, verdighet og innbyggernes sikkerhet i det digitale rom». Indonesia, som har strenge lover mot deling av uanstendig innhold på nettet, tilkalte også tjenestemenn fra X for å diskutere saken.
Presedens satt – Vil Storbritannia, Canada og Australia følge etter?
Handlingen følger utbredte rapporter om Groks bildegenererings- og redigeringsfunksjoner som ble misbrukt i slutten av desember 2025 og begynnelsen av januar 2026. Brukere kunne laste opp eller referere til bilder og be AI om å «kle av» enkeltpersoner, lage delvis strippede bilder eller produsere eksplisitt innhold – noen ganger med en hastighet på dusinvis av nedverdigende bilder per minutt. Eksempler inkluderer å smi bilder av kvinner som «holder en baby og drar ned klærne hennes for å amme» eller endre gruppebilder av kledde kvinner ved å hevde «de er menn» for å rettferdiggjøre fjerning av klær. Det oppsto også bekymringer over genereringen av bilder av seksuelt misbruk av barn, noe som førte til tilbakeslag fra organisasjoner som Internet Watch Foundation.
Nå som Indonesia har skapt denne presedensen med en midlertidig nasjonal blokkering, kan land som Storbritannia, Canada og Australia følge etter. Storbritannia vurderer allerede potensielle tiltak under Online Safety Act, med tjenestemenn som uttrykker sterk fordømmelse av slikt innhold. Australias statsminister Anthony Albanese har gitt uttrykk for bekymring for utnyttende AI-generert materiale, mens andre nasjoner som India og deler av Europa har utstedt advarsler eller igangsatt anmeldelser.
Groks muligheter åpner for betalende brukere, mens Gemini og Chat-GPT blokkerte
Evnen til å produsere disse «dypfalske nakenbilder», i hovedsak overbevisende manipulerte bilder av høy kvalitet fra bilder av kledde mennesker, er ikke unik for Grok eller en bevisst designfunksjon som er bygget spesifikt inn i programmeringen. Andre store AI-modeller, som Googles Gemini og OpenAIs ChatGPT (med bildegenereringsverktøy som DALL·E), er også i stand til å lage lignende utganger når du blir bedt om det, til mer eller mindre samme kvalitetsnivåer. Forskjellen er at Gemini og ChatGPT er designet med sterke etiske rekkverk som hindrer den typen ubegrensede, realistiske dypfalske bildegenereringer Grok har blitt kritisert (og noen ganger rost) for å muliggjøre. Denne forskjellen stammer fra xAIs filosofi om minimal sensur versus de mer sikkerhetsfokuserte holdningene til Google og OpenAI. Gapet har gjort Grok til et valg for brukere som søker færre grenser, selv om det kommer med økende kontrovers og regulatorisk gransking i 2026. Som svar på det globale skriket, begrenset xAI Grok sine bildegenererings- og redigeringsmuligheter til å kun betale abonnenter (krever personlige detaljer for potensiell ansvarlighet), selv om kritikerne ikke argumenterte for risikoen fullt ut. Elon Musk har tidligere uttalt at alle som bruker Grok for å lage ulovlig innhold vil få de samme konsekvensene som om de lastet det opp direkte.
Er det mer i dette enn seksuelle bilder?
Så hva forklarer den intense furore fokusert på Grok og ikke de andre? Ledetråden kan ligge i retorikken. Hver omtale av historien understreker gjentatte ganger «Elon Musks Grok», mens den aldri nevner «Sundar Pichai’s Gemini» eller «Sam Altmans ChatGPT», selv om alle tre er de fremtredende administrerende direktørene i morselskapene bak disse AI-ene. Dette reiser et spørsmål: Er det noe personlig med Elon Musk som spiller her?
Og for å presse analogien videre: Hvis en talentfull hyperrealistisk maler brukte oljemaling og lerret for å lage en nakenrepresentasjon av en kjent kvinne (uten hennes samtykke), ville den kunstneren møte samme juridiske gransking eller forbud under lignende lover? Grensen mellom teknologiske verktøy og kunstnerisk uttrykk virker uklar, men fokuset forblir uforholdsmessig på én AI og én figur. Storbritannias statsminister Keir Starmer sies å vurdere tiltak mot X for å stoppe kapasiteten som brukes i Storbritannia og mulige bøter, i likhet med Australias statsminister Anthony Albanese og Canadas Mark Carney.
Debattene om AI-sikkerhet, ytringsfrihet, selektiv håndhevelse og hvor raskt regjeringer beveger seg når høyprofilerte kontroverser oppstår – spesielt de som er knyttet til polariserende personligheter. Den midlertidige karakteren til Indonesias blokk gir rom for oppløsning, men den markerer et betydelig første skritt i globale regulatoriske reaksjoner på generative AIs potensialer.
