Google Earth eksperimenterte – bare for å trekke den tilbake etter 24 timer – en funksjon som i hvert fall på papiret kunne åpnet opp for svært nyttige scenarier for ingeniører, forskere og andre fagfolk som daglig (eller nesten daglig) arbeider med landskap. Med denne nye funksjonen var det mulig lage tilpassede geografiske bilder med utgangspunkt i satellittkart, flyfoto og 3D-modeller av planeten. Synd at geografiske deepfakes har begynt å spre seg som en ild i tørt gress, og tvinger Mountain View-giganten til å trekke tilbake, i det minste for øyeblikket, den funksjonsbaserte Nano Banana 2, dens generative kunstige intelligens-modell.
En funksjon laget for et edelt formål og eksempler på dype forfalskninger
Den opprinnelige ideen var enkel: la brukere praktisk talt endre virkelige steder gjennom AI. Med bare noen få kommandoer ville det for eksempel vært mulig å visualisere et drømmehus i en park, forestille seg ny infrastruktur eller transformere et moderne sted for å vise hvordan det kunne ha sett ut tidligere. Funksjonen, som kun er tilgjengelig fra en datamaskin, tillot deg generere bilder direkte fra Google Earth-miljøet og lagre dem i prosjektene dine.
Grensen mellom kreativitet og opprettelse av geografiske forfalskninger viste seg imidlertid å være veldig tynn og ble snart overvunnet av brukere som brukte den aktuelle funksjonen. Dette er grunnen til at noen forskere raskt fremhevet at et lignende verktøy kunne utnyttes til å lage ekte geografiske dypforfalskninger, dvs. kunstige bilder som viser virkelige steder modifisert av kunstig intelligens for å virke autentiske, i det minste i begynnelsen.
Demonstrasjoner av risikoen kom nesten umiddelbart. Noen eksperter viste hvordan det ville være mulig å legge til ikke-eksisterende elementer på toppen av ekte satellittbilder: en atomkraftverk i Iran, monumenter ødelagt (som Eiffeltårnet og den store pyramiden i Giza, i forsidebildet til denne artikkelen), ulykker eller konstruksjoner som aldri ble bygget. Frykten var at bilder av denne typen kunne brukes til desinformasjonskampanjer, det vil si å spre falskt innhold med sikte på å påvirke meninger og atferd.
Denne bekymringen kommer også av spesiell rolle som Google Earth har påtatt seg gjennom årene. Tjenesten brukes ofte av journalister og forskere til å verifisere fotografier og videoer fra kriseområder, for å sjekke om en bestemt hendelse faktisk har skjedd på et bestemt sted eller ikke. Hvis en plattform som anses som pålitelig lar deg lage kunstige bilder basert på kartene, blir det mye vanskeligere å skille ekte bevis fra en oppfunnet rekonstruksjon.
Den uavhengige etterforskeren Henk van Essi nyhetsbrevet, viste hvor raskt det var å lage villedende scenarier ved å bruke den nye funksjonen. Ifølge analysen hans kunne oppgaver som tidligere krevde flere trinn med separate verktøy utføres på sekunder direkte i Google Earth, takket være en skrivelinje og en knapp. Blant de mest slående eksemplene presentert av etterforskeren er gjengivelsen av en scene der tusenvis av flyktninger blir sett nær grensen mellom Mexico og USA, som, som du kan se fra følgende video, ble laget på bare noen få sekunder.
Eksempler på deepfakes opprettet med Google Earth
Hvis dette fascinerer deg, gir vi deg en liten oversikt over noen eksempler på deepfakes generert med Google Earthslik at du kan forstå omfanget av fenomenet enda bedre. Alle bildene du vil se nedenfor er åpenbart falske.
Kommer AI tilbake til Google Earth i fremtiden?
Google hadde opprinnelig forsvart funksjonen ved å forklare at de genererte bildene inkluderte SynthIDet usynlig digitalt vannmerke som lar deg gjenkjenne innhold laget med selskapets verktøy for kunstig intelligens. Ifølge Google skulle dette systemet hjelpe brukere med å sjekke om et bilde ble generert av AI. Men noen forskere har stilt spørsmål ved effektiviteten av å stole på denne metoden alene. Falske bilder sirkulerer faktisk ofte ikke som originalfiler: de kan deles som skjermbilder, skjermopptak eller fotografier tatt av en skjerm, og mister en del av informasjonen som tillater automatisk gjenkjenning.
Her har Google besluttet å trekke tilbake funksjonen og forklarte i et innlegg betrodd til X:
Vi har sett geospatiale fagfolk bruke denne funksjonen til en rekke nyttige formål, men vi har også sett folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre. (…) Vi gjenoppretter derfor denne funksjonaliteten i Google Earth mens Vi jobber med implementering av mer motstandsdyktige beskyttelsesbarrierer.
Det faktum at Google har erklært at det jobber med «mer motstandsdyktige beskyttelsesbarrierer», ifølge noen er det en hentydning til at jordens AI-funksjoner bare har blitt stoppet midlertidig og at de kan bli brukbare igjen i fremtiden, når det er større garantier når det gjelder sikkerhet.
