Da vi bare noen få år siden lo av absurd, bisarre utseende, åpenbart falske AI-videoer og spurte oss selv hvordan folk i Facebook-kommentarseksjonen muligens kan tro at det er ekte, vi ruller nå forbi AI-generert innhold uten engang å legge merke til at det ikke er en ekte person. Europol, EUs byrå for lovhåndhevelsessamarbeid, publiserte en rapport om hvordan dette kan påvirke rettshåndhevelsesbehandlingen … og hvordan kriminelle kunne bruke den til sin fordel.
Europols rapport, med tittelen Overfor virkeligheten? Rettshåndhevelse og utfordringen med Deepfakesfokuserer spesielt på DeepFake -problemet. Deepfakes er AI-genererte likheter av mennesker, som de siste årene har forbedret seg så mye at de ofte kan ikke skilles fra videoer av virkelige mennesker. Europol advarer om effekten av dypfakes på kriminalitet og rettshåndhevelse, og hevder at den kan brukes til å manipulere dokumenter, spre feilinformasjon, endre eller generere videoopptak i sin helhet og til og med bli gitt som en tjeneste, med kriminelle som selger verktøyene og teknologiene for å lage Deepfakes til andre.
Rapporten skisserer spesifikke forbrytelser som DeepFakes kan brukes til å utføre:
- Trakasserende eller ydmykende individer på nettet
- Gjennomførende utpressing og svindel
- Tilrettelegge for dokumentsvindel
- Forfalskning av online identiteter og tulling ‘Know Your Customer’ mekanismer16
- Ikke-samtykke pornografi
- Online seksuell utnyttelse av barn
- Forfalskning eller manipulering av elektroniske bevis for etterforskning av strafferett
- Forstyrrer finansmarkedene
- Distribuere desinformasjon og manipulere opinionen
- Støtter fortellingene til ekstremistiske eller terrorgrupper
- Stoking sosial uro og politisk polarisering
Deepfakes vil også gjøre det vanskelig å fortsette med rettshåndhevelsesforhandlinger, ettersom nye tiltak må iverksettes for å redegjøre for det faktum at opptak og dokumenter nå kan doktreres. Hvor før audiovisuelle bevis vanligvis ble klarert til å være en autentisk representasjon av hendelser, vil flere sikkerhetstiltak måtte settes på plass for å forhindre manipulering av materialer og kryssjekkingsopptak vil bli enda viktigere.
Når det gjelder deteksjon av dypfake, rapporten gjør Ha en positiv merknad: «Rettshåndhevelse har alltid måttet håndtere falske bevis og er derfor i en god posisjon til å tilpasse seg tilstedeværelsen av dypfakes,» hevder den. Rapporten skisserer noen få metoder som tjenestemenn kan bruke for å bekjempe bevis på dypfak, for eksempel manuell oppdagelse, automatisert deteksjon og forebyggende tiltak som kan iverksettes for å sikre at bevisene ikke blir manipulert i utgangspunktet.
Et mektig verktøy … i alles hender
Ikke bare dette, AI forbedrer seg bare – og eksponentielt raskere enn noen forventet. Med bare noen få korte og spesifikke spørsmål, kan alle med internettilgang generere hvilken som helst tekstlengde, hele sanger, videoer, bilder og i løpet av sekunder eller minutter på det meste. Rapporten skisserer retningslinjer for forskjellige sosiale medier-apper som tar sikte på å regulere tilstrømningen av AI-generert innhold:
- Meta (som eier Facebook og Instagram) har som mål å fjerne DeepFakes, eller på annen måte redigerte medier, der «manipulasjon ikke er tydelig og kan villede»
- Tiktok forbyr “Digitale forfalskninger (syntetiske medier eller manipulerte medier) som villeder brukere ved å forvrenge hendelsens sannhet
- Reddit «tillater ikke innhold som etterligner enkeltpersoner eller enheter på en villedende eller villedende måte.»
- YouTube har et eksisterende forbud for manipulerte medier under spam, villedende praksis og svindelpolitikk for deres retningslinjer for samfunn.
Imidlertid har ikke disse retningslinjene ikke så ut til å fjerne et fall fra det enorme bassenget med AI -innhold på noen av disse sosiale mediesidene. Music Streaming Giant Spotify har allerede et stort bibliotek med AI-generert innhold, som mange brukere ikke en gang vil legge merke til ikke ble laget av en person. YouTube og Tiktok mottar en spekter av AI-innhold daglig, og de fleste barnas innhold på de nevnte appene er AI-generert. Så mange YouTubers har beklaget, hvorfor skulle noen sette inn arbeidet og tid til å lage en video, når de kunne generere en på få sekunder og tjene mye mer på det?
Konstant oppdatering, konstant overalt
AI er ikke bare utbredt på sosiale medier. Nylig kunngjorde Google at Gemini AI deres nå vil kunne oppsummere og lage spørsmål basert på PDF -er – å bli med de andre appene Gemini allerede er integrert i, som Gmail, ark og dokumenter. iPhones kan nå generere videoer laget av klipp i biblioteket ditt eller finne og oppsummere informasjon fra e -posten din. Det er til og med AI -chatbots som uanstrengt vil påta seg rollen som favorittkarakteren din, eller en kjent kjendis når du chatter med dem.
Hovedpoenget
Mens rapporten skisserer en klar retning for lovhåndhevelse av tjenestemenn å ta skritt inn for å navigere i DeepFake-problemet, kan reklamer som musikere og YouTubers ha en rockere vei foran når det gjelder å konkurrere mot den enorme mengden AI-generert innhold. Selv om vi kanskje ikke alle kan hindre folk i å bruke AI til uærlige formål, vi kan Alle gjør vår del for å sikre at AI forblir et nyttig verktøy-ikke en erstatning-for menneskeskapt kunst.
