De ansiktsgjenkjenning det er en av bruksområdene for kunstig intelligens som kanskje mer enn noen annen reiser spørsmål om den delikate balansen mellom sikkerhet og personvern. Av denne grunn introduserer dekretet godkjent av Ministerrådet som Italia implementerer AI-loven, den europeiske forordningen dedikert til kunstig intelligens, presise regler for bruken av den av rettshåndhevende byråer, som definerer når denne teknologien kan brukes og hvilke autorisasjoner som er nødvendige for å tilby garantier mot mulig upassende bruk av samme.
Hva ansiktsgjenkjenning er og hvordan det fungerer
Før du forstår hva som endres, er det nyttig å forstå, i det minste kort, mekanismene som ligger til grunn for denne teknologien. Det er en biometrisk identifiseringsteknologi, dvs. basert på analyse av en persons unike fysiske egenskaper. I dette spesifikke tilfellet analyseres elementer i ansiktet, som avstanden mellom øynene, neseformen, munnens stilling eller ansiktsprofilen. Denne informasjonen omdannes til en matematisk modell, også kalt «biometrisk mal»som kan sammenlignes med andre modeller i en database for å se om det er samsvar.
Det er viktig å skille ansiktsgjenkjenning fra enkel videoovervåking. Mens et tradisjonelt kamera tar bilder, bruker et ansiktsgjenkjenningssystem kunstig intelligens algoritmer for å analysere ansikter automatisk og sammenligne dem med data som allerede er tilgjengelig. Et slikt system registrerer derfor ikke bare hva som skjer, men prøver å etablere identiteten til personene som er tilstede i bildene. Det er derfor vi snakker om «ansiktsgjenkjenning».
Grensene og endringene som er innført ved dekretet
Nettopp på grunn av den spesielt invasive naturen til denne teknologien, introduserer dekretet som innfører AI-loven en rekke grenser og kontroller som har som mål å tillate bruk av ansiktsgjenkjenning i veldefinerte omstendigheter og med kontroll fra den rettslige myndighetenog forhindrer dermed at bruken av dette systemet blir til et masseovervåkingsverktøy.
En av de mest relevante aspektene er inneholdt iartikkel 10 og gjelder ansiktsgjenkjenning utført «i ettertid», det vil si etter at en forbrytelse allerede er begått. I praksis kan etterforskere analysere allerede innspilte bilder for å bekrefte identiteten til en mistenkt person, men de må følge en nøyaktig prosedyre. Den rettslige politimannen er faktisk pålagt å be om detautorisasjon til statsministeren innen 24 timer fra systemaktivering. Dersom denne autorisasjonen ikke kommer frem eller fristene ikke overholdes, må systemet deaktiveres umiddelbart. Videre må alle personopplysninger som samles inn, resultater produsert av programvaren og andre elementer oppnådd gjennom ansiktsgjenkjenning slettes, «med mindre de utgjør en forbrytelse», det vil si materielle elementer som er direkte knyttet til forbrytelsen og som er nødvendige for å kunne brukes som bevis.
Teksten godkjent av Ministerrådet styrker garantiene ytterligere ved å innføre en dobbelt kontrollnivå. I tillegg til rollen som statsadvokatfaktisk involvering av dommeren i de situasjoner som reguleres av dekretet, for å sikre en differensiert rettskontroll basert på etterforskningsbehov. Prinsippet som ligger til grunn for regelen er atkunstig intelligens trenger ikke ta autonome beslutninger: Resultatene produsert av IT-systemer er i hovedsak et støtteverktøy for undersøkelser og må derfor alltid evalueres av kompetente personer.
De nye bestemmelsene tydeliggjør også dette det vil ikke være mulig å opprette permanente biometriske arkiver matet ved vilkårlig å samle fotografier tilgjengelig på nettet. Denne praksisen, kalt «skraping», ville være i konflikt med AI-loven.
Også den rollen til garantisten for beskyttelse av personopplysninger styrkes. Denne uavhengige myndigheten har som oppgave å føre tilsyn med overholdelse av lovgivningen om personvern og behandling av personopplysninger, og verifisere at biometriske teknologier brukes innenfor de grensene som er fastsatt i loven.
i’artikkel 8, teksten snakker om videoovervåking i offentlige romogså regulert med større presisjon. Bilder tatt opp på steder og situasjoner preget av spesielle krav til offentlig orden kan fortsatt lagres, forutsatt at biometrisk behandling ikke foretas på forhånd. Bare i tilfelle det begås en forbrytelse vil det i ettertid være mulig å bruke ansiktsgjenkjenning på opptakene som allerede er gjort. Bildene vil imidlertid måtte slettes etter syv dager, og dermed begrense datalagringsperioden.
Så er det problemet som angår ham fremtidig utvikling av kunstig intelligens. De kan brukes til å trene opp nye AI-baserte systemer syntetiske dataeller anonymiserte data Og pseudonymisert. Ved anonymiserte data blir enhver forbindelse med personens identitet irreversibelt eliminert; i pseudonymiserte er imidlertid den identifiserende informasjonen erstattet av koder, på en slik måte at risikoen for personvernet reduseres, samtidig som det i spesifikke tilfeller er autorisert ved lov, kan rekonstruere den opprinnelige identiteten til de involverte personene.
