Det britiske justisdepartementet utvikler en «kjølig og dystopisk» algoritme som uten tvil bruker sensitive private data fra uskyldige mennesker, om enn et prisverdig forsøk på å skape et «drapsprediksjon» -verktøy for å identifisere individer som mer sannsynlig vil drepe.
«Justisdepartementets forsøk på å bygge dette drapsprediksjonssystemet er det siste kjølige og dystopiske eksemplet på regjeringens intensjon om å utvikle såkalte kriminalitets» prediksjon «-systemer,» sa Sofia Lyall, en statlig forsker.
Pressure Group StateWatch oppdaget prosjektets eksistens og noe av dets arbeid gjennom dokumenter innhentet av Informasjonsfrihet forespørsler. Lyall kritiserte prosjektet fordi hun sa: «Gang på gang viser forskning at algoritmiske systemer for å» forutsi «kriminalitet er iboende feil.» Hun sa at disse AI -systemene profilerer folk som kriminelle før de har gjort noe galt.
Regjeringsforskere bruker angivelig overvåkningsalgoritmer som analyserer tusenvis av folks informasjon, inkludert kriminalitetsofre, for å forhindre kriminalitet ved å forsøke å identifisere de som har høyere risiko for å begå alvorlige voldelige lovbrudd.
‘Å oppdage de som skal begå drap’
I følge The Guardians eksklusive intervju med en talsperson for regjeringen, vil Justisdepartementet «gjennomgå lovbrytereegenskaper som øker risikoen for å begå drap» og «utforske alternative og innovative datavitenskapsteknikker for risikovurdering av drap.»
Talsmannen la til, «Prosjektet vil gi bevis for å forbedre risikovurderingen av alvorlig kriminalitet og til slutt bidra til å beskytte publikum via bedre analyse.»
Men StateWatch og andre aktivister smeller prosjektet som dårlig tenkt, særlig gitt at det bruker data fra Storbritannias «institusjonelt rasistiske politi og hjemmekontor», som Lyall sa: «vil forsterke og forsterke den strukturelle diskriminering som ligger til grunn for det kriminelle rettssystemet.»
Statewatch ba MOJ om å «straks stoppe videre utvikling av dette drapsprediksjonsverktøyet. I stedet for å kaste penger mot å utvikle dodgy og rasistiske AI og algoritmer, må regjeringen investere i virkelig støttende velferdstjenester.»
Storbritannias statsministerkontor bestilte det kontroversielle overvåkningsprosjektet da Rishi Sunak var ved makten. Den bruker data om kriminalitet fra forskjellige regjeringskilder, for eksempel prøvetjenesten og Greater Manchester -politiet, fra før 2015.
Prosjektet bruker folks private informasjon, inkludert navn, fødselsdato, kjønn, etnisitet og et tall som identifiserer dem på politiets nasjonale datamaskin.
