Britisk politi bygde stor kriminalitetsprediksjonsmaskin, men stoler
Datamaskinens potensiale for kriminalitetsreduksjon
I 2016 lanserte Bristol City Council og Avon og Somerset Police en omfattende datamaskin kalt Think Family Database. Hensikten var å redusere kriminalitet ved å forutse hvor den ville oppstå. Databasen inneholder sensitive data om nærmere en halv million innbyggere, fra politirapporter til helseopplysninger. Politiet hevder at teknologien beskytter innbyggerne og frigjør ressurser. De lover en tryggere by og effektivitet i kampen mot kriminalitet.
Under et arrangement i 2022 diskuterte en politidataspesialist hvordan de skaper det han kalte en «trussel- og risikoprofil». «Jeg dumper all data i en stor bøtte og rører det med en datavitenskapen skje, og vi får et fint risikoscorer for alle,» sa han. Dette høres ut som en innovativ tilnærming, men det reiser flere spørsmål om datasikkerhet og nøyaktighet.
Kritikk av databasens usikkerhet
Til tross for de positive påstandene, er det bekymringer om databasens kvalitet og verdi. Think Family Database har vært lite kjent for de registrerte. Mange innbyggere har fått sine personopplysninger samlet uten samtykke. Flere risikomodeller ble senere avsluttet etter at databasens ansvarlige ansatte mistet tilliten til dem. Det avslører en dyp problematikk: – Bruk av feilaktige data kan føre til alvorlige misforståelser om enkeltindivider. – Punktlige skåringer av borgere kan skape feilaktige bilder av risiko.
Uavhengige analyser av politiets databruk har vist «genuint svake prediksjonsresultater». Over 36 000 modellresultater avslører skuffende ytelse i forutsigelser av kriminalitet.
Konsekvenser for innbyggernes tillit
Politiets bruk av slike systemer kan svekke innbyggernes tillit. Mistrust vokser når det er uklart hvordan personlige data brukes, og uten åpenhet om risikomodeller. John Pegram, leder for en lokal kontrollgruppe, visste ikke at han var en del av Offender Management App før i 2023. Da han fikk innsyn, oppdaget han at hans data var brukt uten forklaring på hvordan. Mangelen på gjennomsiktighet kan skape avstand mellom politi og samfunn.
I et miljø der politiet har rollen som beskytter, oppfatter mange innbyggere nå teknologien mer som en overvåkningsmekanisme. Offentlige myndigheter hevder det er for å øke sikkerheten, men økt overvåkning skaper uunngåelig bekymringer om personvern.
Kollisjon mellom sikkerhet og integritet
Saken tydeliggjør konflikten mellom offentlig sikkerhet og individets rett til privatliv. Den viser hvordan big data og prediktiv analyse kan brukes uten tilstrekkelig ansvarlighet. Det er nødvendig at teknologien implementeres med klarhet, åpenhet og samtykke fra innbyggerne.
Samtidig ser vi at teknologiselskaper og utviklere får økonomisk gevinst ved offentlige kontrakter for slike systemer. Det setter fokus på ansvarsfordelingen: Hvem drar nytte av systemene? Uten tilstrekkelig regulering kan offentlige etater forlate innbyggernes velferd for en mer overvåket stat.
Hvor risikogrensen går
Den nåværende situasjonen i Bristol er ikke unik. UK ser en stigende interesse for å implementere prediktiv analyse i straffesystemet. Tidligere politisjef Andy Marsh, nå leder for College of Policing, har uttalt at effektiv KI bør brukes «som heroin» for å akselerere politiets arbeid. Dette setter en skremmende standard for hvordan teknologi kan anvendes i fremtiden.
Bristol-modellen kan fungere som en test for hvordan lignende teknologiske initiativer kan bli mottatt i andre områder. Det som begynte som et tiltak for å øke sikkerheten, kan raskt bli en kilde til bekymring for personlig frihet. De som er ansvarlige for å utvikle og benytte slike systemer må ta innover seg hvordan de balanserer effektivitet med individers rettigheter.
Å bygge tillit krever mer enn programvare – det handler om å skape et åpent og ansvarlig system som innbyggerne kan stole på. Økt oppmerksomhet på dataets opprinnelse og anvendelsesmetoder vil bli avgjørende for hvordan teknologiens fremtid former seg i samfunnet. Er vi på vei mot en bedre samfunnsforvaltning, eller er vi i ferd med å akseptere mer overvåking i byens navn? Dette er spørsmål vi må begynne å stille høyt.
