Selvom der er digitalisering over alt, vil den sandsynligvis kun tage til i styrke. Det vil rejse en række nye dilemmaer – oven i dem, som allerede findes og aldrig er blevet løst. En debatbog giver en lang række eksempler fra den offentlige sektor, men de vil i vidt omfang gå igen i f.eks. banker. Det står klart, at lovgivere og virksomhedsledere må analysere situationen grundigt.
Dagligt møder man spørgsmålet om, hvorvidt det er ok, at den institution, man har ringet til, optager telefonsamtalen for at bruge den til undervisning af medarbejderne. Hvis vi som samfund havde et modent forhold til digital teknologi, ville vi praktisk talt aldrig høre spørgsmålet. Der kan højest være brug for 10 eller 20 eksempler på kunder i undervisningsmaterialet, så når virksomheden bare bliver ved med at samle eksempler, må den enten lyve om forholdet, eller også gør den sig ikke klart, at den spilder kundernes tid.
Vi ville også sjældent give tilladelsen. Hvem har lyst til at være et objekt for latterliggørelse på et kursus for servicemedarbejdere? Man ser det for sig: kursisterne, der finder ens profil på Facebook for at se, hvordan idioten ser ud.
Med denne umodenhed går vi meget ringe ind i de kommende årtiers teknologiske udvikling. Her vil bl.a. kunstig intelligens og systemer til biometrisk genkendelse, koblet med de mange gange mere potente kvantecomputere, skabe helt ny muligheder – og nye stridigheder og etiske dilemmaer.
Der skal altså tænkes hurtigt i henseende til, hvordan man forholder sig til disse dilemmaer. Det er ikke nok med generiske forsikringer fra før den digitale tidsalder om at respektere kunden og lovgivning. I den henseende er en ny bog ”Fra velfærdsstat til overvågningsstat”, redigeret af Politiken-journalist Michael Jarlner og den selvstændige digitaliseringskonsulent Kim Escherich, nyttig læsning.
Bidragene i bogen handler om den offentlige sektor. Det er en relevant tilgang, for den danske stat har gjort en dyd ud af at være allerforrest på det digitale område. Dette for at spare penge, med tilføjelsen, at så bliver der råd til flere varme hænder.
Men det er på mange måde problematisk. F.eks. går anvendelsen af AI-systemer til at forudsige, hvilke borgere der på den ene eller den anden måde er eller kan blive problematiske, imod en grundpille i den vestlige civilisation: Nemlig at borgerne er individer og skal behandles derefter – ikke ud fra køn, hudfarve eller hvad man ellers med større eller mindre ret kunne forbinde med bestemte adfærdsmønstre.
I den private sektor er der langt større frihed til at vælge kunder og ydelser til eller fra. Der er også den naturlige barriere for brud på kundernes privatliv, at disse kunder kan gå et andet sted hen. Men i sin essens er mange af dilemmaerne de samme.
Tag bankerne som eksempel. De ser frem til en tid, hvor AI-systemer kan behandle låneansøgninger langt bedre og billigere, end en medarbejder kan. Men Nationalbanken har opfordret til forsigtighed – hvis systemet f.eks. lærer sig selv, at det er alt for risikabelt at låne ud til personer med mørk hudfarve, gør banken sig skyldig i regulær og hård racisme. Umiddelbart kan banken naturligvis bare lade være med at taste hudfarve ind i systemet, men det skulle være et tyndbenet AI-system, der ikke hurtigt kunne finde nogle proxy-data, f.eks. om bopæl og familieforhold, der i praksis gav samme resultat.
Spørgsmålet er, om det overhovedet bliver muligt at bruge AI i lånesagsbehandling. Det er nemt at forestille sig et scenarie, hvor den tidlige anvendelse fører til skandaler, som igen fører til et lovindgreb.
I bogen kredser de fleste af skribenterne om, hvilke principper og etiske standarder, myndighederne må anvende. Det synes at være urealistisk – det er bare ikke sådan, verden fungerer, og det er det heller ikke i den private sektor.
Man må forvente, at der kommer hård lovgivning, som sætter spillereglerne. Og den lovgivning vil ikke bare ligge i forlængelse af klassisk garanti af privatlivets fred, for i nogle tilfælde er gevinsterne ved teknologien så store, at privatlivets fred må vige. F.eks. overlever man jo også nok at blive til grin blandt medarbejderne på et callcenter en gang eller to gennem tilværelsen. Det skal bare ikke være noget, man risikerer ved hvert eneste opkald til en institution.
Sten Thorup Kristensen
Michael Jarlner og Kim Escherich (red.): Fra velfærdsstat til overvågningsstat. Algoritmernes magt i den offentlige forvaltning. DJØF forlag.
