Finansielle virksomheder er på vej ind i en ny risikoverden, hvor AI-agenter selv kan træffe beslutninger, bruge digitale værktøjer og sætte handlinger i gang uden menneskelig godkendelse. Problemet er ikke blot, at fejl kan ske hurtigere. Det er, at agenter kan begå fejl, som ingen havde forudset, da systemerne blev godkendt. I en ny analyse advarer konsulenthuset Oliver Wyman om, at bankernes traditionelle risikostyring ikke er indrettet til den virkelighed. Artiklen er en del af serien om AI i Finans.
En enkelt agent kan påvirke kreditgivning, priser, svindelkontrol og kundekontakt samtidig. Hvis den fejler, kan skaden brede sig på tværs af organisationen. Værre endnu kan fejlagtige forudsætninger gentages i månedsvis, så tabene først viser sig, når de allerede er ophobet. Derfor bør bestyrelserne ifølge analysen kunne svare på ti konkrete spørgsmål.
- Hvilke beslutninger træffer AI – og hvad kan gå galt? Bestyrelsen skal vide, hvor AI reelt bestemmer eller påvirker kreditbevillinger, skadebehandling, rådgivning og prisfastsættelse. Det afgørende er ikke antallet af AI-projekter, men konsekvensen for kunderne og balancen, hvis beslutningerne bliver forkerte.
- Hvem bærer det personlige ansvar? Et udvalg eller et delt ansvar mellem risiko-, teknologi- og digitaldirektøren er ikke tilstrækkeligt. Konsulenthuset peger på én navngiven ansvarlig leder, som kender systemernes beføjelser og står på mål for beslutningerne. Ansvaret skal knyttes til faktiske beslutninger, ikke blot til ejerskab af teknologien.
- Hvor selvstændigt må systemet handle? Bestyrelsen bør få klarlagt, hvornår en agent må gennemføre en handling alene, og hvornår et menneske skal godkende den. Grænsen skal være bevidst valgt frem for opstået tilfældigt, efterhånden som teknologien blev taget i brug.
- Hvad vil vi aldrig automatisere? Nogle beslutninger bør efter bestyrelsens vurdering være forbeholdt mennesker, selv om en AI-model leverer gode resultater. De forbudte områder skal være udtrykkeligt besluttet og dokumenteret – ikke blot være uformelle forventninger.
- Hvordan opdager vi, at agenten har ændret adfærd? En agent kan vælge andre fremgangsmåder end ved godkendelsen og gradvist bevæge sig væk fra det forventede. Bestyrelsen skal vide, om fejl fører til en sikker tilstand, og hvor længe systemet kan fortsætte med at træffe dårlige beslutninger uden alarm.
- Kan vi bagefter forklare en konkret beslutning? Når en agent selv planlægger flere trin, anvender værktøjer og måske overlader opgaver til andre agenter, er det ikke nok at gemme slutresultatet. Banken skal kunne rekonstruere beslutningsforløbet, så ledelse, kontrolfunktioner og andre kan forstå, hvad der skete.
- Hvor stort kan tabet blive, før nogen griber ind? Eksponeringen afhænger både af agentens handlefrihed, transaktionernes størrelse og den tid, der går, før fejlen opdages. Bestyrelsen bør efterspørge en konkret vurdering af det største mulige tab inden menneskelig indgriben – ikke nøjes med en generel forsikring om, at systemet er testet.
- Har vi forsøgt at angribe vores egen AI? Oliver Wyman fremhæver manipulation gennem eksempelvis e-mails og dokumenter, der rummer skjulte instruktioner. Bestyrelsen skal spørge, hvornår systemet sidst er blevet udsat for fjendtlige input, og hvad testen afslørede. En agent kan være en ny indgang til fortrolige oplysninger.
- Kan vores AI fejle samtidig med konkurrenternes? Banker kan bygge på de samme modeller, data og leverandører og derfor reagere ens på samme signal. Konsulenthuset minder om børskrakket i 1987, hvor automatiserede strategier forstærkede hinandens salg. Risikoen er ikke alene en intern systemfejl, men samtidige reaktioner på tværs af markedet.
- Hvem kan slukke – og hvor hurtigt? Når en agent handler i maskintempo, kan en langsommelig beslutningsvej gøre en ellers velbeskrevet nødprocedure værdiløs. Bestyrelsen skal kende personen med beføjelsen til at stoppe systemet og den faktiske tid, der går, før stoppet virker.
Analysens hovedbudskab er, at løsningen ikke er flere menneskelige kontrolled. Mennesker kan ikke gennemgå hver eneste AI-beslutning i realtid. Finansielle virksomheder må i stedet bruge AI til løbende at opdage afvigelser, angreb og risikosignaler og samtidig planlægge, hvad der sker, når systemerne svigter. Konkurrencefordelen tilfalder ikke nødvendigvis banken med de mest avancerede agenter, men banken, der kan styre dem.
Morten W. Langer
Pr. mdr.
349 kr.
Få straks adgang til denne artikel og alle andre artikler på ugebrev.dk
- Alle artikler på ugebrev.dk
- Om investering, finans, ledelse, samfundsansvar, life science og Bestyrelsesguiden.dk
- Daglige nyhedsmails med nyheder og analyser
