Det tekniske spring fra en AI-agent, der rådgiver bankkunden, til en agent, der selv flytter kundens penge, er blevet overraskende lille. J.P. Morgan arbejder allerede med den kontrolarkitektur, der skal gøre det muligt. Men bankerne kan have mindre travlt end kunderne: AI-agenter kan nemlig gøre det langt lettere konstant at sammenligne renter, priser og produkter – og dermed udsætte bankernes indtjening for langt hårdere konkurrence, skriver chefredaktør Morten W. Langer.
Forestil dig, at du beder din personlige AI-agent om at betale alle regninger, sørge for mindst 50.000 kr. på lønkontoen og automatisk flytte resten derhen, hvor pengene giver den bedste rente.
Teknologisk er dette scenarie ikke længere fjernt: AI-agenter kan allerede analysere information, vælge mellem alternativer og kommunikere med andre it-systemer. Men ifølge en analyse fra J.P. Morgan mangler der et afgørende lag, før bankkunder kan give AI direkte adgang til at disponere over deres penge.
Problemet er ikke, om AI-robotten er intelligent nok. Problemet er kontrollen. J.P. Morgans princip er enkelt: En prompt er ikke en kontrol. Det er altså ikke tilstrækkeligt, at kunden skriver til sin agent: ”Du må aldrig overføre mere end 10.000 kr.” Instruksen kan misforstås, være uklar eller komme i konflikt med andre instruktioner.
Derfor skal reglerne håndhæves af banken – uafhængigt af AI-agenten. Finanshuset beskriver en arkitektur, hvor der placeres et separat kontrolsystem mellem AI-agentens beslutning og bankens betalingssystem.
Agenten kan f.eks. beslutte, at 20.000 kr. bør flyttes til en anden konto. Men før betalingen gennemføres, skal bankens system kontrollere, om agenten har lov til netop det. Systemet skal kende de konti, agenten må disponere over, beløbsgrænserne, hvilke modparter der må betales til, og hvilke typer transaktioner kunden har godkendt.
AI-agenten skal i praksis have en digital fuldmagt, der skal være langt mere detaljeret end almindelige menneskelige instruktioner.
En anden afgørende forudsætning er, at AI-agenten aldrig må kunne kommunikere direkte med betalingssystemet uden først at passere kontrollaget. J.P. Morgan placerer derfor kontrollen mellem ”decide” og ”execute”.
AI’en kan altså analysere og træffe beslutningen. Et separat system afgør derefter, om beslutningen er tilladt. Først derefter gennemføres transaktionen. Samtidig skal systemet kunne holde styr på flere AI-agenter, der handler på samme kundes vegne. Hvis tre agenter hver foretager dispositioner tæt på en beløbsgrænse, skal banken se alle transaktioner samlet og i realtid.
AI skal kunne lade være med at handle
J.P. Morgan fremhæver også en anden væsentlig egenskab: AI-agenten skal kunne sige stop. Hvis ingen mulig transaktion opfylder kundens regler, må agenten ikke improvisere sig frem til en løsning. Den skal undlade at handle og evt. sende sagen tilbage til kunden.
Det adskiller finansielle agenter fra mange almindelige AI-systemer, hvor modellen grundlæggende er designet til altid at levere et svar. Endelig skal hele beslutningsforløbet kunne rekonstrueres bagefter. Banken skal kunne dokumentere forløbet.
Her opstår et andet spørgsmål, som kan blive mindst lige så vigtigt for udviklingen. Bankerne har ikke nødvendigvis samme økonomiske interesse som kunderne i at få fuldt autonome AI-agenter hurtigst muligt.
En personlig agent kan nemlig gøre bankmarkedet langt mere gennemsigtigt. I dag bliver mange bankkunder siddende med indlån til en relativt lav rente eller betaler relativt høje priser på lån og andre bankprodukter, fordi det kræver tid og besvær løbende at undersøge alternativer og flytte forretningen. En AI-agent kan potentielt gøre dette konstant. Og hvis agenten samtidig får lov til at udføre transaktionen, forsvinder en stor del af den friktion, der i dag beskytter bankernes kunderelationer. Derfor er det tænkeligt, at bankerne vil foretrække agenter, der hjælper kunderne inde i bankens eget univers, frem for uafhængige agenter, der konstant flytter pengene til den bedste udbyder.
J.P. Morgan giver ingen konkret dato for, hvornår almindelige privatkunder kan give AI-agenter ret til selvstændigt at flytte penge. Men analysen viser, at den tekniske problemstilling allerede er meget konkret.
Morten W. Langer
Pr. mdr.
349 kr.
Få straks adgang til denne artikel og alle andre artikler på ugebrev.dk
- Alle artikler på ugebrev.dk
- Om investering, finans, ledelse, samfundsansvar, life science og Bestyrelsesguiden.dk
- Daglige nyhedsmails med nyheder og analyser
