Artificiell Intelligens (AI) och Machine Learning (ML) är hett just nu och fler företag använder tekniken produktivt. Även finansiella institutioner måste hoppa på tåget. Tillförlitlig AI blir allt viktigare, inte bara på grund av regulatoriska krav. Spårbarhet och öppenhet kring AI/ML-modeller är viktiga för användarnas acceptans och för att lägga grunden till löpande förbättringar. Transparenta strategier, teknologier och öppen källkod kommer att vara viktiga delar av AI-strategin.
AI och ML används framgångsrikt inom olika områden av finanssektorn. Exempelvis för riskhantering och för att upptäcka avvikelser, särskilt för att bekämpa bedrägerier och penningtvätt. Dessutom används AI och ML för kundsegmentering, hyperpersonalisering och för att förutspå kundernas beteenden.
ChatGPTs framgångshistoria har bidragit till att fler företag använder AI och ML, även i finanssektorns kärnsystem. Lösningar som kan påvisa att de är tillförlitliga blir alltmer betydelsefulla då finansinstitut måste följa stränga myndighetskrav.
AI-förordningen visar vägen
EU:s AI-förordning (AI Act) kommer att ha stor inverkan på framtiden och inkluderar riktlinjer för AI-utveckling och användning. Den omfattar regler som påverkar finanssektorn, och även om den slutliga utformningen ännu inte är fastställd förväntas strikta krav, särskilt när det gäller banker som använder riskhanteringssystem, till exempel för bedömning av kreditvärdighet med AI-modeller.
Det finns just nu olika initiativ kring användningen av tillförlitlig AI i företag, varav Europas största är appliedAI. Det syftar till att stärka europeisk AI-innovation. Med stöd av NVIDIA, NetApp, Red Hat och Munich Re, fokuserar appliedAI på tillförlitlig AI inom finans och försäkring. Framgångsrik AI-introduktion grundar sig på samverkan och implementeringen omfattar alltid tre partners: en plattformsleverantör och operatör, en oberoende mjukvaruleverantör med AI- och ML-lösningar, samt en global systemintegratör.
Principer för öppen källkod fungerar som ett grundläggande ramverk
Men vilka är kraven för att tillhandahålla tillförlitlig AI? Det är här strategier, teknologier och lösningar med öppen källkod kommer in i bilden. De står för transparens och samarbete. Transparens ger bättre tillgång till data och smidigare beslutsfattande. Nära samarbete mellan parter leder till bättre och hållbara resultat. Öppen källkod kan sätta standarder för AI/ML när det gäller tillförlitlighet. I slutändan handlar tillförlitlig AI om rättvisa, transparens, spårbarhet, reproducerbarhet, stabilitet och möjlighet att övervaka.
Hybridplattformar utgör grunden för AI
Öppen källkod är avgörande för tillförlitlig AI. En Kubernetes-baserad hybridmolnplattform med säkerhetskontroller och versionshantering utgör en grund för AI- och ML-implementering. Det fungerar även som bas för AI-modellutveckling, utbildning och inbäddning i olika tillämpningar såsom bankapplikationer.
Dataforskare brukar hantera AI-modellering utanför finansinstitutens produktiva IT-miljö genom utbildning, testning och omskolning. För att distribuera och integrera AI-applikationer i bankmiljön krävs säkerhet, efterlevnad och styrningsregler. En öppen plattform underlättar pålitlig design och påskyndar övergången från experiment till drift för dessa processer. MLOps-konceptet, baserat på beprövade DevOps-principer, effektiviserar utveckling, distribution, hantering och underhåll av maskininlärningsmodeller. Dessa processer stöder både datavetare i utvecklingsteam och driftteam när de distribuerar ML-modeller på ett säkert sätt i produktionsmiljön.
Plattformskonceptet leder till hög flexibilitet och motståndskraft
En öppen hybridmolnplattform kan också erbjuda företag mer flexibilitet: från en lokal till en molnmiljö. Ett sådant plattformskoncept möjliggör till exempel utveckling och utbildning av ML-modellen i molnet med hjälp av syntetiska testdata och efterföljande inbäddning av modellen i den lokala applikationen. Omvänt kan man tänka sig att träna modellerna med egen högkänsliga data i ett eget datacenter och sedan använda dem i molnet.
En strategi med öppen källkod och hybridmoln är fördelaktig för att följa EU:s nya DORA-regler (Digital Operational Resilience Act). DORA kräver att finansiella företag säkerställer teknologisk motståndskraft för affärskritiska processer och applikationer samt driftstabilitet i digitala system. Med en hybrid molninfrastruktur kan företag köra applikationer i olika miljöer och stödja applikationsportabilitet, vilket stärker den digitala motståndskraften avsevärt.
Förtroende är avgörande för politisk och social acceptans av AI-användning. I många branscher med höga regulatoriska krav blir det oumbärligt att etablera pålitlig AI som följer juridiska och etiska principer. Principer för öppen källkod kommer att spela en särskilt viktig roll.
//Armin M. Warda, FSI EMEA Chief Technologist, Red Hat
Om Armin M. Warda
Som Chief Technologist för FSI hjälper Armin M. Warda kunder och partners från finansbranschen att använda öppen källkodsteknik effektivt, säkert och följsamt och följer dem på vägen till hybridmolnet. Ett fokus för hans arbete är nya europeiska direktiv som DORA (Digital Operational Resilience Act) och AI Act (Artificial Intelligence Act) samt omvandlingen av betalningstransaktioner genom nya penningpolitiska instrument, särskilt den digitala euron. Men ämnet ESG (Environment, Social & Governance) och tillförlitlig AI hör också till hans hobbyhästar. Warda har många års yrkeserfarenhet inom finansbranschen: Innan han fbörjade på Red Hat arbetade den kvalificerade datavetaren som senior IT-arkitekt på Postbank Systems i över 20 år med vidareutvecklingen av IT-infrastrukturerna för Postbank och Deutsche Bank .
Disclaimer: Armin M. Warda, FSI EMEA Chief Technologist, Red Hat har författat denna krönika för publicering i Finanstid. Påståenden och åsikter är krönikörens egna.
