Tekst: Steinar Steinkopf Sund

Kvaliteten på datagrunnlaget og kunnskap om hvordan teknologien fungerer er avgjørende for at kunstig intelligens (KI) ikke skal bidra til å forsterke og sementere sosiale forskjeller i samfunnet.

Dette er noe av det som kommer fram i det ferske doktorgradsprosjektet til Elisabeth Austad Asser. Hun har undersøkt hvordan bruk av KI kan hemme eller fremme verdiene til Sparebanken Sør. Hun ser at kunstig intelligens kan være nyttig for banknæringen, men påpeker samtidig farer.

– Vi er helt prisgitt datagrunnlaget. Mange tenker på algoritmer som nøytrale, men de gjør ikke noe annet enn det de blir satt til å gjøre. Utfallet kan være noe vi ikke ønsker.

Hun minner om at datagrunnlaget er fortid. Det som tilhører historien, er ikke nødvendigvis noe som er gyldig i dag. Som eksempel viser hun til situasjonen for femti år siden da det hovedsakelig var menn som tjente penger. En kvinnelig søker fra Oslo øst ville med andre ord neppe fått lån dersom en algoritme med datagrunnlag fra den tiden hadde fått bestemme. Derfor er det viktig å ha et kritisk blikk på de etiske verdiene i datagrunnlaget, som faktisk er valgt av noen. Noen har bestemt hva som skal telle med og ikke.  Det er forholdsvis lett å luke bort åpenbare fordommer, men det er mye vanskeligere med de fordommene vi kanskje ikke tenker over i dag, men som kanskje vil være veldig synlige for ettertiden.

Forstå teknologien

KI-forskeren fra Sørlandet mener det aller viktigste er å forstå hvordan KI-teknologien fungerer og hvordan vi skal jobbe med dette. Samtidig er det grunn til å ta innover seg at mange roper varsku fordi ting utvikler seg veldig fort.

– KI-teknologi utøver mye makt i samfunnet vårt, så oppropet til Elon Musk og andre om å bremse utviklingen, er kanskje ikke så dumt, mener hun.

Hun minner om at ChatGPT kun en uke etter lanseringen hadde over en million brukere. Til sammenligning tok det over 200 år fra boktrykkerkunsten som teknologi ble oppfunnet til det ble etablert et trykkeri i Norge.

– Vi må stille oss selv spørsmålet om vi vet nok om hvordan teknologien fungerer, understreker hun.

KI-forskeren fra Sørlandet mener også de som arbeider med å ta dette i bruk må inngå et tverrfaglig samarbeid og ikke overlate alt til teknologene. Ellers kan man risikere at en lånesøker får avslag fordi naboen har betalingsanmerkninger.

– Bankene må ha rådgivere som kan stille spørsmål om hvorfor disse lånekundene er utelatt og som kan spørre seg selv hva det er de ikke ser, påpeker hun.

Kunnskap er ifølge henne ikke bare noe rådgiverne trenger, men også kundene selv.

Veien blir til mens vi går

Hovedtillitsvalgt ved Sparebanken Sør, Jan Erling Tobiassen, påpeker i en kommentar at konsekvensene av å ta i bruk KI kan bli store.

– Datagrunnlaget vil ha stor betydning for resultatet, men det kan aldri bli perfekt eller helt riktig, mener han.

Han tror mange banker sliter med at datagrunnlaget ikke har den ønskede kvaliteten.

– Hos oss jobbes det for tiden hardt med å rette opp i tidligere registrerte data. Det må vi gjøre for at vi skal kunne bli mer datadrevne, forteller han.

Dette er ifølge ham en stor jobb og banken innser at kvalitet i datagrunnlaget blir mer og mer viktig. Likevel tror han at de etter hvert vil komme dit at man kan stole mer på de data de har som grunnlag for automatiserte beslutninger, men det kan ta tid.

Tobiassen er ikke redd for utviklingen, men han mener det å ha tverrfaglige team som evaluerer og korrigerer vil være avgjørende viktig.

– Veien må bli til mens vi går, men vi går i riktig retning for samfunnet som helhet, fastslår hovedtillitsvalgt ved Sparebanken Sør.

Et særlig viktig område

Konserndirektør stab for Sparebanken Sør, Rolf Horst Søraker, som har samarbeidet med Elisabeth Austad Asser i doktorgradsprosjektet hennes, mener at hun har belyst et område som er særlig viktig for en bank som siden 1824 har levd av kundenes tillit.

– Vi er opptatt av å bygge tette og gode relasjoner til kundene og vet at våre verdier må leves i hele i organisasjonen for at vi skal være troverdige, forteller han.

–  I vår digitale satsing er vi opptatt av å tilpasse farten til kundenes adopsjon av nye produkter og tjenester og hun har i denne sammenhengen gitt oss verdifull innsikt i viktigheten av å ha det langsiktige kundeperspektivet med oss i tilnærmingen til bruken av KI.

De 13 konkrete rådene som hun presenterer, er ifølge konserndirektøren innholdsfortegnelsen til deres fremtidige KI-strategi. Han innrømmer at dette ikke er enkelt, blant annet fordi utviklingen innen KI går så fort.

–  Det som i alle fall er sikkert er at vi må ha det etiske perspektivet langt fremme i møte med våre utviklere, leverandører og samarbeidspartnere. Det må vi gjøre for å sikre at vi forstår rekkevidden i bruken av ny KI teknologi, påpeker han og mener tiltak 12, etableringen av et KI-etisk råd, vil være et godt internt kompass. 

13 KI-råd

I doktorgraden sin har Asser laget en liste med tretten anbefalinger til hvordan banker kan tilnærme seg kunstig intelligens (KI) på en måte som fremmer bankens verdier.

1.           Vær bevisst: Lag en plan for bruk av kunstig intelligens som stemmer overens med bankens verdier og mål. Vær klar på hva ulike teknologier skal brukes til.

2.           Forstå lover og regler: Sørg for at bankens ansatte har kunnskap om gjeldende lover og regler om KI.

3.           Jobb med datakvalitet: Sørg for at dataene er rettferdige, balanserte og av høy kvalitet. Unngå fordommer i dataene ved å bruke innsikt fra forskjellige avdelinger i banken. Test KI-systemer for skjevheter og jobb for å fikse dem.

4.           Håndter skjevheter: Bruk et mangfoldig team for å utvikle algoritmer. Samarbeid med grupper som ofte er utelatt når du utvikler KI-modeller. Vær åpen om hvilke data som brukes.

5.           Velg de rette algoritmene: Bruk algoritmer som er så rettferdige og upartiske som mulig. Bruk ekspertise for å velge og vurdere algoritmer, særlig for sensitive oppgaver som kredittvurdering.

6.           Utdann organisasjonen om skjevheter: Lær opp hele organisasjonen om skjevheter i datasett og strategier for å vurdere disse.

7.           Frem intern kunnskap: Inkluder ansatte i utviklingen av KI-modeller og bruk deres bankfaglige kunnskap for å redusere skjevheter og forbedre implementeringen av KI.

8.           Styrk opplæringen: Jobb grundig med opplæring i banken når KI-teknologi tas i bruk.

9.           Involver ledelsen: Sørg for at både tekniske og ikke-tekniske ledere arbeider inkluderende og verdibasert med KI.

10.         Overvåk systemene: Vær oppmerksom på uønskede effekter etter at KI er tatt i bruk. Vær åpen for ekstern revisjon av KI-systemene.

11.         Forstå ansvaret: Vær klar på hvilket ansvar banken har i KI-prosesser, og vurder å bruke begrepet «maskin i loopen» når det er relevant.

12.         Opprett et KI-etisk råd: Rådet kan håndtere utfordringer og sørge for at banken holder seg oppdatert på KI-området.

13.         Vær åpen om KI-beslutninger: Vær klar og åpen om hvilke beslutninger som er tatt ved hjelp av KI.

(Kilde: UIAs nyhetsside)