Gleder seg over nytt KI-kurs: – Det viktigste går på kompetanse hos mennesker

Direktoratet for høyere utdanning og kompetanse har delt ut midler til flere utdanningsinstitusjoner. Finansnæringen har også fått midler til etterutdanning og BI skal nå sette i gang et kurs for design av ansvarlige systemer innen kunstig intelligens (KI). Kursets navn blir «AI and Data Accountability Management».

En av personene som er med på å etablere kurset er Sparebank 1 SR-Banks Charl Maree. Han er chief data and AI officer hos SR-Bank og leder avdelingen datastyring og kunstig intelligens.

– I den rollen har man ansvar for å sikre gode, effektive, tilgjengelige og kvalitetssikre de KI-løsningene vi lager, samtidig som man må sørge for effektive og sikre rammer for ansvarlig bruk av KI. Det er også i stor grad mye av det kurset på BI vil handle om, sier Maree til BankShift.

Et kurs for de «ikke-tekniske»

Han har selv en doktorgrad i KI, spesifikt ansvarlig KI, og det er dette han nå ser frem til at flere ledere i finansbransjen skal få mulighet til å lære mer om.

– Det har vært mange kurs man har kunnet tatt, men de har ofte fokus på det tekniske og mot folk som ønsker å drive med utvikling. På dette kurset stiller vi blant annet spørsmålene rundt etikk, hvordan man unngår å bruke KI på en uetisk måte. Så dette kurset retter seg mer mot ledere som ønsker å vite hvordan vi skal bruke KI i organisasjonen, samt andre mindre tekniske personer, sier Maree.

På kursets hjemmeside står det at målgruppen er teknologiledere, rådgivere, politikere og andre aktører innen næringslivet for teknologi.

Mennesker er fortsatt viktig

For SR-Bank sin del forteller Maree at han er stolt over å kunne si at man har kommet et godt stykke på vei når det gjelder KI og den ansvarlige bruken. Og han tror han vet hvorfor banken har klart å ligge foran så mange andre i næringslivet.

– Vi har en klar strategi rundt KI som underbygger konsernstrategien vår. Her er det flere elementer, men kanskje det viktigste går på kompetanse hos mennesker. Det er nå sånn at KI ikke kan skrive seg selv ennå, så det er mennesker som ligger i bunn. Så må man også forstå at dette er akkurat som all annen teknologi. Det er ikke noe forskjell fra epost-teknologi, som man også måtte lære seg da det kom, sier Maree.

Interne kurs, gjennom samarbeid

Hos SR-Bank har man derfor gjennomført obligatoriske kurs rundt for eksempel prompting på starten av året, slik at alle i banken, uansett hva man måtte jobbe med, har en forståelse av hva prompting er, hvordan det gjøres, hvordan det fungerer og hva man kan få ut av det.

Og her har Maree et tips til andre som ønsker å virkelig ta fatt på KI-utviklingen.

– Samarbeid med tillitsvalgte er helt sentralt. Det er viktig at folk føler seg ivaretatt. Vi er en organisasjon, men vi er ingenting uten de ansatte. Det er et godt tips til andre: bruk tillitsvalgte, finn ut hvor frykten ligger. Hva som skal til for at folk føler seg både trygge og ivaretatt.

– Ha også med HR fra starten. De kan bistå med kurs og organisering slik at hele organisasjonen blir med på reisen. Det er kritisk. Man må samarbeide, for jeg kan ikke ta ansvar for operasjonell risiko, personvern, compliance og HR. Og det trenger jeg ikke, for jeg har flinke kolleger. Dette er en reise som må tas sammen, sier Maree.

Et annet tips han har er å først og fremst forklare konsernledelsen og styret hvor verdiskapningen ligger, og hvor potensialet til verktøyet er. Gi ledelsen en «whats in it for me», som Maree kaller det.

Passer på at ingen blir utenfor

For han er veldig tydelig på hva de store utfordringene for et selskap som skal bli mer modne innen KI er. Og det går på menneskene som ikke er med i prosessen.

– For de som jobber med tek er utfordringen ofte tilgjengelighet av data, og det har man vært klar over lenge. Men det som kanskje er den utfordringen jeg trekker frem først er hos menneskene. De som er usikre på om de bruker verktøyet riktig, eller ikke tør å bruke det i det hele tatt. Det andre er spørsmål som «kommer dette til å ta jobben min?». Og det tredje er inkludering. Folk som blir utelatt og blir mindre teknisk enn andre, og plutselig er man ikke en del av A-laget lenger, og det må man være forsiktig med, sier han.

Derfor trekker Maree igjen frem tillitsvalgte og HR som helt sentrale deler av KI-prosessen til en organisasjon, og dette med obligatoriske kurs innad, slik at alle er med på å få en forståelse, enten de vil det eller ikke.

Åpner for innovasjon

Nå ser Maree frem til 2026 når EUs AI-act blir implementert i Norge, slik at det kommer tydelige retningslinjer og rammer på ansvarlig bruk av kunstig intelligens.

– Hos oss har vi valgt å være forsiktige med hvilke systemer vi tar i bruk, fordi det ikke er rammer for å dokumentere at man gjør det på en etisk måte. Derfor er vi av og til nødt til å velge enklere løsninger. Det handler også litt om “risk-reward”, for man må velge de områdene som gir mest verdiskapning, og som ikke utgjør større risiko for organisasjonen eller kundene.

– Nå har de sagt i Europa at man ønsker å åpne for utvikling og innovasjon, og konkurrere med Asia og USA, så regelverkene som kommer skal også være muliggjørende, og det er jeg positiv til, sier Maree.