LØRN case C0215 -

Cathrine Pihl Lyngstad

Leder AI-lab

NAV

Ansvarlig AI

I denne episoden av #LØRN snakker Silvija med leder for AI-lab i NAV, Cathrine Pihl Lyngstad. Som domeneekspert på Advanced Analytics i SAS fikk Cathrine øynene opp for hvordan data mining, text mining og forecasting kunne skape forretningsverdi. I NAVs AI-lab jobber hun for å få flere i arbeid ved hjelp av AI og maskinlæring. Eksempelvis bruker NAV AI for å sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. AI brukes også for å følge opp sykemeldte og få disse raskere tilbake i arbeid. I episoden forteller Cathrine om flere spennende prosjekter NAVs AI-lab jobber med, hvilket fantastisk stort datagrunnlag NAV besitter om oss, samt hva «ansvarlig AI» handler om.
LØRN case C0215 -

Cathrine Pihl Lyngstad

Leder AI-lab

NAV

Ansvarlig AI

I denne episoden av #LØRN snakker Silvija med leder for AI-lab i NAV, Cathrine Pihl Lyngstad. Som domeneekspert på Advanced Analytics i SAS fikk Cathrine øynene opp for hvordan data mining, text mining og forecasting kunne skape forretningsverdi. I NAVs AI-lab jobber hun for å få flere i arbeid ved hjelp av AI og maskinlæring. Eksempelvis bruker NAV AI for å sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. AI brukes også for å følge opp sykemeldte og få disse raskere tilbake i arbeid. I episoden forteller Cathrine om flere spennende prosjekter NAVs AI-lab jobber med, hvilket fantastisk stort datagrunnlag NAV besitter om oss, samt hva «ansvarlig AI» handler om.
Facebook
Twitter
LinkedIn
Email

23 min

Choose your preferred format

SS: Hei velkommen til LØRN, tema i dag er AI som er kunstig intelligent. Jeg er Silvija Seres og gjesten min er Cathrine Phil Lyngstad som leder AI labb for NAV, velkommen.

CPL: Takk skal du ha

SS: Veldig hyggelig å ha deg her Chatrine, jeg synes verden burde vite om de utrolige spennende prosjektene som NAV har satt i gang innenfor IT. Hadde vi vært like flinke til å få klart å skryte av oss selv som folk i S-land så tror jeg nokk vi ville hatt minst like mye å fortelle. Så vi gleder oss til å få høre om det fra deg, men før vi gjør det så har jeg lyst til at du skal fortelle oss litt om hvem du er og hva du gjør.

CPL: Ja, jeg er 38 år gammel, fra Oslo. Jeg bor i Oslo og nå passer jeg på barn i fritiden. Bakgrunn så er jeg sivilingeniør i industriell økonomi fra en ntnu i Trondheim og jeg har også bakgrunn fra software bransjen og konsulent bransjen før jeg i august begynte i NAV. og jeg er så heldig å få da lede AI labben og kombinere nerdegenene og skape samfunns verdi.

SS: Cathrine jeg lurer på om ikke vi var sammen i en sånn angel challenge event. Holdt du på med en sånn sykkel utsyr?

CPL: Nei, det må ha vært noen andre

SS: Ja det var noen andre. Jeg er veldig imponert av det dere klarer å produsere av kunnskap på ntnu studier. Kan ikke du ta litte grann tid til å fortelle oss hva man egentlig lærer der og hvorfor blir man så flink til å være dagens leder?

CPL: Det er kanskje to faktorer som er viktig med det, men for det første så er det man kombinerer jo der teknologi kunnskap eller mange som kommer inn som er sterke på det kvantative og REAL-fag og det tekniske, men alle som begynner der har jo en viss interesse for det kommersielle for verdien av det man jobber med. Så det er de fleste som kommer inn som har en interesse innen hybridvariant av det tekniske, også lærer man så mye om hvordan drive virksomheter og alt fra mikro økonomi og av organisasjons utvikling. Slik at man får en veldig god base og bredde før man skal ut i arbeidslivet.

SS: Ja, er det sånn nogen lunde jevnt fordelt? Jeg har ett utrykk om at det er ganske mange jenter som også studerer ntnu.

CPL: Ja, nå har ikke jeg tallene å, men da jeg begynte i 99 så var vi drøyt 20% jenter og det var den studieretningen på ntnu som høyest jenteandel. Og jeg tror den bare har vokst.

SS: Og jeg har min egen lille amatør teori om at det er noe med at der klarer man å formidle rennevansen av teknologi på en litt bedre samfunns vennlig måte.

CPL: Det tror jeg absolutt. Der hadde man også inn av de indug data som jeg antar som retninger som hadde lavest jenteandel, mens indug energi og miljø hadde høyest jente andel.

SS: Men så jobbet du med spennende private konsulent selskaper som sas institute osv. også velger du å gå til NAV, jeg vil veldig gjerne at du skal fortelle hvorfor.

CPL: Ja, det er veldig morsomt når folk altid spør hvorfor jeg velger det. Fordi jeg synes det er ganske åpenbart, om man hadde spurt meg da i 2004 så hadde det nokk ikke vært aktuelt, men veldig mye har skjedd siden den tid. Generelt i offentlig sektor, opplever man er mer frempå, man er mer åpen for å prøve nye ting. Så skjente jeg også til at NAV var gjennom en stor endring med Tor Larsen som IT direktør som da startet hele endrings prosessen, jeg kjente andre dyktige mennesker fra mitt nettverk som så at hadde gått til nav og fikk med meg at her skal man satse på kunstlig intelligens AI maskin læring som er ett fagområdet som ligger i mitt hjerte nærmes. Og ikke minst man får muligheten til å virkelig skape en verdi for samfunnet og alle menneskene rundt det. Det ga en helt egen mening til arbeidet.

SS: Men jeg synes man egentlig skal gi, sånn som du gjør. Kred til både Torbjørn larsens ledelses evne, Sigrun vågeng ikke sant. Ikke opprinnelig teknologi, men det er ett eller annet som skjer når man faktisk bygger den der utålmodigheten i en organisasjon om å lage verdens beste offentlige tjenester. Altså innkjøps budsjettet man har skal jo utnytte langsiktig klokest mulig, og det er ganske fascinerende.

CPL: Ja, absolutt og det som også Sigrun som motiverende leder og som har bena godt plantet i jorden, men er allikevel endringsvillig og jobber med organisasjonen for å få alle med på den reisen som er nødvendig at d nå er på.

SS: Jeg må innrømme at jeg har tekt akkurat samme tanke som den, når jeg da var ferdig med å leke gründer. Altså når jeg skulle få meg en fulltidsjobb ett eller annet sted så ville det jo vært i en stor offentlig institusjon der hvor de største prosjektene er og hvor de største budsjettene er, og de største behovene er. Og den største samfunns vekten også tenker jeg.

CPL: Ja, og jg har jo tidligere både da jobbet i SAS og i konsulent selskaper, så har jeg jo jobbet med spennende prosjekter, men man blir jo da bare inni en liten del av prosessen. Så enten er man inne i delskapnings fasen hvor man kjører piloter også blir det kanskje ikke noe ut av det eller mann er inne midt i å være med på å gjøre noen analyser eller man ser ikke noe videre. Så det å være på innsiden og sitte i virksomhetene så får man jo hele verdi kjeden og vært med fra starten på ideene og mulighetene på å kritisere det, henter data og utvikler modeller, komplikasjonsvurderinger, setter ting i produksjon og får med seg hele løypa da. Så jeg lærer jo også utrolig mye av å være med på hele den løypa på de delene som jeg ikke har vært så mye inni tidligere.

SS: Ja, fortell litte gran om hva gjør dere da i AI labben til NAV?

CPL: Ja i labben som ligger i begrepet ai. Så jobber vi med intelligens og skal utforske mulighetene til å bruke AI NAV, eller pc-ene kan oppnå sine mål da og bli bedre. De hovedmålene er at vi skal få flere i arbeid, vi skal ha bedre brukermøter og pålitelige forventning, og for å få alle de tre inn i forbruker målene så må vi få bruk av data, man trenger mer bruk av.

SS: Hvordan blir det flere jobber da? Av å bruke AI?

CPL: Nettopp på flere områder. Vis vi kan da eksempelet som har blitt arbeids ledige. Relativt reaktivt, det er en ting man kunne gjøre.

SS: Noen mister en jobb, så kommer man NAV.

CPL: Ja, noen mister en jobb, de skal ha seg en ny jobb da kommer de til NAV, de tilbyr med å registrere seg på nav eller gå for å se på stillinger som ligger ute, men der er det også prosjekter som jobber med det i det store helheten. Nå så ser man jo for seg at når du er eller skal skaffe deg en jobb så blir det jo ikke bare møtt med en side med ledige stillinger. Da kan vi legge inn informasjon om deg eller så har vi det fra tidligere slik at vi kan gi deg anbefalinger om hvilke stillinger som ligger ute og som passer akkurat deg. Og i tillegg «okei, vi ser ikke noe som er vel absolutt relevant til deg nå, men vi ser at andre med din bakgrunn har tidligere tatt disse yrkene. Vil du sette deg på listene for da å få varslinger når det kommer nye ledige stillinger ute innenfor dette området? Eller vi kan anbefale deg da at du bør skaffe deg den eller den tilleggs kompetansen for å bli relevant.» så det ligner egentlig på det vi opplever som forbrukere. Enten om du sitter på netflix og ser på en serie fra en anbefaling eller noe annet, eller du er inne i handleappen og får anbefaling om at du burde kjøpe havregryn til i morgen.

SS: Altså litt sånn som prediktiv helse også versus behandlende helse tjenester. Utrolig mye mer penger som kunne blitt brukt mere effektivt vis vi da måtte forebygget da.

CPL: Ja ikke sant. Så forebygging er jo det nesten da det som er beskrevet nå er jo når du allerede er arbeidsledig og vi skal få deg raskere ut på jobb. Så det er der vi er nå på noen steder, men egentlig så vil vi også før det få skaffet innsikt i arbeidsmarkedet også da kanskje lage enda bedre forståelse på hva som skjer. Så kan man begynne å påvirke det som skjer helt til man er tilbake på utdannings steget.

SS: Ja eller ledelse!

CPL: Eller ledelse.

SS: På en måte rigge en av disse bekymringene jeg har er jo at ledere tenker at nå får de nye digitale kodene komme og fikse de nye jobbene for oss, men jeg tror at de nye jobbene må skapes også er det de som er i jobb i dag de som skal stå i det fordi det er de som kan industrien. Hvordan vi hjelper bedriftene? Tar den dere reisen i god tid før det er krise da.

CPL: Så der tror jeg også at NAV skal jo eventuelt gjøre det. En av oppgavene våre er jo at vi skal sørge for at Norge har ett vel fungere arbeidsmarked og i det så ligger det nokk mer av ett digitalt plattform enn hvor stillingsopplysninger møter CV-er. Der er det en vei å gå, men ideelt sett så skal man ha inn både arbeidsgivere, arbeidsgiver organisasjoner, arbeidstakere, arbeidstaker organisasjoner, utdannings institusjoner felles. Så ideelt sett så er det ett veldig stort prosjekt på tvers av sektorer, på tvers av virksomheter da som dessverre dagens modeller er lit, eller det er krevende da å få til i dagens modeller, men definitivt veien å gå da.

SS: Altså jeg tenker at Norge har kanskje Verdens beste velferdsstat og det er en unik spiller dette er. Det er mange spillere, men Nav er da kanskje en bredere spiller kanskje noen andre land har på så mange segmenter som vi har i velferdsstaten. Også stor del av det nasjonale budsjettet da som den også forvalter. Og det da å få lov til å kvalifisere dette her både på kortsikt og på aktiviseringer og langsikt for verdens beste velferdssamfunn om fem år også må være en kjempe oppgave. Også snakker du da om kunstig intelligens, også spør jeg hvorfor er det spennende og da har du gitt meg noen holde punkter som jeg gjerne vill at vi skal gå litt inn i. du snakker om at det er unikt data grunnlag du ser da i dag med veldig spennende metoder og det er dette med posisjon. Fortell litt.

CPL: Jeg kan jo ta det første du sa først med data grunnlaget. Det er jo ofte sånn at jo mere data du har å velge i og jo større del av denne syklusen den dekker jo mer informasjon klarer du å trekke ut. Så vi besitter jo informasjon på NAV. Bokstavelig talt fra vugge til grav, når ett barn blir født så er det ikke lang tid før NAV får vite om det og vi følger den enkelte gjennom at du får støtte til foreldrepermisjon og du får informasjon om hvilket arbeidsforhold du er opp igjennom, gjennom arbeids registeret vis du er sykemeldt, ufør osv så vil du få vite det opp gjennom på grunn av aldrers pensjonen din til at du er i ferd med å gå inn i gravferds stønad. Så data punkter gjennom hele livsreisen.

SS: Så dere følger mennesker med ett data sett da på en måte sånn at du forstår fasen du er i. for det er noe av det som er problemet med livsstilen vår før.

CPL: Ja, og for å si det sånn så har ikke vi ett data sett, men fordi at vi i Norge har ett personnummer og så har vi i våre baser så har man den identifikatoren så er det mulig. Teknisk å sammenstille det fra de ulike kildene våre så det har jo også med personvern å gjøre.

SS: Men Cathrine jeg må spørre deg om noe her for det er veldig spennende rundt dette med personvern ikke sant og pålitelig forvaltning versus ikke sant, men jeg har hørt at Norge har ett av de største data settene i verden for offentlig data. Hva mener man med det?

CPL: På veldig mange områder så vil man begynne tidlig å sammenstille data. Det er moen veldig gode eksempler på helse. All informasjon man har tatt vare på der blant annet til forskning, men også til annet registeret som det heter hos oss i Norge som faktisk alle som har arbeidsforhold har registrert. Skal ikke si det ikke er sånn i alle land, men det er i hvert fall mange land som ikke har ett så godt data grunnlag, og vi har vært flinke til i mange år til å ta vare på den dataen vi har. Lange tidsdeling.

SS: Og vi er godt strukturert.

CPL: Ja vi er relativt godt strukturert og har store utfordringer, men det man også har bevisst gjort det man kan for å bøte på.

SS: hva mener man med spennende metoder? På toppen av disse spennende data.

CPL: Det er mange virksomheter som har spennende data også tenker man innenfor min bransje så er det kjempe mange muligheter til kunstig intelligens da. La oss si du er en bilforhandler for selvkjørende bilder da og synes det er så kult, men hvem er det som sitter på dataen og hvem er det som skal bruke AI for å skape verdi økning i hele livs syklusen eller prosessen? Da kan det vær helt andre enn de virksomhetene som faktisk skal gjøre det, for da er det bilprodusentene som, eller kanskje det ikke er bilprodusentene Engan, det er de som produserer komponentene til bilene som skal ha det. Så hvor blir det av den utviklende algoritmen, det er ikke nødvendigvis det man tenker på, men i NAV så har vi mange problemstillinger som er unike eller relativt unike så du kan ikke bare kjøpe den som hyllevare.

SS: Finnes det ikke en Ai-knapp for velferds optimalisering?

CPL: Det gjør ikke det, så det er ting å gjenbruke å se på andre bransjer rundt den. Så vi kan si på tvers og oven på som er knyttet til saksbehandlingen og som er relativt likt. Når vi begynner å se på måling av effektene som ulike tiltak har for å få folk til å gå ut i jobb. Om det er arbeidstrening, tilrettelegging på arbeids plassen osv. så ligner det veldig på tillegg man gjør innenfor markedsføring i det private. Det er mye på metoden man bruker, men du får ikke en ferdig software pakke som kommer til deg. I motsetning vis man kanskje tenker på bilde gjenkjenning og vi skal effektivere økonomifunksjon så blir det bygget i økonomi systemene. Da trenger du ikke noe innhav til å gjøre det fordi det kommer i løsningene, men i NAV så har vi mange problemstillinger som vi må løse selv så fra ett design perspektiv så får du faktisk muligheten til å bygge og videre utvikle algoritmene. Så i seg selv så er det veldig spennende alt i denne bakgrunnen da.

SS: Det er kjempe spennende. Det er som du sier veldig spesielt også blir det ett veldig kompleks usecase man skal jobbe med.

CPL: Ja også en veldig stor bredde i hvilken type data vi har. Og det som vi kanskje ikke har så mye av er vel sensor data innenfor tv verden i noen usecases, men på veldig mye tekstlig informasjon strømmer hendelser osv. og som sagt veldig mange andre usecases innenfor dette området.

SS: Veldig bra. Du snakket litte grann om ansvarlig AI og når ett av deres hoved fokus områder i pålitelig forvaltning så tenker jeg det må være super sentralt, fortell oss hva er ansvarlig AI?

CPL: Ansvarlig AI. Det handler om egentlig om at vi skal gjøre en AI der det er hennsiktsmektig og på en riktig måte. for jeg synes egentlig ansvarlig er delt i to dels fasett. Det ene er at vi skal bruke dens verdi, bruke hodet når det kommer til data og bruke det på en riktig måte. og når det gjelder å bruke det på en riktig måte så har man jo ett juridisk sett personlov givingen som setter en del rammer, men i tillegg til den og jobbe med dette praktisk, det er ikke alltid like lett å tolke regelverket. Så er det ikke vanlig å dele det inn i fire ulike komponenter, hvor den ene går ut på privacy, du har sikkerhet, du har forklarbarhet og du har rettferdighet. Og de to første har det vært mye fokus på hittil og tolkingen på hvordan dette er eller hvordan man stiller seg etter gtpr, at vi skal sørge for at dataene ikke blir brukt til noe annet enn det man har lov til. Og at det blir brukt på en sikker måte når det kommer til rettferdighet og sikkerhet, så er det første man har begynt å ta hensyn til. Det er også en del kontrovers i hvordan man skal sikre rettferdighet på den ene siden og privatlivet og minimalisering av det på den andre siden da.

SS: Du har så mye spennende på gang så jeg klarer ikke helt å styre meg. Nå er vi egentlig nesten tom for tid, så nå kommer vi til å ha sånne super korte svar. For jeg må innom flere temaer med deg. Jeg spurte deg om hva du synes er spennende kontroverser og du nevnte da avveiningen mellom



Hvem er du, og hvordan ble du interessert i AI?

Utdannet sivilingeniør i industriell økonomi fra NTNU og har arbeidserfaring fra blant annet software- og konsulentbransjen. Det er fantastisk å kunne kombinere «nerdegenet» med det å faktisk skape verdi og gjøre en forskjell! Og dette med ansvarlig AI har virkelig vekket interessen min etter at jeg begynte i NAV.

Hva gjør dere på jobben?

NAV har som mål å få flere i arbeid, forbedre brukermøter og sikre en pålitelig forvaltning, og NAVs AI-lab utforsker mulighetene som ligger i å bruke AI og maskinlæring til å nå disse målene.

Hva er de viktigste konseptene i Ansvarlig AI?

Det handler om to ting: å bruke AI der det gir verdi, og å bruke AI på en «riktig» måte.

Hvorfor er det så spennende?

Hos NAV kommer vi borti (nesten) hele spekteret av datatyper, ulike problemstillinger og metoder: alt fra anomalideteksjon (identifisering av avvik) i logger og saksflyter, tekstanalyse og -klassifisering av brukerhenvendelser, GAN-modeller for å generere syntetiske data og mye mer.

Hva synes du er de mest interessante kontroversene?

Avveiningen mellom samfunnsnytte og personvern. Pendelen har svingt fra en situasjon der for mange virksomheter gjorde for mye de ikke egentlig hadde lov til, og med lite bevissthet rundt personvern og rettferdighet.

Dine egne prosjekter innen AI i NAV?

To av prosjektene: • Plattform for arbeidsmarked (PAM) er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. • Sykefraværsoppfølging: Vi tester ulike hypoteser for hvordan maskinlæring og prediksjoner kan brukes til å få sykmeldte raskere tilbake i arbeid, og å drive mer effektiv oppfølging av de sykmeldte.

Dine andre favoritteksempler på Ansvarlig AI internasjonalt og nasjonalt?

Google har for eksempel definert ganske gode prinsipper for ansvarlighet, og arrangerer også kurs. Datatilsynet er engasjert i internasjonalt samarbeid knyttet til ansvarlig bruk av data, og KMD har også dette på agendaen.

Hvordan pleier du å forklare Ansvarlig AI?

Ansvarlig AI handler om å bruke AI på en riktig måte – rettferdig, forklarbart, sikkert og som ivaretar den enkeltes privatliv og rettigheter.

Er det noe vi gjør i Norge som er unikt?

Samfunnet vårt er bygget på tillit, og den tilliten brytes raskt ned dersom vi ikke bruker AI på en ansvarlig måte.

Et favorittsitat innen Ansvarlig AI?

«The devil is in the details».

Viktigste poeng om Ansvarlig AI fra samtalen vår?

Gjør det riktig: ikke gå deg bort i konfidensialitets- og sikkerhetsdelen av GDPR – tenk på om det du gjør, er rettferdig, forklarbart og ivartar den enkeltes privatliv og rettigheter.

Cathrine Pihl Lyngstad
Leder AI-lab
NAV
CASE ID: C0215
TEMA: AI AND BIG DATA TECHNOLOGY
DATE : 181220
DURATION : 23 min
YOU WILL LØRN ABOUT:
AIOffentligsektor Datagrunnlag
QUOTE
"Plattform for arbeidsmarked er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. Eksempelvis har vi brukt tekstanalyse, noe som heter «topic mapping», til å sette på nye «tagger» på stillingsutlysninger for å bli enda mer presis i kategoriseringen."
More Cases in topic of AI AND BIG DATA TECHNOLOGY
#C0045
AI AND BIG DATA TECHNOLOGY
Digitale tvillinger

Michael Link

Forsker

Kongsberg

#C0044
AI AND BIG DATA TECHNOLOGY
Big Data og geometrisk modellering

Heidi Dahl

Forsker

Sintef

#C0043
AI AND BIG DATA TECHNOLOGY
Slik kan Big Data predikere fremtiden

Sverre Kjenne

Leder

BaneNor