LØRN Case #C0215
Ansvarlig AI
I denne episoden av #LØRN snakker Silvija med leder for AI-lab i NAV, Cathrine Pihl Lyngstad. Som domeneekspert på Advanced Analytics i SAS fikk Cathrine øynene opp for hvordan data mining, text mining og forecasting kunne skape forretningsverdi. I NAVs AI-lab jobber hun for å få flere i arbeid ved hjelp av AI og maskinlæring. Eksempelvis bruker NAV AI for å sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. AI brukes også for å følge opp sykemeldte og få disse raskere tilbake i arbeid. I episoden forteller Cathrine om flere spennende prosjekter NAVs AI-lab jobber med, hvilket fantastisk stort datagrunnlag NAV besitter om oss, samt hva «ansvarlig AI» handler om.

Cathrine Pihl Lyngstad

Leder AI-lab

NAV

"Plattform for arbeidsmarked er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. Eksempelvis har vi brukt tekstanalyse, noe som heter «topic mapping», til å sette på nye «tagger» på stillingsutlysninger for å bli enda mer presis i kategoriseringen."

Varighet: 23 min

LYTTE

Ta quiz og få læringsbevis

0.00

Du må være medlem for å ta quiz

Ferdig med quiz?

Besvar refleksjonsoppgave

Hvem er du, og hvordan ble du interessert i AI?

Utdannet sivilingeniør i industriell økonomi fra NTNU og har arbeidserfaring fra blant annet software- og konsulentbransjen. Det er fantastisk å kunne kombinere «nerdegenet» med det å faktisk skape verdi og gjøre en forskjell! Og dette med ansvarlig AI har virkelig vekket interessen min etter at jeg begynte i NAV.

Hva gjør dere på jobben?

NAV har som mål å få flere i arbeid, forbedre brukermøter og sikre en pålitelig forvaltning, og NAVs AI-lab utforsker mulighetene som ligger i å bruke AI og maskinlæring til å nå disse målene.

Hva er de viktigste konseptene i Ansvarlig AI?

Det handler om to ting: å bruke AI der det gir verdi, og å bruke AI på en «riktig» måte.

Hvorfor er det så spennende?

Hos NAV kommer vi borti (nesten) hele spekteret av datatyper, ulike problemstillinger og metoder: alt fra anomalideteksjon (identifisering av avvik) i logger og saksflyter, tekstanalyse og -klassifisering av brukerhenvendelser, GAN-modeller for å generere syntetiske data og mye mer.

Hva synes du er de mest interessante kontroversene?

Avveiningen mellom samfunnsnytte og personvern. Pendelen har svingt fra en situasjon der for mange virksomheter gjorde for mye de ikke egentlig hadde lov til, og med lite bevissthet rundt personvern og rettferdighet.

Dine egne prosjekter innen AI i NAV?

To av prosjektene: • Plattform for arbeidsmarked (PAM) er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. • Sykefraværsoppfølging: Vi tester ulike hypoteser for hvordan maskinlæring og prediksjoner kan brukes til å få sykmeldte raskere tilbake i arbeid, og å drive mer effektiv oppfølging av de sykmeldte.

Dine andre favoritteksempler på Ansvarlig AI internasjonalt og nasjonalt?

Google har for eksempel definert ganske gode prinsipper for ansvarlighet, og arrangerer også kurs. Datatilsynet er engasjert i internasjonalt samarbeid knyttet til ansvarlig bruk av data, og KMD har også dette på agendaen.

Hvordan pleier du å forklare Ansvarlig AI?

Ansvarlig AI handler om å bruke AI på en riktig måte – rettferdig, forklarbart, sikkert og som ivaretar den enkeltes privatliv og rettigheter.

Er det noe vi gjør i Norge som er unikt?

Samfunnet vårt er bygget på tillit, og den tilliten brytes raskt ned dersom vi ikke bruker AI på en ansvarlig måte.

Et favorittsitat innen Ansvarlig AI?

«The devil is in the details».

Viktigste poeng om Ansvarlig AI fra samtalen vår?

Gjør det riktig: ikke gå deg bort i konfidensialitets- og sikkerhetsdelen av GDPR – tenk på om det du gjør, er rettferdig, forklarbart og ivartar den enkeltes privatliv og rettigheter.

Hvem er du, og hvordan ble du interessert i AI?

Utdannet sivilingeniør i industriell økonomi fra NTNU og har arbeidserfaring fra blant annet software- og konsulentbransjen. Det er fantastisk å kunne kombinere «nerdegenet» med det å faktisk skape verdi og gjøre en forskjell! Og dette med ansvarlig AI har virkelig vekket interessen min etter at jeg begynte i NAV.

Hva gjør dere på jobben?

NAV har som mål å få flere i arbeid, forbedre brukermøter og sikre en pålitelig forvaltning, og NAVs AI-lab utforsker mulighetene som ligger i å bruke AI og maskinlæring til å nå disse målene.

Hva er de viktigste konseptene i Ansvarlig AI?

Det handler om to ting: å bruke AI der det gir verdi, og å bruke AI på en «riktig» måte.

Hvorfor er det så spennende?

Hos NAV kommer vi borti (nesten) hele spekteret av datatyper, ulike problemstillinger og metoder: alt fra anomalideteksjon (identifisering av avvik) i logger og saksflyter, tekstanalyse og -klassifisering av brukerhenvendelser, GAN-modeller for å generere syntetiske data og mye mer.

Hva synes du er de mest interessante kontroversene?

Avveiningen mellom samfunnsnytte og personvern. Pendelen har svingt fra en situasjon der for mange virksomheter gjorde for mye de ikke egentlig hadde lov til, og med lite bevissthet rundt personvern og rettferdighet.

Dine egne prosjekter innen AI i NAV?

To av prosjektene: • Plattform for arbeidsmarked (PAM) er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. • Sykefraværsoppfølging: Vi tester ulike hypoteser for hvordan maskinlæring og prediksjoner kan brukes til å få sykmeldte raskere tilbake i arbeid, og å drive mer effektiv oppfølging av de sykmeldte.

Dine andre favoritteksempler på Ansvarlig AI internasjonalt og nasjonalt?

Google har for eksempel definert ganske gode prinsipper for ansvarlighet, og arrangerer også kurs. Datatilsynet er engasjert i internasjonalt samarbeid knyttet til ansvarlig bruk av data, og KMD har også dette på agendaen.

Hvordan pleier du å forklare Ansvarlig AI?

Ansvarlig AI handler om å bruke AI på en riktig måte – rettferdig, forklarbart, sikkert og som ivaretar den enkeltes privatliv og rettigheter.

Er det noe vi gjør i Norge som er unikt?

Samfunnet vårt er bygget på tillit, og den tilliten brytes raskt ned dersom vi ikke bruker AI på en ansvarlig måte.

Et favorittsitat innen Ansvarlig AI?

«The devil is in the details».

Viktigste poeng om Ansvarlig AI fra samtalen vår?

Gjør det riktig: ikke gå deg bort i konfidensialitets- og sikkerhetsdelen av GDPR – tenk på om det du gjør, er rettferdig, forklarbart og ivartar den enkeltes privatliv og rettigheter.

Vis mer
Tema: AI- og datadrevne plattformer
Organisasjon: NAV
Perspektiv: Offentlig sektor
Dato: 181220
Sted: OSLO
Vert: Silvija Seres

Dette er hva du vil lære:


AIOffentligsektor
Datagrunnlag

Del denne Casen

Din neste LØRNing

Din neste LØRNing

Din neste LØRNing

Dette er LØRN Cases

En LØRN CASE er en kort og praktisk, lett og morsom, innovasjonshistorie. Den er fortalt på 30 minutter, er samtalebasert, og virker like bra som podkast, video eller tekst. Lytt og lær der det passer deg best! Vi dekker 15 tematiske områder om teknologi, innovasjon og ledelse, og 10 perspektiver som gründer, forsker etc. På denne siden kan du lytte, se eller lese gratis, men vi anbefaler deg å registrere deg, slik at vi kan lage personaliserte læringsstier for nettopp deg. 

Vi vil gjerne hjelpe deg komme i gang og fortsette å drive med livslang læring.

En LØRN CASE er en kort og praktisk, lett og morsom, innovasjonshistorie. Den er fortalt på 30 minutter, er samtalebasert, og virker like bra som podkast, video eller tekst. Lytt og lær der det passer deg best! Vi dekker 15 tematiske områder om teknologi, innovasjon og ledelse, og 10 perspektiver som gründer, forsker etc. På denne siden kan du lytte, se eller lese gratis, men vi anbefaler deg å registrere deg, slik at vi kan lage personaliserte læringsstier for nettopp deg. Vi vil gjerne hjelpe deg komme i gang og fortsette å drive med livslang læring.

Vis

Flere caser i samme tema

More Cases in the same topic

#C0044
AI- og datadrevne plattformer

Heidi Dahl

Forsker

Sintef

#C0043
AI- og datadrevne plattformer

Sverre Kjenne

Leder

BaneNor

#C0042
AI- og datadrevne plattformer

Geir Engdahl

CTO

Cognite

Utskrift av samtalen: Ansvarlig AI

Velkommen til LØRN.Tech - en læringsdugnad om teknologi og samfunn med Silvija Seres og venner. 

 

 

Silvija Seres: Velkommen til LØRN. Temaet i dag er AI kunstig intelligens. Jeg Silvija Seres og gjesten min er Cathrine Pihl Lyngstad som leder AI-lab for NAV. Velkommen. 

 

Cathrine Pihl Lyngstad: Takk skal du ha. 

 

Silvija: Veldig hyggelig å ha deg her, Cathrine. Jeg synes verden burde vite mer om de utrolig spennende prosjektene som NAV har satt i gang innenfor IT. Hadde vi vært like flinke til å skryte av oss selv som folk i Estland, så tror jeg vi ville hatt minst like mye å fortelle, så vi gleder oss til å høre om det fra deg, men før vi gjør det, så har jeg lyst til at du skal fortelle oss litt om hvem du er og hva du gjør. 

 

Cathrine: Jeg er 38 år gammel fra Oslo. Jeg bor i Oslo og har barn på fritiden. Bakgrunn, så er jeg sivilingeniør i industriell økonomi fra NTNU i Trondheim, og jeg har også bakgrunn fra både softwarebransjen og konsulentbruk før jeg i august begynte i NAV, og jeg er så heldig å få da lede AI labben og kombinere nerde genene med å skape samfunnsverdi. 

 

Silvija: Cathrine, jeg lurer på om ikke vi var sammen i en sånn angel challenge event? Holdt du på med noe sykkelutstyr? Nei, det var noen andre indøkere. Jeg er veldig imponert av det dere klarer å produsere av kunnskap på indøks studier. Kan ikke du bruke littegrann tid til å fortelle oss hva man egentlig lærer der og hvorfor blir man så flink til å være dagens leder? 

 

Cathrine: Det er kanskje to faktorer som er viktig med det. For det første så kombinerer man teknologi og kunnskap. Det mange som kommer inn som er sterke på det kvantitative og realfag og det tekniske, men alle som begynner der har en viss interesse for det kommersielle for verdien av det man jobber med. Så de fleste som kommer inn har allerede en interesse i hybridvarianter mot det tekniske og mot anvendelsen av det, så lærer man jo også mye om hvordan drive virksomheter sett fra mikroøkonomi og organisasjonsutvikling. Slik at man får en veldig god base og en bredde før man skal ut i arbeidslivet.

 

Silvija: Er det sånn noenlunde jevnt fordelt? Jeg har inntrykk at det er ganske mange jenter som også studerer indøk.

 

Cathrine: Ja, nå har jeg ikke tallet da jeg begynte i 99. Da var vi drøyt 20% jenter. Så det var den studieretningen på avskriving på NTNU som hadde høyest jenteandel og jeg tror den bare har vokst. 

 

Silvija: Jeg har min egen lille amatør teori om at det har noe med det å gjøre at man klarer å formidle relevansen av teknologi på litt bedre samfunnsvennlig måte. 

 

Cathrine: Det tror jeg absolutt, der hadde man også innad i innendørs retninger med indøk data som en av tre retninger laveste jenteandel, mens indøk energi og miljø hadde høyest jenteandel. 

 

Silvija: Men så jobbet vi med spennende private konsulentselskaper som sansy institutt også videre. Også velger du å gå til NAV, jeg vil veldig gjerne du forklarer hvorfor. 

 

Cathrine: Ja, det er interessant at folk spør hvorfor alle dager det, fordi for meg så er det noe ganske åpenbart at hadde man spurt meg i 2004 da jeg ferdig med å studere, så hadde det antagelig ikke vært aktuelt, men veldig mye har jo skjedd siden det egentlig generelt i offentlig sektor. Man har opplevd at man er mer frempå, man er mer åpen for å prøve nye ting til egentlig ikke byråkratisk som det har vært også videre. Så kjente jeg jo til at NAV spesifikk hadde vært igjennom en eller var i en stor endring med Torbjørn Larsen som IT direktør som startet eller fortsatte en del indre endringsprosesser. Jeg kjente andre dyktige mennesker som fra mitt nettverk som hadde gått til NAV og fikk med meg at oi her skal man satse på kunstig intelligens AI maskinlæring, som er fagområde som ligger i mitt hjerte nærmest og ikke minst man får muligheten til å virkelig skape en verdi for samfunnet og alle menneskene rundt her. Så det gir en helt egen mening til arbeidet. 

 

Silvija: Jeg synes man skal på en måte gi ganske sånn kred til både Torbjørn Larsen sin ledelsesevner. Det er et eller annet som skjer når man faktisk bygger den der utålmodigheten i organisasjonen om å lage verdens beste offentlige tjenester. Altså det innkjøpsbudsjettet man har, skal man utnytte langsiktig, klokest mulig. Det er ganske fascinerende, tenker jeg. 

 

Cathrine: Absolutt. Det er veldig fint å ha Sigrun som en utrolig motiverende leder, og som har beina godt plantet på jorden, men allikevel er endringsvillig og jobber med organisasjonen for å få alle med på den reisen som er nødvendig at vi nå er på. 

 

Silvija: Jeg må innrømme at jeg har tenkt egentlig akkurat samme tanke som deg når jeg da er ferdig med å leke gründer. Altså skulle jeg fått meg en fulltidsjobb et eller annet, så ville det vært i en stor offentlig institusjon. For det er der de største prosjektene er og de største budsjettene er og de største behovene og den største samfunnseffekten også tenker jeg. 

 

Cathrine: Og jeg har jo tidligere både da jeg jobbet i software hos SAS og i konsulentselskaper, så er man inne og jobber med spennende prosjekter, men man er inne bare på en liten del av prosessen. Så enten er man inne i deskapningsfasen og kjører piloter, også blir det kanskje ikke noe ut av det, eller man er inne midt i og er med på å gjøre noe analyser, bygge noen modeller og ser ikke hvordan det går videre. Så det å være på innsiden og sitte i virksomhetene som vi jobber med det, så får man hele verdikjeden og vært med på fra man skaper ideene, mulighetene og konkretiserer det. Henter dataene til å utvikle modeller, vurdere personer konsekvensvurderinger, setter ting i og får prøvd hele løypa. Så jeg lærer også utrolig mye av å være med på hele den løypa, altså de delene av prosessen som jeg ikke har vært så mye inn i tidligere. 

 

Silvjia: Fortell littegrann om hva dere gjør i AI labben til NAV? 

 

Cathrine: Som det ligger i begrepet, så jobber vi da med AI eller kunstig intelligens og skal utforske mulighetsrommet for å bruke AI til at NAV skal bedre oppnå sine mål. De tre hovedmålene er at vi skal få flere i arbeid. Vi skal ha bedre brukermøter og pålitelig forvaltning. Og for å innfri det, så trenger man bedre bruk av data.

 

Silvija: Hvordan blir det mer jobb til flere av å bruke AI?

 

Cathrine: Nei, på flere områder hvis vi kan ta eksempelvis de som har blitt arbeidsledige. Vi jobber jo nå, altså relativt reaktivt. Altså noen mister en jobb. De skal ha seg ny jobb, da kommer de til NAV. De begynner med å registrere en CV på NAV eller går inn og ser på stillinger som ligger ute. Der er det altså prosjekter som jobber med det, en sånn større helhet da. Men se det for deg, at når du skal da ha ny jobb, så blir du ikke bare møtt med en side med, her er ledige stillinger. Da kan du legge inn noe informasjon om deg eller den har vi allerede tilgjengelig faktisk slik at vi kan gi deg anbefalinger om hvilke stillinger som ligger ute som passer akkurat deg. I tillegg, vi ser ikke noe som er absolutt relevant for deg nå, men vi ser at andre med din bakgrunn har tidligere gått i disse yrkene. Vil du sette deg på listen og få varslinger når det kommer nye stillinger ut innenfor dette området? Eller vi kan anbefale deg at du bør skaffe den og denne tilleggskompetansen eller erfaringen for å bli relevant. Så det ligner egentlig på det vi opplever som forbrukere. Enten de sitter på Netflix, og får en anbefaling om noe annet eller du er inne i handlelappen din og for anbefaling om at du burde huske å kjøpe havregryn til i morgen. 

 

Silvijva: Altså litt sånn prediktiv helse versus behandlende helsetjenester. Utrolig mye mer penger som kunne blitt brukt mer effektivt hvis vi på en måte forebygger.

 

Cathrine: Ja, ikke sant, så foreløpig er jo neste som er beskrevet nå når du allerede er arbeidsledig og vi skal få det raskere ut i jobb, så det er der vi er nå på modenhets reisen, men egentlig så vil vi også før det fått skaffet noe innsikt i arbeidsmarkedet og kanskje lage enda bedre prognoser, enda bedre forståelse for hva som skjer. Så kan man begynne å påvirke det som skjer helt tilbake i utdanningsstedet.

 

Silvija: Ja, eller ledelse. På en måte rigge jobben. Altså en av de bekymringene jeg har er at ledere tenker at nå får de nye digitale hodene komme og fikse de nye jobbene for oss. Men jeg tror de nye jobbene må skapes, også er det de som er i jobb i dag som egentlig burde stå i det, for det er de som kan industrien. Og hvordan hjelper vi bedriftene ta den der reisen i god tid før det er krise da? 

 

Cathrine: En av oppgavene våre er jo å sørge for at Norge har et velfungerende arbeidsmarked, og i det så ligger det mer enn å ha en digital plattform hvor stillingsutlysninger møter CV’er. Der er det en vei å gå, men ideelt sett så skal man jo da ha inn både arbeidsgivere, arbeidsgiverorganisasjoner, arbeidstakere, arbeidstakerorganisasjoner, utdanningsinstitusjoner felles. Så ideelt sett så er jo dette et sånt mulig stort prosjekt på tvers av sektorer, på tvers av virksomheter da, som dessverre er litt krevende å få til med dagens modeller, men definitivt veien å gå da.  

 

Silvija: Jeg tenker at Norge har kanskje verdens beste velferdsstat, og det er en unik spiller oppi dette her. Det er mange vesentlige spillere, men NAV er en bredere spiller enn kanskje noen andre land har på så mange segmenter som den dekker velferdsstaten og så stor del av nasjonalbudsjettet som den også forvalter. Det da, å få lov til å optimalisere dette her, både på kort sikt med effektiviseringer og lang sikt for verdens beste velferdssamfunn om 5 år også må være en kjempeoppgave. Så snakker du da om kunstig intelligens, og da spør jeg, hvorfor er det spennende? Da har du gitt meg noen holdepunkter som jeg gjerne vil at vi skal gå litt inn i. Du snakker om at det er unikt datagrunnlag. Du sier det er noe veldig spennende med nye metoder, og det er dette med posisjonen, fortell litt. 

 

Cathrine: Jeg kan jo ta det første først for å starte ned i detaljene med datagrunnlaget. Det er jo ofte sånn at jo mer data du har å velge i og jo større del av prosessen eller livssyklusen vi dekker, jo mer informasjon klarer vi å trekke ut, og jo bedre råd kan man gi. Så vi besitter informasjon i NAV og bokstavelig talt fra vugge til grav. Når et barn blir født, så tar det ikke lang tid før NAV får vite om det, og vi følger den enkelte gjennom at du får støtte til foreldrepenger og du får informasjon om hvilke arbeidsforhold du er oppe gjennom, gjennom arbeidsregisteret. Hvis du er sykmeldt/ ufør også videre, så vite det opp igjennom. Til slutt får du alderspensjon og til noen gir man også gravferdsstønad. Så vi har datapunkter gjennom hele livsreisen- 

 

Silvija: Som følger et menneske med ett datasett, eller en måte sånn at de forstår fasene du er i. For det er noe av det som man har problemer med siloer før. 

 

Cathrine: Ja, og for å si det sånn, vi har ikke et datasett, men fordi at vi i Norge har personnummer og i våre baser så har man i denne identifikatoren, så er det mulig teknisk å sammenstille fra de ulike kildene våre, og det har også med personvernet å gjøre. 

 

Silvija: Men Cathrine, jeg må spørre deg nå her, for det er veldig spennende problemstillinger rundt personvern, ikke sant? Og pålitelig forvaltning versus, men jeg har hørt at Norge har blant de beste datasettene i verden innenfor offentlige data. Hva mener man med det?

 

Cathrine: Jeg vet på veldig mange områder så begynte man tidlig å sammenstille data. Det er veldig gode eksempler på helse. All informasjon som man har tatt vare på der blant forskning, men også dette a-registeret som det heter hos oss i Norge hvor faktisk alle arbeidsforhold er registrert. Jeg skal ikke si at ikke det finnes andre land, men det er i hvert fall veldig mange andre land som ikke har et så godt datagrunnlag. Vi har vært flinke i mange år til å ta vare på de dataene vi har.

 

Silvija: Det er lange tidsserier, og de er godt strukturerte. 

 

Cathrine: Relativt. Vi har også utfordringer, men det er man også bevisst på for å gjøre det man kan for å bøte på. 

 

Silvija: Hva mener man med spennende metoder på toppen av disse spennende data? 

 

Cathrine: Det er mange virksomheter som har spennende data, også tenker man innenfor min bransje er det kjempemange muligheter innenfor kunstig intelligens. La oss si du er en bilforhandler også tenker man, selvkjørende biler, alt er så kult. Men hvem er det som sitter på dataene og hvem er det som skal skape bruke AI for å skape en verdiøkning i hele den livssyklusen eller prosessen. Da kan det være helt andre enn din virksomhet som faktisk skal gjøre det. For da er det bilprodusenten, eller kanskje ikke det bilprodusenten en gang, det er de som produserer komponenter til bilene som skal ha det. Så hvor er det man faktisk å utvikle algoritmene? Det er ikke nødvendigvis det man først tenker på, men i NAV så har vi mange problemstillinger som er unike, i hvert fall relativt unike, så du kan ikke bare kjøpe det som hylle vare.

 

Silvija: Finnes ikke en AI knapp for velferdsoptimalisering. 

 

Cathrine: Det gjør ikke det, så det er ting å gjenbruke og se på fra andre bransjer rundt den også. Du kan si på tvers av offentlig sektor, så er det mye knyttet til saksbehandling som er relativt likt når vi begynner å se på måling av effekten som ulike tiltak har for å få folk ut i jobb. Om det er arbeidstilrettelegging på arbeidsplassen også videre så ligner det veldig mye på tiltak man gjør innenfor markedsføring i det private. Så det er mye på metoden vi kan bruke, men du får ikke en ferdig softwarepakke som kommer til deg i motsetning til kanskje man tenker på bildegjenkjenning og vi skal effektivisere økonomifunksjonen. Så blir det bygget inn i økonomisystemene. Da trenger du ikke noe inn house til å gjøre det. For det kommer i løsningene. Men i NAV så har vi mange problemstillinger som vi må løse selv. Så fra et designperspektiv, så får du faktisk muligheten til å bygge og videreutvikle algoritmene som i seg selv er spennende for alle med den bakgrunnen da. 

 

Silvija: Kjempespennende. Det er som du sier veldig spesiell og samtidig veldig kompleks usecase man skal jobbe med. 

 

Cathrine: Ja, og en veldig stor bredde også. Både i hvilke type data, man ikke har så mye av sensordata og liksom noe IKT verden. Det er noen caser der og, men på veldig mye tekstlig informasjon, strømmer, hendelser også videre og som sagt også i veldig mange anvendelsesområder i usecaser. 

 

Silvija: Veldig bra. Du snakket littegrann om ansvarlig AI. Og når et av deres hoved fokusområder er pålitelig forvaltning, så tenker jeg det med å være supersentralt. Fortell oss hva er ansvarlig AI? 

 

Cathrine: Ansvarlig AI handler egentlig om at vi skal gjøre AI der det er hensiktsmessig og på en riktig måte. For jeg synes også ansvarlig og sånn todelt fasett. Det ene er at vi skal sørge for å bruke det i verdi og bruke hodene våre og dataene våre på det. Det andre er å gjøre det på en riktig måte, og når det gjelder å gjøre på riktig måte, så har man jo juridisk sett personvernlovgivningen som setter en del rammer, men i tillegg til det så skal jobbe med dette praktisk. Det er ikke alltid like lett å tolke regelverket heller, så er det ikke vanlig å dele de inn i fire ulike komponenter. Hvor den ene går på engelsk- privacy- hvis vi sier på Norsk, rett til privatliv. Du har sikkerhet, du har forklarbarhet og rettferdighet. De to første har det vært mye fokus på hittil innenfor tolkningen av hvordan man stiller seg etter GDPR. Med at vi skal sørge for at dataene ikke brukes til annet enn det de man har lov til og man skal gjøre det på en sikker måte. Men når det kommer til rettferdighet og forklarbarhet, så er det først i det siste at man har begynt å ta hensyn til det. Og det er også en del kontrovers i hvordan man skal sikre rettferdighet på den ene siden og privatliv og minimering av data på den andre siden. 

 

Silvija: Du har så mye spennende på gang, så jeg klarer ikke helt å styre meg. Nå er vi egentlig nesten tomme for tid, så nå kommer vi til å ha sånne superkorte svar for jeg må innom flere temaer med deg. Jeg spurte deg om hva du synes er spennende kontroverser, og du nevnte denne avveiningen mellom samfunnsnytte og personvern, forklar kort hvorfor? 

 

Silvija: Pendelen har svingt fra, at man tidlig for en del år siden var det for mange selskaper, eller virksomheter som gjorde for mye som det egentlig ikke var lov til og var ikke bevisst hvilken konsekvens det hadde for personvernet. Etter at GDPR har kommet, så har man fått innstramminger på mange området. Bra er det, at man har et økt fokus på det, men i praksis nå, så betyr det at det er en del anvendelsesområder eller prosjekter som rett og slett ikke blir realisert eller må vente fordi man skal gjøre avklaringer. Man må gå opp runder med tolkning av regelverk og bevisstgjøring også videre. Så det er en viktig avveining hvor pendelen vil stoppe. Det vil tiden vise. 

 

Silvija: For det er faktisk en avveining, og det er veldig viktig, skal du ha veldig personaliserte tjenester, så går det litt på bekostning av hvordan du får brukt dataene dine om folk. 

 

Cathrine: Ja, så da har man kommet frem til hva som er den riktige måten å gjøre det på og hvor likevekten ligger da. 

 

Silvija: Ja, denne misforståelsen som du også har nevnt for meg i forhold til at man bare skal ansette en datasientist, så kan man si at man driver med AI. Hvorfor er det feil? 

 

Cathrine: Ja, jeg må nesten ta det. For det er så mange som vil starte med AI og lurer på, hvordan kan de gjøre det? Også ser man at det eneste man trenger er en data scientist, også kommer de bare- yes- nå jobber vi med AI og data science. Nå har vi fikset det, og det er absolutt bra og viktig å ansette personen, men du er ikke i mål med det. Så det er veldig mange roller som må dekkes om du skal lykkes med AI. Det kan vi blant annet se på en rapport fra McKinsey, som beskriver de rollene som må dekkes for at man skal lykkes. 

 

Silijva: Ja, en god rapport fra Mckinsey om de viktigste roller i prosjektet rundt AI. 

 

Cathrine: Det er den som heter ten red flags your analytics program will fail. Hvor et av dem er at det blant annet at du ikke har dekket den rollen som heter analytics translator, som er det som skal oversette mellom forretningen og det analytiske da også andre roller som skal dekkes. 

 

Silvija: Jeg vil gjerne at du sier littegrann om de tre mest spennende prosjekter dere holder på med innenfor AI. 

 

Cathrine: Ja, jeg var så vidt inne på dette med plattform for arbeidsmarked tidligere. Der ser vi også nå på de stillingsutlysningene det i dag blir manuelt kategorisert. Det er forsøkt å bruke text mining som heter topic modeling til å klassifisere stillingene mer automatisk, og kan også gjøre det mye mer granulært nivå. Du vil aldri bli perfekt, men du vil kunne gjøre veldig mye mer automatisk enn det du gjør i dag. Og der har vi også møtt dette AI registeret, mulighet til å følge utviklingen i yrket over tid, så vi kan faktisk hente ut og se hvilken sekvens eller rekkefølge man går gjennom ulike yrker som igjen er en gullgruve for alle som skal drive med utvikling av arbeidsmarkedet. Det er et prosjekt. Tiltak var jeg så vidt innom også tidligere. Det er et prosjekt i samarbeidet med NAV Alna. Utrolig kult, for der er vi ute og samarbeider med analytikere fra kontoret på å se blant annet hvilke tiltak er det som har effekt når vi skal få de som søker arbeid ut i arbeid. Hvilke tiltakstyper er det som fungerer versus ikke fungerer og hvilken informasjon er det vi skal gi til veileder for at han skulle hjelpe den enkelte? 

 

Silvija: Et lite tips, dere må bli litt flinkere til å velge sexy navn for prosjekter, for tiltaksanalyse er ikke helt der. 

 

Cathrine: Eller datadrevet oppfølging som det heter som er enda kjedeligere, kanskje. 

 

Silvija: Ja, og sykefraværsoppfølging er tredje? 

 

Cathringe: Ja, på sykefraværet, så vi gikk man også inn med stort mulighetsrom og bare hva kan vi bruke AI til på sykefraværsoppfølgingen? Vi har en del hypoteser. Så der har vi analysert data, testet en del hypoteser og tror nå at de relativt om ganske kort tid skal klare å ha noe i produksjon som vi kaller det, som er litt viktig. Vi kan endre en prosess basert på det vi gjør. Så oppfølging av sykmeldte i dag er veldig forutsigbar. Alle får samme behandlingen, men vi ønsker å se eksempelvis her første dialogmøte som i dag er dette i uke 26. Skal vi ha den tidligere for noen? Vi vet at uansett kommer det til å vare lenge, men som vi kan påvirke. Skal vi kalle dem inn tidligere? Mens andre kan vi kanskje vente med, for da blir de friskmeldte før de blir kalt inn som et konkret eksempel da? 

 

Silvija: Superspennende. Jeg vil gjerne høre mer. De som skal begynne å lære seg litt mer, bare begynne med liksom å forstå en del av de grunnbegrepene i AI, hvor skal de gå? 

 

Cathrine: Jeg tenker man først skal høre på de andre podcastene i LØRN om AI. Veldig bra sted å begynne, også tips noen du synes snakker om noe interessant. Følg de på Linkedin. Det har altså jeg har gjort når jeg har hørt noe nytt med interessante meninger og mye input der. Det er også noen andre podkast serien som heter Chips with everything som dekker mer enn AI, men som berører mange spennende begreper. Det er en tech podcast, men som har noen episoder om AI som løfter det, så det er ikke nødvendigvis bare for teknikeren, men det løfter en del problemstillinger. Så det er interessant. 

 

Silvjia: Jeg spurte deg om om sitater og du du gikk på noe som var ganske viktig som vi glemmer rett og slett. The devil is in the details altså. 

 

Cathrine: Det gjelder på mange områder, men spesielt på dette området, så ser vi at hvis vi ikke stiller spørsmålet med so what hele veien i prosessen, så feiler man. Og det er så mange spennende prosjekter eller initiativer man hører hvor man har testet ut og testet ditt og datt, men når du endelig skal settes i prod, så funker det ikke- fordi. Og alle disse fordi-ene er ting du kanskje egentlig visste du startet opp. Du gikk bare ikke grundig nok til verks, eller du fant ut at du har bygget en modell på feil grunnlag. Du har bygget feil modell rett og slett da. 

 

Silvija: Hvis folk skal huske i én ting fra denne samtalen vår, hva skal det være? 

 

Cathrine: Kan jeg ta 2? Så blir det at vi skal gjøre det på riktig måte. Så tenk ansvarlighet og ansvarlig AI helt fra begynnelsen. Nummer to, du må gjerne ansette en data scientist, men da må du også samtidig sikre at du har enda mer kompetanse og investeringer i virksomheten. For det er ikke noe one man show å drive AI. 

 

Silvija: Altså ansvarlighet er ikke noe man kan bare lappe på på slutten. Det må være en del av designprosessen innenfor AI systemer og tenk bredden i roller, forstå de nødvendige rollene før du setter i gang. 

 

Cathrine: Helt riktig. 

 

Silvija: Cathrine Pihl Lyngstad fra NAV, leder for AI-labben der, tusen takk for at du kom hit og inspirerte oss, både om AI og også spennende innovasjon i offentlig. 

 

Cathrine: Takk for at jeg fikk komme. 

 

Silvija: Takk til dere som lyttet. 

 

Du har lyttet til en podcast fra LØRN Tech, en læringsdugnad om teknologi og samfunn. Følg oss på sosiale medier og på våre nettsider LØRN.tech. 

 

Quiz for Case #C0215

Du må være Medlem for å dokumentere din læring med å ta quiz 

Allerede Medlem? Logg inn her:

Du må være Medlem for å kunne skrive svar på refleksjonsspørsmål

Allerede Medlem? Logg inn her: