#0215 - Ansvarlig AI - LØRN.TECH

Tema: AI

#0215 – Ansvarlig AI

Expørt: Cathrine Pihl Lyngstad

Leder AI-lab

fra NAV

Med lørner Silvija Seres

Hvordan kan bruk av AI få flere i arbeid? Og hva betyr det for oss at NAV besitter så unikt datagrunnlag om oss? I denne episoden av #LØRN snakker Silvija med leder for AI-lab i NAV, Cathrine Pihl Lyngstad, om de viktigste konseptene om ansvarlig AI og de mest spennende IT-prosjektene i NAV.

Noen kjappe med ekspørt Cathrine Pihl Lyngstad

Navn
Cathrine Pihl Lyngstad    

Selskap
NAV 

Tittel
Kontorsjef i IT Data og innsikt, og leder for AI-lab 

 

Hvem er du, og hvordan ble du interessert i AI?
Jeg er utdannet sivilingeniør i industriell økonomi fra NTNU og har arbeidserfaring fra blant annet software- og konsulentbransjen. Det var som domeneekspert på Advanced Analytics i softwarehuset SAS Institute at jeg virkelig fikk øynene opp hvordan data miningtext mining og forecasting kunne brukes for å skape forretningsverdi. Det er fantastisk å kunne kombinere «nerdegenet» med det å faktisk skape verdi og gjøre en forskjell! Og dette med ansvarlig AI har virkelig vekket interessen min etter at jeg begynte i NAV. 

Hva gjør dere på jobben?
NAV har som mål å få flere i arbeid, forbedre brukermøter og sikre en pålitelig forvaltning, og NAVs AI-lab utforsker mulighetene som ligger i å bruke AI og maskinlæring til å nå disse målene. 

Hva er de viktigste konseptene i Ansvarlig AI (for brukerens og samfunnets beste)?
Det handler om to ting: å bruke AI der det gir verdi, og å bruke AI på en «riktig» måte.

Hvorfor er det så spennende?
Hos NAV kommer vi borti (nesten) hele spekteret av datatyper, ulike problemstillinger og metoder: alt fra anomalideteksjon (identifisering av avvik) i logger og saksflyter, tekstanalyse og -klassifisering av brukerhenvendelser, GAN-modeller for å generere syntetiske data og mye mer. Her i NAV er det mye som er unikt, og som vi derfor får gjøre in-house. For virksomheter, og for samfunnet, er det dessuten spennende fordi det ligger et så enormt potensial i AI. Som for andre «hypede» teknologier og konsepter er det nok mange som har overvurdert effektene på kort sikt, men effektene på lang sikt er nok heller undervurdert.

Hva synes du er de mest interessante kontroversene? 
Her vil jeg trekke frem avveiningen mellom samfunnsnytte og personvern. Pendelen har svingt fra en situasjon der for mange virksomheter gjorde for mye de ikke egentlig hadde lov til, og med lite bevissthet rundt personvern og rettferdighet. Med innføringen av ny personvernforordning har det blitt økt fokus på personvern, det har blitt (noe) strengere regler og mer fokus på håndhevingen. Og det er bra! Men pendelen har nå svingt over til det andre ytterpunktet, slik at prosjekter med samfunnsnytte ikke blir realisert – fordi man venter på avklaringer knyttet til tolkning av regelverk eller sitter med tunge papirmøller av personvernkonsekvensvurderinger.  

Dine egne prosjekter innen AI i NAV?
Jeg kan nevne to av prosjektene som AI-lab driver med i dag: 

  • Plattform for arbeidsmarked (PAM) er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette.  
  • Sykefraværsoppfølging: Vi tester ulike hypoteser for hvordan maskinlæring og prediksjoner kan brukes til å få sykmeldte raskere tilbake i arbeid, og å drive mer effektiv oppfølging av de sykmeldte.  

Dine andre favoritteksempler på Ansvarlig AI internasjonalt og nasjonalt?
Flere software- og tech-selskaper internasjonalt har Ansvarlig AI på agendaen. Google har for eksempel definert ganske gode prinsipper for ansvarlighet, og arrangerer også kurs.Jeg vet også at Datatilsynet er engasjert i internasjonalt samarbeid knyttet til ansvarlig bruk av data, og KMD har også dette på agendaen. 

Hvordan pleier du å forklare Ansvarlig AI?
Ansvarlig AI handler om å bruke AI på en riktig måte – rettferdig, forklarbart, sikkert og som ivaretar den enkeltes privatliv og rettigheter. 

 Er det noe vi gjør i Norge som er unikt? I Norge er vi gode på å gjøre ting på en skikkelig måte. Samfunnet vårt er bygget på tillit, og den tilliten brytes raskt ned dersom vi ikke bruker AI på en ansvarlig måte. 

Kan du anbefale noe stoff om AI og Ansvarlig AI?
Jeg vil anbefale «TWiML» (This Week in Machine Learning) og tech-podcasten «Chips with Everything». 

Har du et favorittsitat innen Ansvarlig AI du liker spesielt godt?
Jeg er ikke så god på sitater, men det er ett sitat som passer veldig godt til alt vi gjør for å lykkes med AI: «The devil is in the details». 

Viktigste poeng om Ansvarlig AI fra samtalen vår?
Gjør det riktig: ikke gå deg bort i konfidensialitets- og sikkerhetsdelen av GDPR – tenk på om det du gjør, er rettferdig, forklarbart og ivartar den enkeltes privatliv og rettigheter. 

Dette lørner du:

AI
Offentligsektor
Datagrunnlag

Anbefalt litteratur:

Plattform for arbeidsmarked er et pågående prosjekt i NAV, som skal sikre en effektiv kobling mellom arbeidssøkere og arbeidsgivere. Vi tester ut ulike anvendelser av AI for å oppnå dette. Eksempelvis har vi brukt tekstanalyse, noe som heter «topic mapping», til å sette på nye «tagger» på stillingsutlysninger for å bli enda mer presis i kategoriseringen.

Cathrine Pihl Lyngstad

Dette er NAV

Informasjon kommer…

Refleksjon

Kunstig intelligens er på full fart inn i offentlig sektor. På hvilke måter tror du AI kan være med på å effektivisere de rutinemessige arbeidsoppgavene til de ansatte i NAV?

Share on facebook
Share on twitter
Share on linkedin

Filter by perspective

Filter by subject

Search name, company, subject or keyword

#0749

Teknologisk revolusjon

Ekspørt:

Sigve Brekke

Konsernsjef

Fra Telenor

#0748

En digital reise

Ekspørt:

Heidi Austlid

Adm. Direktør

Fra IKT-Norge

#0747

Teknikk slår politikk

Ekspørt:

Hilde Nagell og Eirik Løkke

Rådgiver

Fra Agenda & Civita

#0704

Innovasjon i norsk industriproduksjon

Ekspørt:

Karl Martin Eggen

Administrerende direktør

Fra Duun Industrier