Silvija: Hei og velkommen til LØRN. Temaet i dag er kunstig intelligens, og med meg har jeg Torunn Aardal som egentlig jobber i sykehusetaten i Oslo kommune, men som er en av mine favoritt skribenter om temaet «..» og «..».

Torunn: Tusen takk.

Silvija: Veldig hyggelig å ha deg her Torunn. Du har en overordnet overskrift om teknologien og oss. Hva slags bakgrunn har du? 

Torunn: Jeg har studert informatikk ved NTNU i Trondheim for mange år siden. Også har jeg studert psykologi da jeg synets det hørte litt sammen med informatikk. Jeg har vært innom medievitenskap, språk og språkvitenskap. Og også strategi og ledelse. Det er min bakgrunn. 

Silvija: Du er nesten like schizofren der som meg. Så havner du i Oslo kommune og jobber i sykehjemsetaten. Jeg tror det er ett fantastisk viktig og godt valg, men jeg vil du skal forklare litt hvorfor. 

Torunn: Det var ett veldig bevisst valg. Jeg har jobbet i privatnæringsliv i mange år og vært veldig fornøyd med det. Men hadde litt behov for å sette teknologi i en annen kontekst for å få litt mer mening i bruk av teknologi. Sykehjemsetaten er jo ett veldig spennende sted å være gitt det formålet det har. 

Silvija: Hvorfor er det spennende? 

Torunn: Teknologi er på vei inn over alt. Også der. Velferds teknologi er veldig vesentlig for å oppfylle kravene som den etaten har. Når vi bli gamle trenger vi også hjelp av teknologien da det ikke vil være nok hender. Vi skal ha mulighet for å bo hjemme så lenge vi kan. Holde oss friske, ha tekniske hjelpemidler. Og da må det skje mange ting. Vi er i startgropen nå, og det vil skje mye spennende framover. Gründervirksomhet, startups, de store teknologiselskapene. Det er veldig mye man skal orientere seg i og se hva som gagner den enkelte. Det viktigste er å sette mennesket i fokus og individuelt tilpassede løsninger. 

Silvija: Jeg tror de største mest utfordrende prosjektene, både teknisk og samfunnsmessig. Vil være i grenseflaten mot det offentlige. Og den utrolige flotte kombinasjonen du har av forståelse av teknologi, forretningen og samfunnet. Det trekanten tror jeg er avgjørende for å gjøre dette riktig på en langsiktig måte. 

Man får ofte spørsmål om man er optimist eller pessimist. Jeg tenker man skal være realist. 

Torunn: Helt enig. Ikke være naiv. Det er veldig dumt å tenke teknologi løser alt. Man må se igjennom «hype» faktorene. Det er mange gode muligheter, men man må ikke overselge. Det har det jo vært oversalg på AI og digitalisering. Med begreper som vimser rundt også koker det ned til at man egentlig vet hva man skal gjøre. Det å trekke ut essensen av begrep og få ned hva man kan gjøre. Og problematisere rundt løsningene. I Norge ligger vi godt ann. Vi har gode kontroller som datatilsynet, god personvernordning, og en del ting som regulerer de løsningene vi ønsker å ta ut. 

Vi er ikke der i Norge at vi kan bare kan hente inn data, analysere, kartlegge brukere, sende inn rettsvesenet, bruke data til å gi dommer osv. 

Vi er godt regulert som er et bra ståsted. 

Silvija: Hvis du begrenser institusjonene sine evne til å bruke data er det alltid litt hemmende i forhold til brukervennlighet, men det er viktig å tenke godt igjennom på forhånd. Det er noen langsiktige konsekvenser av dataeier skap jeg ikke tror folk forstår. 

Det gjenspeiler seg veldig ifra retorikken som kommer fra Silicon Valley «saving the world one billion at the time». Men dette er privateselskaper som må tjene penger på noe som i utgangspunktet er vanskelig å tjene penger på. 

Torunn: Absolutt. De er jo helt avhengig av å overselge på ett vis. De må hente inn noen som er interessert i det de har. Da er det nok lett å missbruke tilliten man har til teknologien. Det skal man være forsiktig med. Tillit til teknologi er ikke gitt å var evig. Man e av å se at ikke for mange skader blir gjort. Typisk eksempel er facebook «analytic...» saken som kom opp. Det var en liten vekker for mange å se det bor mer intelligente innhold bak, enn hva man hadde tenkt. Jeg tror det er all grunn for å være mer varsom til retorikken som blir brukt til å gjøre innsalg av tjenester. Man skal være med realistisk i forhold til hva det dreier seg om. I forhold til kunstig intelligens er det ett mulighetsrom som er helt uendelig nesten. 

Men det er lite vi ser i praksis. Og det tror jeg er greit å ha ett forhold til. 

Silvija:Jeg tror ikke vi kan la være å skynde oss. Jeg tror verden skynder seg. Det å være imot å bruke ulike ting, er litt som å være imot tyngdekraften. Det er mye effektivisering i det. Så mye penger i det. Som trenger seg igjennom. Men derfor må vi tenke, lure og snakke sammen. Jeg tror det skjer mye spennende innenfor AI, men på smale områder. Også sier man generell kunstig intelligens er lysår unna. Det spiller ingen rolle hvis det blir super smarte smale løsninger som systemisk endre verden. 

Jeg var nylig på en konferanse med Chris Waley snakket, han fascinere meg. Han forstå teknologien og forretningsideen rundt Facebook veldig godt. Han hadde ett interessant innlegg om at nå må også datafolk reguleres. Slik at man får mer ansvar for hva man egentlig lager. Mens vi endrer verden i prosessen. Problemet er at politikere kan for lite teknologi for å stille de riktige spørsmålene. Han sa av og til føler han den ukritiske retorikken med de store selskaper som redder verden og gjør den så effektiv er litt som når kolonistene kom til Amerika og ble feiret som guder når de kom med sine glass perler og relevante teknologi. Men de var ikke der for å redde, men for å kolonisere. Kanskje det er litt med noen av disse mega monopoler. Om de er kinesiske, eller Silicon Valley. Vi bør tenke litt på hva vi absolutt ikke bør gi bort. 

Torunn: Det viktigste er å ikke miste fokus på hvem du utvikler teknologien for. Man bør alltid ha fokus på hvem som skal bruke teknologien. Spesielt den som retter seg mot mennesker. Skal du levere forretningsstøtte innenfor presisjonsmedisin for eksempel, er det ekstremt viktig at kvaliteten er god i bunn. Du må også sørge for å gi god beslutningsstøtte til legene som trenger å vurdere ting. For eksempel hvilken behandling de skal sette i gang. Lager man systemer som er usikre kan det få skadelig formål, sette i gang feil behandling osv. Hele tiden må man tenke med målet med teknologien. At den skal løse problemer. 

Silvija: Likevel må vi både i medisin og andre områder i våre privatliv så må vi. Du nevnte selv at du er litt lost uten google. 

Torunn: Det er det som er viktig i forhold til bevisstgjøring. Teknologi i seg selv er skummelt for mange og flere har valgt å studere andre ting. Så kommer teknologien inn fra siden og blander seg inn over alt. Så har du forholdt deg til det i mange år uten å vite. Også er det interessant med ungdom, de som har vokst opp med det. De har definitivt evnen til kritisk sans, men de har også en annen måte å vise tillit til teknologi på. De bruker den på en helt uproblematisk måte. 

Silvija: Det er utrolig mange spennende kontroverser. Vi har vært innom nødvendigheten av tverrfaglighet. Unngå siloer. Vi har vært innom dette med mindre «hype». Jeg synes det er morsomt at du prøver å få folk til å forstå hva det er som er ekte, og hva som bare er god markedsføring. Jeg tenker av og til på trollmannen fra Oz når jeg ser Sofia roboten og Dr. Watson det er mye flotte lys og noen kule trisk. Også må man kanskje være mer ærlig på hvordan det egentlig funker. 

Torunn: Ja. Og det er jo gode hypoteser i f.eks Dr. Watson. Det er en god tanke i bunn. Hadde det fungert i praksis hadde det vært fantastisk. Men i realiteten leverer den ikke. 

En ting er å ikke være silobasert, men man må ha inn mangfoldet. De som ikke tør å tenke at de skjønner teknologi, må begynne å tenke at de gjør det da de faktisk bruker det

Silvija: Det er ett ansvar de har for å bli med i diskusjonen. 

Torunn: Man trenger ikke forstå hvordan algoritmene er satt sammen. For det er det ingen som gjør i praksis. Men mangfoldet må med. Kvinner må med. Det er kjempe viktig i forhold til diskriminering også. 

Silvija: Det morsomste med AI er også at de prøver å speile oss og gjør det så effektivt at som regel blir man skremt av det den klarer å koke opp på en halv time blir en rasistisk sjåvinistisk. 

Torunn: Også skjer det hver gang

Silvija: Og det du spør. Kan man temme teknologien. Men ikke minst, kan man bruke den til å temme oss selv? 

Torunn: I forhold til AI når du slipper det løs, så ender det opp i rasisme. Så er det jo som du sier, ett speil av oss. Så man må kanskje skjerpe, og moderere den informasjonen som allerede ligger ute. Hva som blir sagt og skrevet. 

Silvija: Vi nærmer oss slutten. Jeg kunne snakket lenge med deg om dette med Norges fortrinn.  Det er for mange som snakker om dette med sosial kapital, uten å forstå hvor viktig den kommer til å være i disse polariserende verktøystider. 

Også er jeg litt fascinert også. For jeg spurte deg hva du vil anbefale som lesing om AI. Mange peker på nye bøker, mens du peker på gode klassikere innenfor Science Fiction. Og jeg er litt på lag med deg. Det er usannsynlig hvor mye man leser ut fra gammel Science Fiction. 

Torunn: Ja. Når man skal tegne romvesener, så tegner man jo fortsatt det som mennesker. Det har altså ikke skjedd noe mer med våre oppfatninger om hvordan ting skal se ut. Så de gode, gamle klassikerne gir oss godt bildet av hvor vi er fortsatt. 

Silvija: Har du noen sitater?

Torunn: Jeg tok mitt eget sitat det kommer fra sitatet «det kreves en hel landsby for å oppdra ett barn» så jeg mener «det krever en verden for å oppdra AI».

Silvija: Litt av ett oppdrag. Tusentakk Torunn for at du er med i ett prosjekt for å få hele Norge til å tenke. Jeg tror det å be folk tenke samfunnsperspektiver på en uredd måte, ikke bare negativt. Er viktig for at vi skal ta konstruktive avgjørelser i forhold til framtiden som møtes oss. Takk for at du kom hit og inspirerte oss her i LØRN. 

Torunn: Takk for at jeg fikk komme