Silvija Seres: Hei og velkommen til Lørn. Mitt navn er Silvija Seres og tema i dag er kunstig intelligens. Gjesten min er Tomas Nordlander som er forskningssjef i search director på forskningen i IFE i Halden. Velkommen. 

Tomas Nordlander: Takk. 

Silvija: Vi skal snakke litt om hva kunstig intelligens gjør både for energiteknologi og andre typer anvendelser den har, og hva dere gjør på IFE. Men først, hvem er du?

Tomas: Jeg er en tobarnspappa som opprinnelig kommer fra Sverige og etterpå har jobbet og drevet med AI i England, Skottland og Irland, så ender jeg opp i Oslo. Der har jeg bodd i 10 år, og nå bor jeg i Halden. Jeg er sykt interessert i kaffe og rister mine egne bønner, så jeg kjøper rå bønner fra rundt i verden og rister hjemme. Koblet opp en espressomaskin til en data og en PID regulator for å styre temperatur ned til 0,1 grad. 

Silvija: Du vet at kaffe har mye med naturlig intelligens å gjøre. Vi bruker det vi kan når vi skal konkurrere med de fantastiske maskinene våre. Du skrev så spennende om din fascinasjon og kjærlighet for kunstig intelligens også. Du sa noe som jeg synes var spennende. Det med at nå er det så mange som er både nyforelska og liksom forelska i kunstig intelligens fordi vi er midt i en kunstig intelligens vår. De vet ikke at det har vært en langt vinter og at vinteren kanskje kommer igjen. Hva tenker du?

Tomas: Det er interessant for det er veldig populært nå, men når jeg tok min phd i AI så var det før det ble kult. Det var for 20 år siden. Men AI begynte egentlig på 50-tallet. Det finner AI vintere og AI vårer. Ved AI våren injiserer man veldig mye penger inn og man gir mye i lufta, og så leveres det ikke riktig, så blir det en AI vinter. VI hadde en AI vinter på 70-tallet og på 90-tallet. Det som er interessant er at når det er vår er at de som ikke driver med AI, men med statistikk og matematikk endrer navnet og sier at de driver med AI. Men den siste AI vinteren kom på 90-tallet og de som fortsatte å drive med AI, så var AI et såpass skjellsord at de døpte det om og sa de drev med matematikk og statistikk istedenfor. Nå så injiserer man mye i AI og det dukker opp eksperter overalt som har drevet med AI i 3-4 år osv. Det er også veldig mye i lufta som jeg ikke tror kommer til å innfries. Det skjer mye bra, men det er veldig mye i lufta som ikke kommer til å påvirke. 

Silvija: JEg tror man gir unødvendige løfter fordi akkurat nå så virker det ut som verktøyet er fantastisk nyttig, også når det er spesialisert. Det er så mange områder man kan anvende det på. Jeg har lyst til å dra inn perspektivet med at det var to hovedspor i AI. Ekspertsystemer og nevrale nettene. Jeg var litt i ekspertsystemer og vi lo av nevrale nett. Vi sa det var veldig flott, men blir aldri anvendt. Der har det skjedd noe spennende for 5-6 år siden. Kan du forklare oss litt om gjennombruddet og hvorfor det nå er praktisk anvendelig som vi trodde bare var science fiction. 

Tomas: Det to ulike grenene innom AI så kaller man det enten weak AI og strong AI. Weak AI er når man anvender det som hjelpemiddel. Man anvender dataene og vet om at dataene hjelper oss med ulike saker og ting. Så har vi strong AI hvor dataene forsøker å simulere sånn som hjernen fungerer. Da titter man på nevroner og man bygger opp nevroner. Men i 2010 så skjedde det noe, så datakraften og algoritmen modnet såpass så du kunne bygge lag på lag med nevroner som gjorde at du kunne få en reell mønstergjenkjenning osv. Få data til å kjenne igjen mønstre bedre enn mennesker. Det er fordeler med det og det hender veldig mye. Ulempen med det er at du ønsker å kunne gi forklaringer på hvorfor AI tar en viss beslutning. Om man søker lån for å kjøpe et hus også sier AI og algoritmen nei, så vil man vite hvorfor. Bruker du nevrale nettverk som er det heter nå, så kan du ikke få noe svar. Uten at du har alle cellene som er koblet til hverandre på alle millioner av ulike måter, til sammen sier nei. Mens de gamle, klassiske ekspertsystemene var veldig bra med å forklare hvorfor du ikke fikk lån. 

Silvija: Det er en utfordring for GDPR?

Tomas: Ja, men det kom et nytt regulativ i EU der de sa at du ikke får bruke AI for europeiske medborgere og ta en beslutning om du ikke kan forklare det. Det betydde at hvis du som EU medborger ikke fikk huslånet og vil vite hvorfor, da kan ikke algoritmene gi deg et svar utenom hvis en person analyserer det og gir deg et svar. 

Silvija: Det som skjer i en AI boks, en slags sort boks, lager sine egne mønster og det er ikke enkelt å oversette det til noe som er menneskelig forståelig. 

Tomas: Der er det også interesse når det gjelder din egne bios. Du bruker normalt menneskene for å kategorisere saker og ting for å lære opp algoritmene, og gjør menneskene en feil eller om de er biased. De er kanskje rasistiske eller sexistiske, og gjør sine beslutinger og da lærer de opp algoritmene til å opptre på akkurat samme måte. USA har gjort tester hvor de skal sette folk som er kriminelle på straffe skalaen , så setter de et typisk afro amerikansk navn og så setter de en “gunnarson”. Om det er den eneste forskjellen kan de foreslå at her bør vi gi én fengselsstraff mens på den andre foreslår man at de kan få dra hjem. Det går an å teste ut dette, men det gjør at man skal være forsiktige og skeptiske.  

Silvija: Jeg tror at vi mennesker hele tiden må jobbe med å håndtere våre biases. Da må vi sørge for at vi på et eller annet vis overprøver også verktøyene våre. 

Tomas: Det går an. 

Silvija: Vi kan ikke fraskrive oss den type etiske ansvar for dette er ofte verdivalg som man ikke klarer å algoritmiske. Du sa også noe annet til meg tidligere som jeg synes er spennende. Det er anvendelser av kunstig intelligens det dreier seg om nå. La oss slutte å snakke om teorien og la oss snakke om hva vi kan få til. Der har jeg lest et spennende sitat i en bok som heter “The new AI superpowers” Kai-Fu Lee som er så god på bildegjenkjenning, men også etterhvert investering i Kina. Han sier at i en tid hvor det ikke lenger er nødvendig å finne på det neste, store teoretiske trikset for å få til enda mer avansert deep learning og algoritmer. Nå er det anvendelser det er snakk om for å samle data og forbedre modellene. I den tid vi går inn i så er det Kina som er Saudi-Arabia av data. Det er fordi de anvender så ekstremt ambisiøst. Vi snakker om norges AI strategi som om det er en av eller på knapp. Det er snakk om å begynne å gjøre? Er ikke det en grei strategi?

Tomas: Jeg tenker for Norge, Sverige, Skandinavia og Nord-Europa så er det for sent å drive med base forskning i AI. Det finnes andre land som satser så mye mer og har kommet så mye lengre, og det blir vanskelig å ta igjen. Men det vi kan gjøre er når det gjelder å anvende AI. I Norge så er vi unike med at vi har mye forskningsinstitutter som driver med anvendt forsking ut mot industri, norsk internasjonal industri og det er der vi kan gjøre endringer. 

Silvija: Fordi vi har data?

Tomas: Vi har data, men som vi pratet om i podcasten tidligere, GDPR gjør at i visse områder innenfor medisin osv, så finnes det saker som vi skulle kunne gjøre som vil hjelpe å redde liv, men som vi ikke kan gjøre pga GDPR og den deler er såpass styrt.

Silvija: Industriell koblet forsking. Norge har noen av de beste prosessindustrien i verden. Jeg tenker i olje services, men jeg tenker også vannkraft, aluminium, gjødsel og energi. Der er det noe med at vi er så gode på å optimalisere, gjøre produksjonen smart og der sier du vi kunne lekt mer med AI. Hvordan?

Tomas: Når det gjelder energi, på IFE, så har vi fire reaktorer og vi var 6. første landet i verden med kjernekraft. Vi har drevet med dette siden 70 år siden. 

Silvija: Samlet mer data enn det man gjør i Iran?

Tomas: Ja, vi har Iran som forsøker å få data fra oss også. Men vi har et internasjonalt prosjekt som er muligens verdens lengste og største internasjonale forskningsprosjekt når det gjelder energi og sikkerhet når det gjelder kjernekraft som heter Haldenreaktoren prosjektet. Det er 20 land og 100 organisasjoner som har betalt inn penger til Halden for å bygge opp forskning her siden 1958. Jeg gjorde en grov beregning på hvor mye penger som har satset på Halden på IFE (?), og det nærmer seg 10 milliarder kr for å bygge opp forskningen i Halden. 

Silvija: Hvorfor IFE(?)? Hvorfor Halden? Hva gjør dere godt der?

Tomas: Til dels har vi en av reaktorene i Halden som er en forskningsreaktor. Der har vi gjort mye forskning når det gjelder å øke sikkerhet på brensler og materiale. Vi har også en sektor med seks avdelinger som driver med human technology organisations som driver med den menneskelige delen når det gjelder safety critical system. Ser hva det er som mennesker gjør som kan feile i sånne maskiner, og hva mennesker gjør som kan rette til feil som automatiseringen gjør. Vi har drevet med det digitale systemet siden 70-tallet. Det begynte egentlig med at det var en ulykke i USA når det gjelder kjernekraften. Så begynte de å se at det var menneskene som gjorde feil. Da begynte man å se hvordan man kan designe kontrollrom osv for å minske sjansene for at menneskene gjør feil. Hvordan kan vi se til at vi gir rett informasjon til rett tid uten å overøse personen som sitter i kontrollrommet med det. Hvordan kan vi se til at vi anvender algoritmer for å kontrollere og predikere når vi skal gjøre maintanance på eller under hold på visse kritiske deler i prosessindustrien. Så vi får vite at de er på vei til å bli ødelagt før den blir ødelagt og gjør mer feil, så vi kan bestille nye pumper osv før den blir ødelagt, men når den begynner å høres annerledes ut eller vibrerer. 

Silvija: Det er to ting som slår meg nå. Det ene er at kanskje bilindustrien burde lære litt av dere. Når de nå skal finne ut hvilken rolle menneskene skal ha i de selvkjørende bilene, så kunne de kanskje lært litt av det dere vet om sånn type mennesker og kompleks interaksjon. 

Tomas: Vi har faktisk prosjekt når det gjelder bilindustrien. Du har moderne biler som Tesla hvor de fleste sensorene peker utover, men vi vender sensorene innover til sjåføren. Men noe som heter situation awareness som du behøver å gjøre. Når du automatiserer bilen så den kjører, så behøver du å vite hvor kjapt mennesket kan ta over fordi elektronikken ikke gjør det. Da avhenger det mye om personen sitter i baksetet og leser en bok eller om du sitter å holder på ratten, men titter på solnedgangen, eller om du sitter å holder i rattet og algoritmen kan se at du har sett på alle fartsskilt og du er med i hastigheten osv. Da kan personen ta over kjapper. 

Silvija: Der trenger jeg en oppfølging. Vi snakker om de nye teknologiene, den fjerde industrielle revolusjonen og alt det fantastiske som skjer på digital infrastruktur og dataalgorimter. Alt der er bare verktøy, og det er mennesket som må sitte i førersetet. Men så har jeg et spørsmål om at det er ulidelig kjedelig å sitte i en bil som gjør alt bra selv 99,99 prosent av tiden. Hvordan i all verden skal vi sørge for at mennesket fortsatt skjønner at vi er relevante? 

Tomas: Jeg tenker når det gjelder bilene og når mennesket sitter der, da får man finne på andre ting å gjøre. Når det gjelder automatiseringen så kan det være at vi må titte hvordan mennesket og automatiseringen kan gå hånd i hånd. På IFE har vi Nord-Europas største gruppe av industri psykologer som ser på man machine interaction og på den menneskelige delen. Det er ikke sånn at det blir default, at vi gjør alt manuelt også slår vi på en knapp så blir alt automatisert. Vi har stegvis automatisert. VI har der vi gjør det meste selv, men får lite hjelp av maskiner osv. Så får vi mer hjelp av maskiner, også kanskje overvåker vi maskiner osv. Det er viktig å ikke automatisere for før eller senere på visse systemer så går maskinene ned og da er det menneskene som sitter der. Om vi tar gjør air traffic management, når du tar meton (?), vi skulle kunne automatisere hvordan vi får ned flyene når de lander og når de starter osv. Men skulle systemet går ned, og det gjør de noen ganger, da kan det hende at den personen som kun har tittet på løsningene ikke kan håndtere det komplekse problemet. Vi må titte på algoritmen der vi involverer mennesket og beholder kompetanse. Når systemet går ned så er det ikke en person som bare har tittet på bilder og gitt tommel opp eller ned, men som faktisk kan ta over og kanskje ikke få optimale løsninger, men få sikre løsninger. 

Silvija: Det er spennende og vi kunne snakket om det i timesvis merker jeg. Det kommer til å være så mange debatter om AI og etikk. Problemet er at det er folk som ikke kan AI som kommer til å debattere, men det kommer også til å være masse debatter om the future of work. Hva skal vi mennesker gjøre i et automatisert samfunn. Der igjen, folk må vite hva en AI kan og ikke, istedenfor å bare tenke science fiction. Der synes jeg det er nydelig sitat fra Einstein som sier “maskiner er dumme for de kan bare gi deg svar”, mens det er vi som skal gi spørsmål og tolke tvetydigheten som kommer tilbake. Hvordan designer vi sånne systemer hvor vi mennesker forstår vårt ansvar, og fortsetter å kunne ting og ta de avgjørende valgene? 

Tomas: I Norge så har vi fordelen, vi har forskningsrådet. Vi har de ulike forskningsinstituttene og til sammen så må vi legge en større tyngde på man machine interaction. Jeg tror det er veldig mye som blir automatisert og det er mye skilled work osv som kommer til å forsvinne. Jeg pratet med sønnen min som leste om den industrielle revolusjonen og hadde prøve på det forrige uke. Han fortalte at når tekstilindustrien i England kom opp, så brøt det seg folk inn i lokalet og slo i hjel maskinene fordi de var urolige for at dette skulle ta over alt arbeidet slik at menneskene ikke kunne arbeide. Dette var vel på slutten av 1700-tallet og starten av 1800-tallet. Det kommer igjen og igjen, så jeg tror vi bør være urolige enda, men mer og mer skilled work kommer til å være delvis erstattet med roboter og automatisering. 

Silvija: Hvis folk skal tenke litt mer i retningen vi har snakket om her, hva ville du anbefalt dem å lese?

Tomas: Det finnes en veldig bra bok som også finnes som audiobok. Det er “Rise of the robots” og det er Martin Ford som har skrevet den. Den tar gjennom utspringen fra den industrielle revulosjonen fram til den digital transformeringen. Den tar opp AI, VR, omvendt reality, digitale tvillinger osv. Den gir en veldig grunnleggende kunnskap når det gjelder AI og den digital tranformasjonen. 

Silvija: Ender litt pessimistisk synes jeg ift hva vi skal gjøre. Det blir borgerlønn eller noe sånt, men jeg er ikke sikker. Det er sånn jeg leste den, hva tenker du? 

Tomas: Jeg tenker det kan bli det. 

Silvija: Det er opp til oss, kanskje. 

Tomas: Ja, men så lenge folk er nysgjerrige så finner de nye saker å gjøre. Er du nysgjerrig og har litt elastisk hjerne så finner du saker å gjøre. Vi har hatt så mange advarsler tidligere når vi hadde roboter på 70-tallet og sa at det ikke fantes noe arbeid overhode om 10 år osv. Så ble det ikke det, og det skapte nye jobber osv. Jeg tror ikke alt blir automatisert, men jeg tror at spesielt det som har med helse og sikkerhet å gjøre kommer til å forsvinne.

Silvija: Skal jeg reagere fort på det. Jeg har fire unger og det er overveldende på alle mulige måter. Jeg husker at for noen år siden så hadde jeg klaget over hvor hardt livet er til en av venninne mine som ikke har barn. “Silvija, du av alle folk må vite at du kan digitalisere ganske mye rundt barna”. For det første så tror jeg ikke man kan det, og for det andre så vil jeg ikke. Det er noe med at vi er så dypt sosiale mennesker at jeg tror vi har behov for relasjoner. VI har behov for friksjonen oss i mellom. Jeg synes det er spennende å pushback fra deg. Det å ikke vite akkurat hva det andre mennesket skal gjøre nettopp fordi de ikke er en robot er det som gjør det så utrolig spennende å være sammen. Jeg tror det blir masse jobber, spørsmålet er om vi klarer å fordele oss riktig på de yrkene vi kommer til å trenge. Jeg ba dem om et sitat og jeg synes sitatet du ga meg var spesielt relevant for Lørn. Vil du si hva du sa?

Tomas: Det er Arthur Schopenhauer som sa “many learned persons have read themselves stupid”. Det viser at man skal være kritiske til alt som man leser. Bare fordi man leser saker på internett, nyhetene eller på TV osv, så skal man ikke tro automatisk på det, men ta det en klype salt. Det samme gjelder forskningsrapporter. Folk bruker det og sier “men det er en forskningsrapport som sier dette her og da er det sånn”. Men det kan hende at det er én rapport som sier det, også finnes det 100 forskningsrapporter som sier det eksakt motsatte. Folk må ta alt med en klype salt og sett spørsmålstegn ved alt. 

Silvija: Vi bygger et slags kunnskapsbibliotek om nyere norsk tenkning rundt digitalisering i Lørn. Men jeg tror ikke det blir noe learning før man faktisk har satt seg ned med et annet menneske og snakket litt kritisk om tingene man har hørt. Det oppfordrer vi veldig til. Hvis man skal huske én ting fra samtalen?

Tomas: Kanskje at Norge har en fortrinn når det gjelder AI, men da gjelder det anvendt AI og det gjelder de ulike tekniske instituttene. Forskningsrådet har alle de ulike programmene og prosjekttypene som er ekseptsjonelt bra og veldig passende til å få norske innovative bedrifter. 

Silvija: Det var en veldig inspirerende oppfordring og oppsummering. Tomas Nordlander som leder forskningen ved IFE i Halden, tusen takk for at du var her og inspirerte oss til å tenke kritisk om AI. 

Tomas: Takk. 

Silvija: Takk til dere som lyttet.