Velkommen til LØRN.Tech - en læringsdugnad om teknologi og samfunn med Silvija Seres. Denne episoden er produsert med støtte fra stiftelsen Teknologiformidling som inspirerer små og mellomstore bedrifter til å tenke nytt. 

Silvija Seres: Hei og velkommen til LØRN i samarbeid med Teknologiformidling og Technoport i Trondheim. Mitt navn er Silvija Seres og tema i dag er kunstig intelligens. Gjesten min er Odd Are Svensen, som er daglig leder i selskapet Idletechs, velkommen. 

Odd Are Svensen: Takk skal du ha. 

Silvija: Det var på håret at du ble med i dag fordi stemmen sviktet, men den kom tilbake og det er jeg veldig, veldig glad fordi du har et super spennende selskap å prate om. Vi skal snakke om kunstig intelligens gjennom et konkret eksempel, også skal vi generalisere litt derfra. Før vi gjør det, så håper jeg at du kan si litt om hvem Odd Are er og hva som driver han. 

Odd Are: Ja, jeg er en trønder på 53 år fra Trondheim. Jeg er veldig interessert i teknologi. Har jobbet i både store og små teknologiselskaper, både i Norge og i utlandet. Bestemte meg egentlig for at jeg ville utvikle et teknologiselskap i Trondheim, jeg vil bli der, og jeg tror at det går an å utvikle veldig gode teknologiselskaper med basis i Trondheim. Når jeg ikke jobber så driver jeg stort sett med mine barn, seiling og ski. 

Silvija: Seiler du her?

Odd Are: Ja, jeg seiler her og. Seiler også rundt omkring der jeg har venner som har seilbåt som jeg har vært så heldig å få være med på. 

Silvija: Jeg er bare fascinert av de som tør å seile nordover. Det er liksom i hodet mitt veldig mye mer vind og og sjø. 

Odd Are: Ja, i år sommer var vi i Lofoten. Det kan anbefales. Det er en den fineste plassen i verden å selge. Ikke alltid badetemperatur, men helt fantastisk opplevelse, naturmessig og med folk og seilemuligheter. 

Silvija: Du har en master i informatikk fra det som den gang var NTH, men er NTNU i dag. Så du er teknolog i utgangspunktet- 

Odd Are: Det stemmer.

Silvija: Men gjennom samtalen vår før podcasten, så opplever jeg at du har blitt veldig interessert i, både de samfunnsmessige og menneskelige sidene, nesten filosofiske sidene av bruk av teknologi og muligheter for utvikling. Hvordan ble du det? 

Odd Are: Det ble jeg egentlig gjennom å se hvilken effekt teknologi har på brukerne. Jeg har jobbet veldig tett, typisk med brukere, jobbet med kunder når jeg var med og utviklet og leverte teknologi. Og jeg ser jo at teknologien på godt og vondt har en stor effekt på kundene. Jeg ser og at suksesskriteriet, altså det som gjør at teknologien faktisk har den effekten den er ment til å ha, det skjer når brukere, når folk faktisk tar det i bruk og gjør jobben sin bedre og får egentlig et bedre liv ved bruk av mer teknologi. Det jeg fant ut det var at det å lykkes med faktisk å få tatt teknologien i bruk, det handler mye mer om ren teknologiutvikling. Det handler veldig mye om å ha respekt for den verden som folk lever i og har respekt for den konsekvensen du faktisk introduserer med ny teknologi. 

Silvija: Det er litt for mange teknologer, inkludert meg tidligere som bare sier, fortell meg hva du vil ha, så skal jeg lage det, men jeg tror det er en sånn generell innsikt som bygger seg om at vi har veldig mye ansvar for den verden vi skaper gjennom den teknologien vi bygger. Det er veldig flott formulert av deg.  

Odd Are: Når jeg traff gründeren av Idletechs som heter Harald Martens, så ble jeg veldig fascinert av hans tilnærming til kunstig intelligens. 

Silvija: Kan du beskrive Harald Martens? Si 3 ord om hvor gammel han er og hvordan han oppleves. 

Odd Are: Han er 73 år i forrige fødselsattest, også er han kanskje 23 i oppførsel og i mindset. Han har en fantastisk bred teoretisk og praktisk bakgrunn, og han er kjempeentusiastisk og flink til å prate med folk, både om praktiske problemstillinger og om de veldig teoretiske problemstillingene. Han er en unik kombinasjon av akademiker og praktiker og en helt egen type. 

Silvija: Vi har snakket med Harald Martens for kanskje et år siden snart nå, fantastisk mann, altså. Fortell litt om Idletechs. 

Odd Are: Ja, Idletechs har skapt en type kunstig intelligens som vi kaller forklarbar eller explainable ai som har kommet en del frem i hele verden og særlig nå i det siste. Nå har vi jobbet med det her i 5 år, det går på at vi ønsker å åpne den her svarte boksen, det uforklarbare i kunstig intelligens. Vi ønsker å gjøre det forklarbart. Vi ønsker å gjøre det predikerbart sånn at man kan faktisk forutse hva som vil skje når den her teknologien faktisk virker, og vi ønsker å gjøre det at det har en interface. Altså at det virker sammen med menneskelig kunnskap og menneskelige måter å håndtere problemer på. Så vi ønsker å forsterke arbeidere, snarere enn å erstatte arbeidere. 

Silvija: Her er det to veldig spennende problemstillinger som jeg lyst til å åpne opp littegrann. Det ene er dette blackbox problemet med kunstig intelligens. Hvorfor er det vanskelig å ha en forklarbar modell for AI, det er det første spørsmålet. Og det andre er litt mer, hva skal mennesker gjøre og hva skal AI gjøre? 

Odd Are: Forklarbar AI er egentlig vanskelig fordi at forutsetningene bak AI var at bare vi fikk nok data og vi putta nå nok datakraft på det, så skulle vi lære oss hvordan verden så ut og forutsetning var at vi skulle slippe den her komplekse forklaringen som typisk ingeniører har introdusert. De her store matematiske modellene. Vi skulle liksom jukse oss unna det, også skulle vi gå rett til svaret ved hjelp av store datamengder. For å få til det så ble det laget veldig avansert statistikk som egentlig ble kjørt veldig mange ganger og veldig fort gjennom datamaskiner. Det er klart, statistikk har vært komplekst nok i seg selv. Gjør du det veldig fort og veldig mange ganger i en datamaskin, så er det veldig vanskelig å forklare sammenhengen mellom de dataene du ser og det resultatet som datamaskinen kommer fram med her. 

Silvija: Og dette kan være ting som etterhvert avgjør om folks liv og helse. Altså for eksempel om en robotkirurg skal fortsette med operasjonen, eller om du skal få en forsikring du ønsker, eller om du skal få det lånet du trenger når AI systemene begynner å styre dette her etter hvert. 

Odd Are: Det stemmer. Det vi ser da er at AI systemene er god til en god del ting. De er god til oppgaver der du bare prøver å forbedre beslutningene noen prosent og du ikke trenger en 99% resultat eller et 100% resultat. Og av de eksemplene du nevnte der, så er for eksempel det med behandling av lån ganske interessant. Fordi at det å gjøre feil med behandling av lån har egentlig bare en konsekvens for den enkelte lånekunde. I det store og det hele, så har det ikke en konsekvens for banken, for det bare gjør det litt dårligere. Det kan godt hende at du faktisk gjør det bedre enn med menneskelig inngripen. Hvis du for eksempel tenker at hvis banken treffer på 99% av lånebehandlingene istedenfor 97% og vi bare vil spare noe penger, så er det en god løsning for banken. Det er ikke noe god løsning, fordi personene som faktisk blir urettferdig behandlet, men det ble de jo i dag også, men så har du det sikkerhetskritiske og forretningskritiske løsningene. Du nevnte en kirurg. En kirurg gjør også feil.  

Silvija: Eller AI forsvarsbrudd. 

Odd Are: Eller det. Vi hadde et eksempel der amerikanske droner angrep en skole i Afghanistan, og problemet med det er at vi ikke klarte å forklare etterpå hvorfor den angrip den skolen. Det er det ene problemet. Det andre problemet er at man ikke kan garantere at det kommer til å skje igjen med mindre man har både en forklarbar AI og en predikerbar AI. 

Silvija: Og dette her kommer til å være også- tenker jeg- til å være mer i folks hverdagsliv enn det de er klar over, fordi det er AI for eksempel også i våre selvkjørende biler. Og den bilen kommer til å måtte avgjøre om den skal kjøre rett frem og kjøre på det barnet som har hoppet foran bilen eller til høyre og kjøre i den lastebilen og drepe deg som er i bilen, ikke sant? Og den avgjørelsen burde man kanskje ikke overlate til en AI eller en maskin? 

Odd Are: Nei, det er jeg enig i. Også tror jeg, at det her er jo et relativt vanlig eksempel, og det blir veldig sånn spissformulert. Jeg tror at det er andre typer problemstillinger som kanskje er mindre tydelig som er enda mer alvorlig. 

Silvija: Fortell.

Odd Are: Det er der vi i stor grad automatiserer, for eksempel arbeidslivet, uten å stille spørsmålstegn ved hva ønsker vi som mennesker skal være autonomt? Selv om det prosentvis er mindre ulykker eller prosentvis du klarer å produsere litt flere sko eller t skjorter, så er det ikke sikkert at vi skal gjøre det. Og det her tror jeg det veldig viktig, å innse at vi kan faktisk ta noen valg. Vi har faktisk muligheten til å la være å gjøre ting, vi har muligheten til å gjøre ting på en annen måte. Det tror jeg er utrolig viktig fremover. Altså teknologien vil sette oss i stand til ting som vi faktisk ikke ønsker å gjøre. Og en ganske typisk visualisering av AI er at du har en eksponensiell økning i produksjonen. Altså du desimerer AI eller mer tid til en sånn kunstig intelligens maskin får på å gjøre ting så jo større fart blir det på økningen, men det som er et veldig viktig spørsmål, er hva er det som øker, hva er det som vi faktisk vil få eksponensielt mer av. Er det lykke, er det sko, tskjorte er det CO 2? Vi er nødt til å spørre oss, hva er det vi skal med all den her teknologien? Hva er det vi ønsker å få så mye mer av. Hvis jeg samtidig vil søke autonomi og vi søker og effektiviserer en masse deler av livet vårt. Så søker vi samtidig mot mer sko som er håndlaget, klær som er laget på en bærekraftig måte der det er en historikk rundt det. Lokal mat også videre. Så spørsmålet er, hva er det vi skal med AI’en? Hva er det vi skal lage så mye mer av som gjør at vi faktisk får det bedre. Og det tror jeg er viktig. Hvis vi skal få til det, så må man ha forklarbar AI som noen bruker og får det bedre av. 

Silvija: Jeg synes dette her også med å elske det menneskelige, nettopp fordi vi vet at noen har brukt sin menneskelige kraft for å gjøre noe, og det merker jeg mer og mer i produkter jeg kjøper. At jeg synes faktisk det er flott at noen har brydd seg nok til å lage dette her, så jeg kan ha det og bruke det. Men Idealtechs, hva er produktet? 

Odd Are: Vil leverer en software som har en brukergrensesnitt mot typisk operatører i industrien, sånn at operatørene i industrien skal skjønne mer av hva som foregår inne i sine egne prosesser inn i sine egne maskiner inn i sine egne anlegg, sånn at de kan ta bedre beslutninger. Vi skal hjelpe dem med å ta bedre beslutninger, sånn at de her operatørene kan gi software del av sin kunnskap. Så du får en kunnskapsdeling begge veier. Softwaren avdekker nye sammenhenger som kan være ganske vanskelig komplekse sammenhenger som du får tilgang til nå når du har ny sensorikk og du har bedre datamaskiner og mere datakraft, men du visualiserer for brukeren, også kan brukeren bruke sin kunnskap og kombinere den, med den her nye innsikten, så får du enda bedre beslutninger.

Silvija: Hvis jeg skal prøve å oversette det med mine ord, så tenker jeg dette er software som forstår de nye arbeidsprosessene, klarer å visualisere dem på en måte som gjør at menneskene kan ta aktive valg i forhold til hva de skal gjøre og hva skal maskinene gjøre? 

Odd Are: Og både menneskene blir får mer innsikt og modellene som det ofte kalles inn i vår software får mer innsikt. Det som mangler i veldig stor grad i sånn klassisk AI med blackbox, det er at det er en masse innsikt vi allerede har skaffet oss gjennom år og år, med arbeid som ikke er der. Sånn at faktisk de her maskinene kan gjøre idiotiske feil fordi at de ikke tar hensyn til den kunnskapen de allerede har. 

Silvija: Hvor anvender dere dette her?

Odd Are: Ja, per i dag så jobber vi typisk med prosessindustri. Altså det er sånn smelteverk, og det er maritim industri og akvakultur. Tenker på industri som er bygd opp i Norge gjennom årtier, og det er bygd opp en masse kompetanse. Hvis du ser på forskjellen mellom det som er godt drevet og det som ikke er fullt så godt drevet av den her type industri, så er det typisk folk. Det er kunnskapen til folk. Det er folks evne og dedikasjon til å gjøre en god jobb. Vi ønsker å forsterke det ytterligere. Og den norske modellen der du passer på at ny teknologi både kommer eierne av bedriften og de ansatte og staten til gode, den er utrolig viktig for å beholde det norske velferdssystemet. Da trenger vi en teknologi som faktisk spiller sammen med alle de her 3 partene, og der kommer forklarbare energi og inntektssystemer. 

Silvija: Men hvis jeg skal gå tilbake. Altså jeg skjønner hvorfor det er spennende, fordi AI går inn i arbeidsprosesser overalt, og vi er litt for lite bevisste på hvordan og hvorfor. Og dette tenker jeg er et produkt som vil være viktig for hele verden, ikke bare oss i Norge, men en av kontroversene som hadde vært litt morsomt å leke litt med, er, vil folk tillate seg å bruke det hvis dette betyr noen tapte promiller eller noen tapte dollar? 

Odd Are: Nei, det tror jeg ikke. Vi er rett og slett nødt til å bevise at det vi gjør er rett å slett for å klare å tjene mer penger. Det koker ned til det. Jeg tror at man skulle gjerne ønske at verden var litt annerledes, men det er den ikke. Det er flere effekter vi ser ut til å ha ut av det. Vi kan redusere antall arbeidsoppgaver som er direkte farlig, altså rett og slett klare å øke nivået av helse, miljø og sikkerhet, men det er først og fremst at vi gjennom bedre innsikt faktisk klarer å optimalisere bruken av råvarer og lage bedre sluttprodukter. Det er jo to deler med det å optimalisere råvarer og lage bedre sluttprodukter. Det ene er jo at eierene skal tjene mer penger og derigjennom å ha trygge bedrifter. Det andre er jo at vi trenger i verden i dag å klare å nyttiggjøre oss råvarer på mer effektiv måte. Vi ser at i smelteverksindustrien for eksempel, så er det å ha kontroll på råvarer, det vil si at du kan erstatte potensielt miljøskadelige råvarer i dag med bedre råvarer, og etter hvert råvarer som faktisk ikke har noe karbontrykk. Da må du ha enda bedre kontroll på prosessen din, og du må evne til å lære enda fortere. Og det skal software med dyktige folk gjøre. 

Silvija: Når du snakker om relevante prosjekter det siste året, så snakker du om kombinasjon av kybernetikk, kontrollsystemer sammen med AI som innsikt i hvordan man optimaliserer dem. Men dere selger det internasjonalt eller anvender det internasjonalt? Hvordan internasjonaliserer man et sånt produkt? Hva er det viktigste dere har lært? 

Odd Are: Det viktigste vi har lært er at du må ut til kunden. Du må skape deg gode referanser hos kunden. Vi må ut og skjønne hvordan kunden faktisk jobber, og dette er veldig viktig. Fordi hvis verdien av et system et hvilket som helst datasystem, det skjer når brukeren i stedet for å ta en beslutning, tar en annen beslutning. Før det øyeblikket oppstår at du faktisk tar en bedre beslutning basert på det her, så alle pengene, alle tider, det er helt borte, og det tror jeg er undervurdert. Så vi er ute veldig tidlig. Så er vi ute i bedriftene og snakker med operatørene ved å finne ut hvordan er det det her faktisk virker? Også starter vi der, sammen med teknologiutviklingen. Det starter og stopper ved brukeren. 

Silvija: Er det noe som inspirerer deg nasjonalt eller internasjonalt? 

Odd Are: Ja da må jeg nesten nevne Harald Martens igjen. Han synes jeg er en inspirasjon. Både rent sånn faglig og personlig. Og jeg synes jeg at hele det hvordan det norske næringslivet har vært styrt og hvordan man på en måte har lagt til rette og hvordan man har sørget for en fordeling av både kunnskap og penger er en inspirasjon, og det tror jeg vi skal være enda stoltere av, og jeg tror vi kommer til å bli utfordret på den modellen fremover, og da er det utrolig viktig at vi har identifisert det med at det har en egenverdi, eller tror jeg vi tar det for gitt, men den er ikke for gitt. 

Silvija: Du nevnte for meg også AVI eller AVI1 roboten. Telepressens for barn med kroniske sykdommer, og det er et veldig myk eksempel på bruk av teknologi. Og hvorfor nevner du den? 

Odd Are: Nei, fordi jeg synes at det er et sånn kroneksempel på at du gjør en en stor forskjell, det er på bruk av teknologi. Også er det et eksempel på å skjønne hva samfunnet trenger og hva den enkelte person trenger. Så er det klart at jeg skulle gjerne ha studert enda nærmere hvordan det her faktisk virker på omgivelsene og hvordan interfasen er, men jeg er imponert over det de har klart å gjøre, også er jeg imponert over det at du faktisk tar en såpass åpenbar tanke i ettertid. Også klarer du å gjøre en god løsning ut av det. 

Silvija: Hva tror du er relevant kunnskap for fremtiden? 

Odd Are: Jeg tror det å skjønne hvordan samfunnet utvikler seg og hvordan man kan bidra til at du faktisk gjør at samfunnet går i rett retning. Det blir mer og mer viktig, og jeg synes at det blir underbygd. At du ser at først nå så har vært ganske enkelt. Det har vært styrt av økonomi, det har vært styrt av omsetning og overskudd. Men nå ser vi at det får en rekke andre styringsbarometer i bedriftene. Du begynner å få det at du skal være naturvennlig og mye mer fokus på at du skal oppføre deg på en ordentlig måte, heldigvis. Det kommer til å være mange parameter fremover som blir styrt på at det du driver på med både personlig og profesjonelt, har en god innvirkning på samfunnet. For at være i stand til å forstå det, tror jeg blir veldig viktig. Det er kanskje ikke en egenskap man nødvendigvis lærer på skolen, men det er noe man definitivt må ha med seg når man kommer ut i næringslivet. Og det er en egenskap, det er nesten et personlighetstrekk som blir veldig viktig. 

Silvija: Nå kan vi ikke bare pleie teknologikunnskap, men også relasjonskunnskap. 

Odd Are: Definitivt ja. 

Silvija: Du har nevnt noen av disse fordelene ved å være i Norge sånn som det balanserte arbeidslivet og egentlig høyt utdanningsnivå. Det er kanskje det som gir oss litt selvtillit også i forhold til dette med maskiner. Ja, jeg tror det. Jeg tror at måten vi har styrt næringslivet på, gjør at den implisitt trygghet i det som gjør at du er villig til å ta på ny teknologi uten at du er så redd for å miste jobben. Det har vært fall vært det som har vært historisk tilfelle. Hvis vi mister den tryggheten, så mister vi veldig mye veldig fort. 

Silvija: Folk er ikke like kreative når de er redde. 

Odd Are: Det er ingen som blir skremt av å være kreativ. 

Silvjia: Vi snakket litt om at LØRN dreier seg i veldig stor grad om å dele kunnskapen sin. Og når jeg spurte deg om noe anbefalt lesing, så nevnte du alt av Harald Martens, men også et par andre bøker. Kan ikke du nevne noen boktitler? 

Odd Are: Ja, jeg leste for noen år siden en bok som heter Homodeus av Harare. Han har etterpå skrevet hvert fall to bøker til. Homosapiens startet det med, som handler om menneskets utvikling og Homodeus, som i praksis drar noen linjer for det man tror kommer til å skje fremover. Også har han også skrevet bok som heter 21 sannheter for det 21. Århundre, hvor han tar opp en del samfunnsutviklingscase. Jeg synes det er veldig bra, bøker det. Det synes han gjør, det er at han setter noen forutsetninger om at vi nesten ikke har noe valg. Delvis så er vi styrt av genetisk, det at vi egentlig er dyr og delvis så er vi styrt av teknologien. Det teknologien på en måte gjør for fremtiden vår blir som den blir. Det er jeg uenig i. Jeg tror at vi har noen valg, og vi er nødt til å ta de valgene, og det er veldig viktig at vi tar de valgene og det er jo litt det vi snakket om før. Også er det en bok der jeg vil anbefale i disse tider, og det er en bok som heter The road to somewhere. Engelsk analytiker som har skrevet om politiske utviklinger i USA og Europa. Helt fascinerende lesning i forhold til at han sier at det her gamle venstre høyre skillene har brutt sammen, og nå har man en helt ny type skille og det er mellom de som er verdikonservativ og som er veldig stedfast. Også har du de som er liberal, som i praksis er de som leder både politiske partier, bedrifter, presse, som da er anywhere stand. De har egentlig en sosial binding, som ikke er stedfast, men som mer er klassefast. Konsekvensen av det at du ser stram vekst av litt sånn uventet politiske partier. Vi ser for eksempel Senterpartiet i Norge nå som jeg tror er et klassisk sombare parti. Så anyware har all makta. Så hvis det kommer i en folkeavstemning, så får du jo nesten bestandig et uventet resultat. Brexit, Trump, Norsk EU debatt.

Silvija: Men min personlige greie der er at jeg er imellom de to. For jeg har blitt mer og mer glad i lokaliteten. Jeg tror den definerer oss, og den definisjonen burde vi være glad i, selv om jeg har en kjempe lapskaus av kulturer i meg, så er det allikevel noen konkrete ting som definerer meg som gjør at jeg tar de verdivalgene jeg gjør. Også er jeg veldig liberal på masse måter og veldig kunnskapssulten og alt mulig, men jeg tror at det å nettopp spille på lokaliteten som en stor konstruktiv makt for fremtiden er noe som vi savner politisk.

Odd Are: Det er jo klart. Det som han Hardt som skrev den boken sier, er at de liberale har fått lov til å definere hva som er riktig og ikke. Så dermed får du en god del av det som er lokale verdier som kanskje blir stemplet som i praksis proteksjonistisk, til og med rasistisk eller høyere radikalt. Hvis du leser den boken og begynner å se litt på hva som skjer og prøver på en måte å bryte opp litt høyere og venstre. Så er det en god del læring der. Og jeg er helt enig i at jeg tror at det er en del verdier i det her lokale, som kommer til å bli løftet igjen, og som vi på en måte har skutt litt ned per dag. 

Silvija: Har du et sitat som du vil legge inn som en liten avskjedsgave til våre lyttere? 

Odd Are: Ja, det jeg prøver å bruke å si til meg selv og gi for seg til mine samarbeidspartnere eller de som jeg har jobbet med sammen på jobb, så er det typisk at er det om 3 år er vi som kommer til å angre noe utrolig på at vi ikke startet med i dag. Det er en tendens til å trigge en del sånne prosesser og en del diskusjoner. 

Silvjia: Du, hvis du vil velge en ting fra vår samtale som du veldig gjerne vil at folk skal husk, hva vil du at det skal være? 

Odd Are: Jeg vil at det skal være teknologien som vi skal lage. Den skal være til gode for de folkene som skal bruke det. 

Silvija: Veldig flott. Odd Are Svendsen, daglig leder i Idletechs, tusen takk for at du var her med oss i dag og lærte oss om verdibasert bruk av AI, og dette har med å være et stolt menneske som bruker teknologi som verktøy. 

Odd Are: Tusen takk for at jeg fikk komme. 

Silvija: Takk til dere som lyttet.

Du har lyttet til en podcast fra LØRN Tech, en læringsdugnad om teknologi og samfunn. Følg oss på sosiale medier og på Lørn.tech.