LØRN case C0518 -
LØRN. STARTUP

Odd Are Svensen

CEO

Idletechs

Hvordan og hvorfor vi må åpne blackboxen

LØRN case C0518 -
LØRN. STARTUP

Odd Are Svensen

CEO

Idletechs

Hvordan og hvorfor vi må åpne blackboxen

Facebook
Twitter
LinkedIn
Email

27 min

Choose your preferred format

Velkommen til Lørn Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres. Denne episoden er produsert med støtte fra Stiftelsen Teknologiformidling som inspirerer små og mellomstore bedrifter til å tenke nytt.


SS: Hei og velkommen til Lørn i samarbeid med Teknologiformidling og Technoport i Trondheim. Mitt navn er Silvija Seres, og temaet i dag er kunstig intelligens. Gjesten min er Odd Are Svensen som er daglig leder i selskapet Idletechs – velkommen!

OS: Takk skal du ha!

SS: Odd Are, det var på håret at du ble med i dag fordi stemmen din sviktet, men den kom tilbake. Det er jeg veldig glad for, fordi du har et veldig spennende selskap å prate om. Vi skal prate om kunstig intelligens gjennom et konkret eksempel, så skal vi generalisere det litt derfra. Før jeg gjør det håper jeg du kan si litt om hvem du er og hva som driver deg.

OS: Ja. Jeg er en trønder på 53 år fra Trondheim og er veldig interessert i teknologi. Jeg har jobbet i både store og små teknologiselskaper både i Norge og i utlandet. Jeg har egentlig bestemt meg for at jeg skal utvikle teknologiselskaper videre i Trondheim - jeg vil bli der, og jeg tror at det går an å utvikle veldig gode teknologiselskaper med basis i Trondheim. Når jeg ikke jobber driver jeg stort sett med mine barn, seling og ski.

SS: Seiler du her?

OS: Jeg seiler her også. Jeg seiler rundt omkring der jeg har venner som har seilbåt som jeg er så heldig å få være med på.

SS: Jeg er fascinert over de som tør å seile nordover. Det er i hodet mitt veldig mye mer vind og sjø.

OS: Ja, i år var vi i Lofoten, det kan anbefales. Det er en av de fineste plassene i verden å seile. Det er ikke alltid badetemperatur, men en helt fantastisk opplevelse når det gjelder naturen, folk og gode seilemuligheter.

SS: Veldig fint. Du har en master i informatikk fra det som den ganger var NTH, som er NTNU i dag. Så du er teknolog i utgangspunktet?

OS: Det stemmer.

SS: Men gjennom samtalen vår før podcasten opplevde jeg at du har blitt veldig interesser i både de samfunnsmessige og menneskelige sidene, nesten filosofiske sidene ved bruk av teknologi og muligheter til utvikling. Hvordan ble du det?

OS: Det ble jeg egentlig gjennom å se hvilken effekt teknologi har på brukerne. Jeg har jobbet veldig tett med brukere, jobbet med kunder da jeg var med å utvikle og leverte teknologi, og jeg ser at teknologien på godt og vondt har en stor effekt på disse kundene. Jeg ser også at suksesskriteriet, altså det som gjør at teknologien faktisk har den effekten den er ment å ha, det skjer når brukere (folk) faktisk tar det i bruk og gjør jobben sin bedre - og faktisk får et bedre liv ved bruk av denne teknologien. Det jeg fant ut var at det å lykkes med det å faktisk ta i bruk teknologi, det handler mye mer enn ren teknologiutvikling; det handler om å ha respekt for den verdenen folk lever i, og respekt for de konsekvensene teknologi har.

SS: Det er litt for mange teknologer, inkludert meg tidligere, som bare sier at; bare fortell meg hva du vil ha så skal jeg lage det. Men jeg tror at det er en innsikt som bygger seg nå om at vi har veldig mye ansvar for den verden vi skaper gjennom den teknologien vi bygger. Det er veldig flott formulert av deg.

OS: Da jeg traff gründeren av Idletechs, som heter Harald Martens, så ble jeg veldig fascinert av hans tilnærming til kunstig intelligens.

SS: Kan du beskrive Harald Martens? Si tre ord om hvor gammel han er og hvordan han oppleves.

OS: Han er 73 år ifølge fødselsattesten, så er han kanskje 23 år i oppførsel og mindset. Han har en fantastisk bred teoretisk og praktisk bakgrunn. Han er kjempeentusiastisk og flink til å prate med folk om både praktiske problemstillinger og de veldig teoretiske problemstillingene. Han er en unik kombinasjon av akademiker og praktiker – og en helt egen type.

SS: Vi har pratet med Harald Martens for kanskje et år siden – fantastisk mann. Fortell litt om Idletechs.

OS: Det Idletechs har skapt er en type kunstig intelligens som vi kaller forklarbar, eller explainable AI, som har kommet en del fram i hele verden og særlig nå i det siste. I Idletechs har vi jobbet med dette i 5 år. Det det går på er at vi ønsker å åpne denne svarte boksen – det uforklarlige i kunstig intelligens. Vi ønsker å gjøre det forklarbart, predikerbart – slik at man faktisk kan forutse hva som vil skje når denne teknologien faktisk virker, og vi ønsker å skape et interface – at det virker sammen med menneskelig kunnskap og menneskelige måter å håndtere problemer på. Så vi ønsker å forsterke arbeidere snarere enn å erstatte arbeidere.

SS: Her er det to veldig spennende problemstillinger som jeg har lyst til å åpne opp. Det ene er dette black box-problemet med kunstig intelligens. Hvorfor er det vanskelig å ha en forklarbar modell for AI – det er det første spørsmålet. Og det andre er litt mer dette; hva skal mennesker gjøre og hva skal AI gjøre?

OS: Forklarbar AI er egentlig vanskelig fordi forutsetningene bak AI var at hvis vi bare fikk nok data og puttet inn nok datakraft i det, så skulle vi lære oss hvordan verden så ut. Forutsetningene var at vi skulle slippe disse komplekse forklaringene som typiske ingeniørene har introdusert, de store matematiske modellene. Vi skulle på en måte jukse oss unna det og så skulle vi rett til svaret ved hjelp av store datamengder. Får å få til det ble det laget veldig avansert statistikk som ble kjørt veldig mange ganger og veldig fort gjennom datamaskiner. Og det er klart at statistikk kan være komplekst nok i seg selv. Gjør du det veldig fort og veldig mange ganger i en datamaskin, så er det veldig vanskelig å forklare sammenhengen mellom de dataene du ser og det resultatet som datamaskinen kommer fram til.

SS: Og dette kan være ting som avgjør folks liv og helse. For eksempel om en robot-kirurg skal utøve operasjonen, om du skal få den forsikringen du ønsker, eller hvis du skal få det lånet du trenger - hvis AI-systemene begynner å styre dette etter hvert.

OS: Det stemmer. Og det vi ser er at AI-systemene er god til en del ting. De er god på oppgaver der du bare prøver å forbedre beslutningene dine noen prosent, og du ikke trenger 99% eller 100% treffsikkerhet. Av de eksemplene du nevnte, så er for eksempel behandling av lån ganske interessant. Fordi det å gjøre feil ved behandling av lån får egentlig bare en konsekvens for den enkelte kunden. I det store og det hele så har det ikke en konsekvens for banken fordi du bare gjør det litt dårligere. Det kan også godt hende at du gjør det bedre enn ved en menneskelig inngripen. Men hvis du for eksempel tenker at hvis banken treffer på 99% av lånebehandlingen istedenfor 97% og på den måten sparer penger, så er det en god løsning for banken. Det er ikke en god løsning fordi personene som faktisk blir urettferdig behandlet, men det blir de jo i dag også. Og så har du de sikkerhetskritiske og forretningskritiske løsningene, du nevnte en kirurg, en kirurg gjør også feil.

SS: Eller AI i forsvarsbruk?

OS: Eller det ja. Vi hadde et eksempel der amerikanske droner angrep en skole i Afghanistan. Problemet med det er at vi ikke klarte å forklare etterpå hvorfor den angrep skolen. Det er det ene problemet. Det andre problemet er at man ikke kan garantere at det ikke kan skje igjen, med mindre man har både en forklarbar AI og en predikerbar AI.

SS: Dette kommer også til å være mer i folks hverdagsliv enn de er klar over. Det er også AI i våre selvkjørende biler, og denne måtte kunne avgjøre om den skal kjøre rett fram og kjøre på det barnet som har hoppet foran bilen, eller kjøre til høyre inn i lastebilen og dreper deg som er i bilen. Den avgjørelsen burde man kanskje ikke overlate til AI eller en maskin.

OS: Det er jeg enig i. Og så tror jeg at dette er et veldig vanlig eksempel, og det blir nok veldig spissformulert. Jeg tror nok at det er andre typer problemstillinger, som kanskje er mindre tydelig, men også mer alvorlig.

SS: Fortell.

OS: Det er der vi i stor grad automatiserer for eksempel arbeidslivet uten å stille spørsmålstegn ved; hva ønsker vi som mennesker skal være autonomt. Selv om det kanskje prosentvis er mindre ulykker eller at du klarer å produsere flere sko og t-skjorter, så er det ikke sikkert at vi skal gjøre det. Her tror jeg det er veldig viktig å innse at vi faktisk kan ta noen valg. Vi har faktisk mulighet til å la være å gjøre ting og gjøre ting på en annen måte. Det tror jeg er utrolig viktig framover. Teknologien vil sette oss i stand til ting som vi faktisk ikke ønsker å gjøre. En ganske typisk visualisering av AI er at du har en eksponentiell økning i produksjonen. Altså, desto mere AI eller mere tid en slik kunstig intelligens-maskin får på å gjøre ting, desto større fart blir det på økningen. Med det som det er stilt lite spørsmålstegn ved er hva som øker. Hva er du faktisk får eksponentielt mer av; er det lykke? Er det sko? Er det t-skjorter? Er det CO2? Vi er nødt til å spørre oss hva vi skal med denne teknologien. Hva er det vi ønsker å få så mye mere av. Samtidig som vi søker autonomi, vi søker etter å effektivisere mange deler av livene våre, så søker vi samtidig mot mere sko som er håndlaget, klær som er laget på en bærekraftig måte der det er en historikk rundt det – lokal mat osv. Spørsmålet er hva det er vi skal med all AI-en. Hva er det vi skal lage mer av slik at vi faktisk får det bedre. Det tror jeg er viktig. hvis vi skal få til det så må det være forklarbar AI som noen bruker og får det bedre av.

SS: Jeg syns også dette med å elske det menneskelige nettopp fordi vi vet at noen har brukt sin menneskelige kraft for å gjøre noe – det merker jeg mer og mer i produkter jeg kjøper. Jeg syns faktisk det er flott at noen har brydd seg nok til å lage dette slik at jeg kan bruke det. Men Idletechs, hva er produktet?

OS: Vi leverer en software som har brukergrensesnitt mot typisk operatører i industrien, slik at operatørene i industrien skal forstå mer av hva som foregår inne i sine egne prosesser, maskiner og anlegg, slik at de igjen kan ta bedre beslutninger. Vi skal hjelpe dem med å ta bedre beslutninger. Softwaren er også slik at disse operatørene kan gi softwaren deler av sin kunnskap slik at du får en kunnskapsdeling begge veiene. Softwaren avdekker nye sammenhenger som kan være ganske vanskelige og komplekse som du får tilgang til når du har nye sensorer og bedre datamaskiner og datakraft, men du visualiserer for brukeren. Så kan brukeren bruke sin kunnskap og kombinere den med denne nye innsikten for å ta enda bedre beslutninger.

SS: Hvis jeg skal prøve å oversette med mine egne ord ... jeg tenker at dette er en software som forstår disse nye arbeidsprosessene og klarer å visualisere dem på en måte som gjør at mennesker kan ta aktive valg i forhold til hva de skal gjøre og hva maskinene skal gjøre.

OS: Stemmer. Og både menneskene får mer innsikt, og modellene, som det ofte kalles inne i våre softwares, får mer innsikt. Det som mangler i veldig stor grad i klassisk AI med black box, er at det er masse innsikt som vi allerede har skaffet oss gjennom år med arbeid som ikke er der. Derfor kan disse maskinene gjøre idiotiske feil, fordi de tar ikke hensyn til den kunnskapen du allerede har.

SS: Spennende. Hvor anvender dere dette?

OS: Per i dag jobber vi typisk med prosessindustri. Det er smelteverk, og det er maritim industri og akvakultur. Dette er industri som er bygd opp i Norge gjennom årtider, og det er bygd opp masse kompetanse. Hvis vi ser på forskjellen mellom det som er drevet og det som ikke er like godt drevet av denne typen industri, så er det typisk folk. Det er kunnskapen til folk, folks evne og dedikasjon til å gjøre en god jobb. Vi ønsker å forsterke dette ytterligere. Og den norske modellen, der hvor du passer på at ny teknologi både kommer eierne til bedriften, de ansatte og staten til gode – den er utrolig viktig for å beholde det norske velferdssystemet. Da trenger vi en teknologi som faktisk spiller sammen med alle disse tre partene. Der kommer forklarbar AI inn.

SS: Jeg forstår hvorfor det er spennende, fordi AI går inn i arbeidsprosesser overalt, og vi er litt for lite bevisste på hvordan og hvorfor.


Utdanning og hobby?

Master i informatikk fra NTH (NTNU), seiling og ski.

Hvem er du, og hvordan ble du interessert i teknologi?

Jeg er en 53 åringsom har jobbet i grensesnittet mellom innovative løsningen innen IT og industrien hele livet.

Jeg er fasinert av teknologiens mulighet til å gjøre menneskers liv bedre.

Hva er det viktigste dere gjør på jobben?

Vi gjør flinke fagfolk innen industrien tryggere, gir de mer innsikt,de blir mer effektive - kort sagt mer fornøyde.

Hva fokuserer du på innen teknologi?

Jeg fokuserer på AI og forklarbar AI. Vi i Idletechs lager verktøy forfolk, ikke verktøy i stedet for folk.

Hvorfor er det spennende?

Fordi AI så langt har feilet i å levere resultater som er til det bedre for samfunnet. Forklarbar AI er utfordrende. Det er en parallell utvikling av både teknologi, produkter og forståelse av arbeidsprosesser og av hvordan folk bruker ny teknologi.

Hva synes du er de mest interessante kontroverser?

Hvilke deler av samfunnet ønsker vi autonome? Hva skal vi overlate til maskiner? Hvordan skal vi skape tillit til at maskiner ikke ødelegger/tar fra de fleste mennesker arbeidsplassen sin?

Dine egne relevante prosjekter siste året?

Lede en gruppe av verdens ledende eksperter inne fagfeltet big data cybernetics til å levere løsninger som er gode for brukerne.

Dine andre favoritteksempler på din type teknologi internasjonalt og nasjonalt?

AV1 som hjelper barn med å delta sosialt. Emosjonelle roboter som robotselen og lignende.

Dette er ærlige forsøk på å gjøre detriktigementriggeren rekke spørsmål om etikk og hvordan vi ønsker å omgi oss med teknologi.

Hva tror du er relevant kunnskap for fremtiden?

Relasjonskunnskap. Evne til å avdekke hva det er som får samfunnet og enkeltpersoner til å ta de riktige valgene.

Hva gjør vi unikt godt i Norge av dette?

Det balanserte arbeidslivet der vi har høyt utdannede arbeidere og et ønske om at alle parter skal få goder av utvikling. Dette er svært viktig fremover og vil bli utfordret både av teknologi og forretningsmodeller.

Et favoritt fremtidssitat?

Hva er detvi kommer til å angre på atvi ikke startet med i dag når viser tilbake til denne dagen om 3 år.

Viktigste poeng fra vår samtale?

Det er viktig at vi tenker over resultatene av de teknologien vi utvikler. Vi kan ikke fraskrive oss ansvar for konsekvenser.

Odd Are Svensen
CEO
Idletechs
CASE ID: C0518
TEMA: DIGITAL STRATEGY AND BUSINESS
DATE : 191122
DURATION : 27 min
LITERATURE:
The Road to Somewhere av David Goodhart</brhomo Deus”, “Homo Sapiens” og “21 questions to the 21 century” av Yuval Noah HarariAlt av Harald Martens (gründer av selskapet jeg leder). Podden med Harald
YOU WILL LØRN ABOUT:
Forklarbar kunstig intelligens
Prediktiv AI
Black box Internasjonalisering
Verdibasert bruk av AI
QUOTE
"Det er viktig at vi tenker over resultatene av de teknologien vi utvikler. Vi kan ikke fraskrive oss ansvar for konsekvenser."
More Cases in topic of DIGITAL STRATEGY AND BUSINESS
#C1118
DIGITAL STRATEGY AND BUSINESS
Overføringsverdier og endringsledelse

Karl Munthe-Kaas

Styreleder

Oda

Anne-Lise Fredriksen

Utviklingsleder

NKI

#C0294
DIGITAL STRATEGY AND BUSINESS
Endringer i offentlig sektor

Ole Gabrielsen

Direktør for teknologi og endring

Sarpsborg Kommune

#C0304
DIGITAL STRATEGY AND BUSINESS
Returordning for kasserte fritidsbåter

Kjell Inge Svendsen

Gründer

Ecofiber