Velkommen til Lørn.Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres og venner. 

Silvija Seres: Hei, dette er Lørn.Tech. Jeg er Silvija Seres og temaet i dag er kunstig intelligens, eller AI. Med meg har jeg Ole Jakob Mengshoel, som er en professor ved department of computer-science ved NTNU i Trondheim. Velkommen Ole Jakob.

Ole Jakob Mengshoel: Takk for det. 

Silvija: Du leder også denne her fantastiske open AI lab, ved NTNU altså, men i partnerskap med telenor, equinor, dnv gl kongsberg og DNB, og du nikker.

Ole: Stemmer. 

Silvija: Og du har også noen hatter diverse andre steder i verden, blant annet Carnegie Mellon.  

Ole: Ja!

Silvija: Kan ikke du fortelle oss hvordan en Ole Jakob får tid til alt det her?

Ole: Vel først og fremst så har jeg vært 25 år i USA og da begynte jeg etter hvert å jobbe i Carnegie Mellon University, så der har jeg vært i cirka 10 år. Nå har jeg kommet hjem til Norge og du kan si at det er en overgangsfase da, hvor jeg er begge steder. 

Silvija: Jeg må spørre deg hvorfor. Jeg hadde litt samme rute, hva var dine grunner til å komme tilbake til Norge? 

Ole: Ja, for det første så er det veldig spennende kan du si å komme til til NTNU nå med Norwegian open AI lab, så synes jeg at USA, uten å gå for mye inn i politikk og den type ting, har på en måte utviklet seg i litt feil retning synes jeg. Siste 2-3-4-5-6-7-8-9-10-11 årene. Så ja, jeg synes ikke det var så spennende å være der nå de siste årene som det var på 90-tallet, da jeg flyttet dit. 

Silvija: Du savnet været i Trondheim, bare innrøm det.

Ole: Ja, absolutt. Også har jeg jo all familien min i Norge, så det er jo også en annen ting da. 

Silvija: Skal ikke bare være artificial intelligence.

Ole: Nei nei, artig å være med på andre ting også. 

Silvija: Det er sånn folk sier, det skal være litt naturlig dumhet også, det er viktig del av livet det. 

Ole: Ja, absolutt. 

Silvija: Du, hva kan du om AI? Hva er det du er ekspert på? 

Ole: Jeg pleier å kalle meg en AI-potet. Hva jeg mener med det er at jeg har jobbet med veldig mange forskjellige ting. Jeg var på semi-jus som sagt, i ti år nesten. Før det så jobba jeg veldig mye i grenseland mellom akademia og industri, så jeg har jobba med alt fra ekspertsystemer til knowledge acquisition som vi kalte det tidlig på 80-tallet. Også har jeg jobba med, du kan si anvendelser mot sikkerhet, altså safety, altså som det heter på engelsk da. Også mot maskinlæring, jobbet med NASA, har jobbet med forskjellige bedrifter i Silicon valley, så jeg har jobbet med veldig mye forskjellig, men nå i det siste så har jeg fokusert mer og mer på maskinlæring da, hvor du har data og du lærer enten en modell, også kan du si fullt og helt de dataene som du kommer med, eller du har kanskje en viss ide om hva du skal lære og har på en måte en matematisk modell for det også bruker du dataene til å lære parameteren i den matematiske modellen.  

Silvija: Når du sier «du skal lære» så mener du vel egentlig maskinen din? 

Ole: Ja 

Silvija: Kjæledyret ditt.

Ole: Ja, veldig ofte så er det det, men ofte så er det sånn at du har en vitenskapsmann eller kvinne da, som har en ide om hvordan modellen skal se ut, eller om hvordan de vil at modellen skal se ut, sånn at de gir oss informasjon da om hvordan datamaskinen skal oppdatere, eller skal augmentere eller forbedre den modellen som vi går inn med.

Silvija: Du Ole Jakob, hvis vi skal mimre litte grann.  

Ole: Ja.

Silvija: Jeg var da i Oxford på 90-tallet, holdte på med noe algoritmeoptimalisering og logsprogrammering og var på en måte litt innom AI og husker veldig godt at da var vi midt i AI-vinter. Så begynte vel egentlig enda kanskje 10 år før det, når noen veldig optimistiske store tenkere, deriblant Marvin Minsky trodde at de fikser AI på 3 måneder. Og da har vi holdt på med ekspertsystemer og tenkte at dette aldri kommer til å kunne eskalere nok til å være praktisk anvendelig. Også har det skjedd noe ganske spennende de siste 2 årene. Jeg vet ikke, du sier at du er innenfor maskinlæring og ankara det der også deep-learning og nevrale nett. Kan ikke du hjelpe oss å forstå hvorfor, altså hva er det som har skjedd som gjør at science fiction har blitt litt science reality da? 

Ole: Det er vel hovedsakelig tre ting tror jeg. Den første tingen er at de modellene som vi kan bruke nå i forbindelse med deep learning også andre deler av maskinlæring, det er så mye, mye større, de er så mye dypere og de har så mange, mange, mange flere parametere enn det vi drømte om på 80-tallet og 90-tallet. Grunnen til det, delvis, at vi kan klare det er at vi har så mye mer, mye bedre datamaskiner, som er parallelle, som har parallell regnekraft, som ja.

Silvija: Både mer regnekraft og chiper som er skreddersydd for den type problemstilling

Ole: Ja riktig, riktig, som kan gjøre matriseoperasjoner så veldig hurtig og parallelt og temporiser selvfølgelig, som vi ikke kunne drømme om på 80- og 90-tallet. Den tredje tingen er datamengdene som vi har i dag, er mye, mye, mye større, og det er mye enklere og holdte jeg på å si, du har videokamera på telefonen din, enhver mann kan lage interessante datasett. På 80- og 90-tallet så det kunne det å være et stort problem bare å få tak i data. 

Silvija: Ja, også på toppen av det, for jeg vet ikke om det er for fem år siden, eller noe sånt noe hvor denne gjengen. Hvor var de fra, var det Vermont eller? Altså de som fikk et kjempe gjennombrudd i ansiktgjenkjenningsposisjonen gjennom å ha gjort noe litt annerledes med deep learning.

Ole: Joda, de har vel også forandret litte granne på algoritmene, eller de har turt å gjøre ting som man på 80- og 90-tallet hadde blitt ledd litt av for å gjøre holdte jeg på å si. Sånn at ting som kanskje har blitt oppfunnet for mange år siden, de er nå blitt mulig å gjøre da, i og med at datamengden er så mye større og datamaskinene er så mye mer kraftige. 

Silvija: Ja.

Ole: Også er det selvfølgelig, det er en del nye ting også, men det er på en måte ikke en, på mange måter ikke en revolusjon, men mer en evolusjon av forskning som har skjedd siden 50-tallet, som på en måte plutselig har blitt, mange ting har kommet sammen og gjort det mulig da, å gjøre ting som man ikke drømte om for ti år siden. 

Silvija: Også er det noe med at den der diskusjonen om dette noen gang kommer til å være general AI, eller om det er narrow AI, tenker jeg også kanskje litt sånn som du sier at når det blir mange nok kjempegode narrow AI, altså ting som er supergode på å gjenkjenne ansikter eller innenfor forskjellige typer medisin, eller trafikk eller hva det nå måtte være. Systemisk verdi av det her kommer til å bli ganske generisk. 

Ole: Ja, absolutt. Det synes jeg er et viktig poeng nå i dag, at vi er fremdeles i en verden der du må definere veldig klart hva du ønsker å gjøre med kunnskapsteknologi eller artificial intelligence, kunstlig intelligens. Så du må ha et konkret problem som du ønsker å løse. Vi er ikke der i dag at du kan på en måte ha en sånn baby-AI i hånda, kaste den ned på gulvet også be den løse alle verdens problemer. Du må gjøre noe helt spesifikt, du må ha et spesifikt datasett og du må ha et ønske om å oppnå noe konkret, og jobbe mot det. 

Silvija: Jeg pleier å sende en del sånne standardspørsmål før podkast. Jeg har smilt egentlig, når jeg har leste dine, fordi jeg spurte altså «hvordan ble du interessert i kunstig intelligens?» også sier du at: «jeg ble interessert i AI mens jeg ennå var andregradsstudent ved NTH» og da nevner du en gammel professor.

Ole: Ja, stemmer. 

Silvija: Det synes jeg er så vakkert gjort av deg. Jeg ble hekta på theory of computation da, gjennom Ole Johan Dahl, og jeg synes vi har noen fantastiske tenkere i dette landet, så vi er så dårlige til å feire.

Ole: Ja, det synes jeg er et godt poeng, og jeg synes også det er viktig å fremheve at de fagene som du faktisk tilbyr og de studentene som tar de fagene, det er noe de husker for å si det sånn, så det er kanskje litt lett å si at «okei, det faget der er ikke så viktig» eller «det faget der, det spiller ikke så stor rolle», men jeg tror det er veldig viktig å ta vare på de fagene og gi oppmerksomhet til de professorene som underviser i fagene da.

Silvija: Ja, og jeg tror det er veldig personlig det her også. Det er mennesker som inspirerer oss og på en måte smitter oss med en eller annen lidenskap tror jeg. 

Ole: Absolutt, absolutt. 

Silvija: Så, når du jobber nå på NTNU. Du har både forskerhatt på hvor du underviser og veileder studentene, også har du denne open AI lab, hvor du skal finne industrielle anvendelser. Kan ikke du si litte grann om begge deler. Hva er det morsomste i begge?

Ole: Det er ikke så lenge siden jeg begynte her på NTNU igjen da. Det var nå i august, så jeg har ikke vært her så veldig mange månedene, så jeg pleier å sitere presidenten i Senju som sier at: «they are on a listening tour for approximately a year», så jeg prøver å lytte og lære. Når det gjelder jobbing som professor så kan jeg kanskje reflektere litt på det som jeg typisk har gjort på Senju da, som er, det er på en måte, i hvert fall som som jeg jobber er det mange måter å gjøre forskning på, enten så er det noen som kommer med datasett, i beste fall så sier vi da at «her har jeg et veldig interessant datasett, fortell meg noe jeg ikke vet basert på det datasettet her.». Så de gir deg ikke engang noe helt konkret som de ønsker å gjøre. På en annen side så kan det være noe som er veldig sånn teoretisk motivert, kanskje at du har en sånn, du kommer over et matematisk resultat, eller et sånt computationally vanskelig problem som du har en ide for en algoritme, kanskje basert på et annet fagområde eller noe sånt, som du begynner å tro at «okei, det her kan jeg kanskje anvende på en ny måte». Så jeg tror egentlig det som er litt morsomt med det kunstig intelligens og komplekse dataene viser er at du kan på en måte angripe det fra forskjellige måter, mens jeg tror at i andre fagfelt så har du liksom standardmåte, hvert fall mitt inntrykk å angripe noe på, mens det som er litt morsomt med kunstig intelligens om dagen er at du enten kan være veldig, veldig datadrevet og få et morsomt eller utfordrende datasett som ingen har jobbet med før og på en måte være veldig, veldig datadrevet. Eller så kan du ta noe som er mer sånt rent teoretisk, teoretisk ide og på en måte spinne videre på det da. 

Silvija: Apropos open AI, er det noen data som er unike til Norge, som, altså «there is no data then more data» men det finnes noen data som ikke er så lett å få tak i for alle. Er det noe vi kan spille på her?  

Ole: Ja, vi har veldig mange ting innenfor helse ettersom jeg har skjønt, jeg har ikke vært her så lenge, men jeg tror at innenfor helse så er det mange unike datasett i Norge. 

Silvija: Det sies at de er rene og lange.

Ole: Ja, og der tror jeg det er veldig spennende og det er også et område hvor jeg tror Norge, nordiske landene er langt framme. Altså innenfor medisin og bioinformatikk, og den type ting, så det er jo hvert fall et område som vi satser veldig sterkt på innenfor AI-laben da. 

Silvija: Og med denne gjengen, altså DNV GL og Kongsberg og Equinor og sånt, sånn at det blir litt sånn prosessdata også?

Ole: Absolutt, så det er jo et annet område hvor vi har gode tradisjoner i Norge er jo innenfor skipsfart, marin, prosesser som mer kan du si business to business.  

Silvija: Olje.

Ole: Olje, energi, mer og mer vinkling mot fornybar energi også. DNV er og er også Veritas, veldig fokusert på det her med å skjønne hvordan man kan gjøre AI mer forståbart. Det er jo store begrensningen ved såkalte dype nett, at de er på mange måter en black box, så de lærer noe, men de vil ikke fortelle deg hvorfor og hvordan de opererer, så det er noe som er veldig viktig innenfor industri og også innenfor offentlig virksomhet da, at det er ikke nok å komme med en beslutning i mange tilfeller, du må også vite hvorfor den beslutningen ble gjort. 

Silvija: Det som fascinerer meg er at, jeg tror vi kommer til å feire common sense versus artificial intelligence så mye, fordi hver gang de skrur på artificial intelligence på disse sosiale chatbotsa og sånt, ikke sant? Så holdes det et sånt speil opp mot menneskeligheten, men en ordentlig karikatur kommer ut av det, ikke sant? Den forsterker så ekstremt alle de negative sidene våre, så det å liksom gjøre akkurat den der øvelsen med å normalisere konklusjonene til alle disse AI-systemer også på prosessdata og så videre blir en spennende oppgave. 

Ole: Absolutt, nå har jeg jobbet en del mot NASA og luftfartsorganisasjoner i USA og der er det jo mye testing kan du si, som ble gjort på både fly og romfartøy og jeg tror etter hvert at det blir mer og mer av det også innenfor andre områder. Including chat bots som du sier, hvor på en måte må prøve å spille ut i forkant «hvordan vil dette her fungere» i større grad enn det det er gjort nå i dag, hvor du på en måte bare slipper det løs også gjør du ting som du kanskje ikke har forventet i det hele tatt på grunn av at det er personer der ute med kanskje ikke de hensiktene som du hadde håpet på at de skulle ha også skjer det ting som du ikke har forventet da. 

Silvija: Ja, når jeg spurte deg hva som var det viktigste, på en måte konseptmessig da i AI, så nevnte du da algoritmer, datastrukturer, god programmering, mye probalitet og statistikk. Altså jeg tror at generelt så er det det å forstå hvor mye mer det hjelper oss mennesker som har elendig intuisjon da, på sannsynlighet og sånt. Så sier du noe som jeg tror er utrolig spennende, matematisk modenhet og eksperimentell mindset. Hvorfor?

Ole: Det med eksperimenter er på en måte noe som har kommet mer, og mer inn med de store datamengdene som du har nå i maskinlæring og statistikk og kanskje noe som går litt imot på en måte en sånn tradisjonell matematisk tenkemåte også, også databehandling hvor det er vært mye mer konkret fokus på hva du kan bevise formelt, ikke sant? Bruke tradisjonell logikk og algoritmer også vil de vise at de alltid gir riktig svar, ikke sant? Men så er det blitt mye mer, du må på en måte akseptere at du vil få et svar, men det vil ha en sannsynlighetsfordeling over seg. Så det er sannsynligvis korrekt, men du kan ikke vise at det alltid vil være korrekt. Så det er der eksperimentene kommer inn da, at du må på en måte bli mer og mer komfortabel med at det er en eksperimentell bit også innenfor databehandling som har mer kan du si matematisk basis hvert fall, i mange tilfeller. 

Silvija: Du Ole Jakob, det er vanskelig fordi jeg har en million spørsmål jeg gjerne ville spurt deg. Blant annet ville jeg hørt din take on norske versus amerikanske studenter, styrker og svakheter, men vi har ikke tid, så den kommer vi tilbake til. Jeg har spurt deg om kontroverser, du nevner Sofia som robot også spurte jeg deg om dine favoritteksempler, litt sånn internasjonalt, du nevnte DARPA grand challenge og machine translation by Google. Si en setning om hver av disse her, hvorfor er de kule? 

Ole: Det med DARPA grand challenge plukket jeg ut fordi jeg synes det er, jeg ble overrasket da de fikk det til på andre forsøk, å kjøre denne autonome bilen uti ørkenen. Det var 5 lag som klarte det, liksom å komme igjennom den løypa som var lagt opp. Jeg husker ikke hvem som vant, jeg tok i grunn alle 5 som vinnere i og med at de klarte å komme seg igjennom, for jeg hadde ikke trodd at noen skulle klare det. 

Silvija: Du skal kjøre ganske langt gjennom ørkenen, gjennom masse rotete terreng. 

Ole: Riktig, riktig. Så det var jeg veldig overrasket over, at de klarte det, så derfor plukket jeg ut den. Google translate plukket jeg ut fordi jeg alltid har, i hvert fall siden jeg var student på 80-tallet har jeg vært interessert i det her med språk og det er også noe som jeg holdte på å si hver enkelt av oss kan gå og bruke så ofte vi vil, og kan oversette mellom veldig mange forskjellige språk. Så jeg synes det er liksom en bra tjeneste som alle mer eller mindre kan ta i bruk. 

Silvija: Jeg ville valgt akkurat det samme, og det jeg synes var fascinerende med DARPA, det er førsteåret, ikke sant? Så ble det rapportert som DARPA the backel in the desert, fordi de kræsja og det gikk ikke så langt og sånt. Året etter så gikk det så sinnsykt mye bedre, og det er liksom, det viser hvor fort ting utvikler seg og samme med google translate, de skrudde på deep learning, fra deep mind, ikke sant? Og plutselig så var det bedre menneskelige translatører. 

Ole: Absolutt, absolutt, og det fungerer jo så godt at du kan, ja, det hender at jeg må rette litte grann da når det oversetter fra norsk til engelsk eller fra engelsk til norsk, men det er veldig, veldig bra i forhold til hvordan det var for bare fem år siden.

Silvija: Hva tenker du på kontroverser rundt Sofia? 

Ole: Ja, det plukket jeg fordi jeg synes det er, du kan si på godt og vondt så har AI veldig mye oppmerksomhet og det er veldig lett å på en måte enten undervurdere eller overvurdere hva som kunstig intelligens kan gjøre og jeg synes det er på en måte, jeg blir litt sånn ambivalent, på en måte så er det jo, du kan si et ekstremt eksempel på hva som kanskje Sofia kan være, på en annen måte så er det. 

Silvija: Det er kanskje ikke så veldig AI heller.

Ole: Det er akkurat, det er veldig uklart hva som egentlig er under the skin for å si det sånn, og hvor mye AI det egentlig er, det er delvis en sånn PR-jippo. 

Silvija: Det er ofte det det er, det er mye gimmicks også er det vanskelig å kjenne igjen partene, men jeg spurte deg: «hvor skal vi gå for å lære mer?» annet enn å komme til open AI lab som dere må åpne opp enda mer tenker jeg, men du nevner sånne ting som Modelling and Reasoning with Bayesian networks, den tror jeg vi kommer tilbake til i neste podcast med deg som blir nivå 200, men så nevner du the master algorithm.

Ole: Ja, den boka synes jeg er veldig god av Pedro Domingos. Han er jo en professor som også gjør forskning på AI, så det er på en måte en bok som er skrevet for de som ikke nødvendigvis har den bakgrunnen til å glede seg over de mer dype fagbøkene da, samtidig synes jeg den er såpass enkel å skjønne tror jeg. Hvert fall for de aller, aller fleste. Så de kan dra nytte av den selv om man ikke har en master eller en doktorgrad i computer science eller AI.

Silvija: Ja, og selv det er et tema vi kunne gravd inn i, så hva skal man kunne når man kan AI, for det er ganske mye forskjellige, altså man kan rote litt med psykologi og ja. Det blir nivå 300 i podkasten. Du, hva skal folk huske fra denne samtalen vår? 

Ole: Jeg synes det at, AI er jo et veldig komplisert problem kan du si, og jeg tror ikke at vi er der på noe som helst måte enda. Det er mange ting som må gjøres, mye forskning, mye utvikling, men vi er nå på et sted hvor vi kan løse mye mer kompliserte problemer enn som AI begynte med på 60- 70-tallet. På en annen side så er det veldig mange som sier at AI er veldig skummelt, AI er noe av det verste som holdte jeg på å si har skjedd menneskeligheten. Det tror jeg ikke er tilfelle heller, men vi må på en måte være noe mer kritiske tror jeg, til AI, som til annen teknologi. Samtidig må vi benytte oss av de mulighetene som er der og jeg tror det er en veldig spennende tid for AI i verden og i Norge og det er mange muligheter for studenter og andre å bli med på AI evolusjon.

Silvija: Så Ole Jakob inviterer oss til å være aktive og kunnskapsrike teknologirealister, for å kunne mene noe relevant, egentlig om alle de gode diskusjoner som kommer opp nå om AI og etikk blant annet.

Ole: Absolutt! 

Silvija: Det sier jeg amen til. Tusen takk Ole Jakob Mengshoel, fra Department of computer science, instituttet for datavitenskap ved NTNU for at du kom og lærte oss om AI.

Ole: Takk så mye!

Silvija: Og takk til dere som lytter!

Du har nå lyttet til en podcast fra Lørn.Tech – en læringsdugnad om teknologi og samfunn. Følg oss i sosiale medier og på våre nettsider Lørn.Tech.