Velkommen til Lørn.Tech en læringsdugnad om teknologi og samfunn med Silvija Seres, Sunniva Rose og venner. 

Torgeir Mikalsen: Hei dere og velkommen til lørn.tech. Jeg heter Torgeir Mikalsen. Morten Goodwin du er professor på Universitet i Agder. 

Morten Goodwin: Jeg blir aldri lei meg når noen kaller meg professor. 

Torgeir: Associate professor da. Snart professor kanskje?

Morten: Får håpe.

Torgeir: For du underviser i kunstig intelligens. Det er ditt ekspertområde. Når studentene på bachelor på en eller annen studieretning kommer i forelesningssalen første dag på høsten forventningsfulle og tenker ‘kult nå skal jeg lære om kunstig intelligens’ hvor begynner du da?

Morten: Ja, det er jo mange steder man kan begynne. Men får å lære om kunstig intelligens (som er en del av datastudiet) så må man lære det grunnleggende om data. Det å programmere osv. For kunstig intelligens er egentlig ikke noe annet en dataprogrammer. Det er dataprogrammer som er bygget opp på en litt spesiell måte. Ofte i media som fremstilles som nesten beviste roboter, men sannheten er at det er dataprogrammer. Så å lære om kunstig intelligens må man lære om data programmering. 

Torgeir: Så det du egentlig sier er at de av oss som går rundt og mener litt om kunstig intelligens både farer og muligheter. Det gjelder alt fra næringsliv til politikk. Vi burde begynne med å lære oss grunnleggende programmering (koding). 

Morten: Det spørs jo hva man har behov for å lære. Men det er ikke sånn at alle trenger å programmere. Slik som at alle tenger ikke å skjønne hvordan en bil fungerer får å kjøre en bil. Man bruker det. Vi trenger ikke å skjønne kunstig intelligens får å bruke det på Facebook eller Netflix eller hvor som helst. Viss man skal skjønne detaljene rundt det eller lage det så må man skjønne programmering. For det handler om a lage data programmer. 

Torgeir: Nettopp. Hvorfor er det så vanskelig dette? Altså, kunstig intelligens beriker jo livene våre allerede i dag. Uten å være klar av det, fra når man åpner Facebook og oppdaterer deg på hva venene dine har gjort til noen av oss har plutselig blitt veldig glad i bilkjøring etter at semi-selv kjørende teknologi har blitt introdusert slik at vi slipper å holde rattet i kø. Er eksempler på hverdagsbruk av kunstig intelligens. Men allikevel så har vi liksom ikke løst kreftgåten. Du skjønner hvor jeg vil hen. Hva er det som er så vanskelig?

Morten: Grunnen til at det er vanskelig er at intelligens er vanskelig. Det er noe av det beste med mennesker som vi skal etter kappe på en eller annen måte som er kompleks. Det er som å lese en tekst for eksempel som trenger mange års læring for et barn og er egentlig bare oss mennesker som kan gjøre det. Det er veldig komplekse mønstre.

Torgeir: Det er en grunn til at mennesker ikke kan lese før de har lært seg å lese?

Morten: Riktig, så det må læres. Veldig mye av det vi mennesker gjør må læres på en eller annen måte. Slik er det med kunstig intelligens også. De må lære, å da dytter man gjerne inn data og ofte jo mere data man dytter in jo bedre blir det sånn generelt sett. Da klarer den å trekke ut mønsteret i dataen fordi det er det den egentlig gjør da. For å lese en tekst for eksempel da tenker den at det er relevant at det er verb, subjektiv osv i en setning. Da er det viktig at man påser på med store mengder data. 

Torgeir: Men..jeg har lært i løpet av både denne podkast serien og før at vi nesten har ubegrenset tilgang på data nå. Vi har maskin kraft større en noen gang og billigere en noen gang før. Allikevel så opplever vi at programvare eller kunstig intelligens ikke forstår bæret av en tekst. Det gir fortsatt ikke helt mening til meg?

Morten: Det er flere grunner her. Det er ikke alle som har tilgang til en stor mengde data. De er kun forbeholdt til noen få som Facebook og Amazon og de aller store. Mens vi andre har egentlig begrenset oss med å si at vi skal samle så lite data som mulig slik det står i GDPR osv. Så når Facebook maksimaliserer data mengden sin så skal egentlig alle vi andre minimalisere data mengden vår (lage så lite som mulig). Det er ikke sånn at alle har tilgang til enorme mengder data. Det er heller ikke sånn at alle har tilgang til enorm data kraft, det er også dessverre forbeholdt til de aller største. Det er ikke sånn at «jeg» har den store datakraften. Men selv med data og selv med datakraft så har vi ikke løst slike ting som å holde en samtale, kreftgåten osv. En av grunnende er at kunstig intelligens trenger my mer data en oss mennesker. Jeg kan lære av et eller to eksempler mens kunstig intelligens trenger kanskje millioner av eksempler på det samme. Da er det slik som kreft og sykdommer (som man heldigvis) ikke har så mange eksempler på som gjør at man trekker ut relevant data.

Torgeir: Det er kanskje en myte eller en miss forestilling enkelte av oss har. Nå har jeg godt mange av foredragene og til og med hørt deg forelese om mulighetene og begrensningene om kunstig intelligens. Jeg har hørt mange andre eksperter som sier at noe av det som skjer er kombinasjon av data menge, data kraft. Jeg hørte en fra Microsoft her om dagen som brukte eksemplet på en kunstig intelligens prosjekt i statens lånekasse. Hvor de hadde brukt en teknisk rigg på 144 GB minne med 72 kjerner hardware. 350 kr dagen for å leie dette i Microsoft Azure. Det hørtes ikke så kjempe dyrt ut. Men det er veldig interessant det du sier at det er ikke sikkert det stemmer helt da. Fordi det er så ekstreme mengder data og kraft du trenger for å løse det menneske hjernen basert på kontekst og intelligens klarer å forstå ganske raskt. 

Morten: Man kan se på det på forskjellige måter. Vi mennesker har lært helle livet. Helt fra vi ble født har vi opplevd samtaler eller sett med øynene våre. 

Torgeir: Vi har blitt utsatt for data

Morten: Helle tiden! Hvert mikrosekund av vår våkne tilstand. Det er ganske lite i forhold til det vi mater de største data menge viss man tenker sånn. Men så er det noe annet. Disse nevrale nettverkene som er de beste kunstig intelligens algoritmene i dag. De som har fått den mest og beste hypen.  De er ikke som hjernen. Det er noe forskjell.

Torgeir: Nevralt nettverk sier du?

Morten: Et nevralt nettverk er en type algoritme i et data program. En av de algoritmene som dominerer kunstig intelligens verden. Alt man ser av bilder, søk på Google, åpning av telefonen min med iPhone X (face unlock). Det meste man ser av samtale roboter.

Torgeir: Er basert på nevralt nettverk som er en samling av kode?

Morten: En samling av kode. Men en gang i gamle dager var det inspirert av hjernen så derfor har man sånn hjerne ord som nevrale synapser osv. Det er den algoritmen som dominerer kunstig intelligens i dag. Den ligner litt på hjernen sånn men den er veldig langt unna en hjerne. Det er noe annet. Derfor er det ikke sånn at man kan dytte samme menge data i meg (et menneske) som man kan dytte inn i den algoritmen å forvente det samme. Det er det samme. 

Torgeir: Før vi går videre. Akkurat dette begrepet om at vi bruker menneske begreper, (antonym?) menneske, egen navnene og puter det på kunstig intelligente tjenester. Jeg føler at jeg blir sur når noen prøver å fremstille en tjeneste som helt åpenbart ikke er et menneske. 

Morten: Jeg får litt vondt i hjerte når jeg ser det.  Fordi det gir et inntrykk av at kunstig intelligens som ikke er der. Roboten Sofia som mange kanskje har hørt om som er en nesten intelligent virker det som robot. Men som egentlig er en masse regler osv. Den roboten og mange andre er sånne ugle-sett i akademia, fordi kunstig intelligens er noe helt annet. 

Torgeir: Altså. All ære til kommunene som har prøvd seg på varianter av chatbots. Du har blant annet denne ‘kommune Kari ‘som er et kjent eksempel. Noen hadde testet den her om dagen og spurte den om den kunne komme og klippe gresset hvor den hadde svart her er nummeret til krisesenteret. Den framstår ikke helt intelligent. Men kommer det nå raskt til å bli mye bedre?

Morten: Ja det kommer definitivt til å bli mye bedre. Men det du sier her er veldig viktig fordi vi har en tildens til å måle den til en nesten umulig målestokk. Vi forventer oss at ‘kommune Kari’ er like intelligent som et ekte menneske man snakker med. Det er det samme med selv kjørende biler heller hva som helst. Man forventer at de skal være helt ulykke frie. Man forventer at en algoritme som gjør diagnose skal være helt perfekt. Men jeg forventer ikke at enhver sjåfør skal være perfekt eller en lege skal være perfekt. Så jeg skjønner ikke helt hvorfor vi måler kunstig intelligens mot denne umulige perfekte målestokken. Det er det du er lite innpå at viss vi gir den menneskelige navn fordi man forventer at den skal være akkurat som oss mennesker. Men vi vett alle i hvert fall vi som jobber med det at det er noe annet mennesker. Men jeg skjønner godt at vi er sosiale mennesker og at det er hyggeligere å snakke med Kari en robot123 osv. 

Torgeir: Jeg synes det er super interessant. Vi hadde en tidligere gjest her. En som jobbet i NRK beta som skrev en tekst i går om hvorfor han ikke brukte Google sin assistent. Hvor man må si «Ok, Google!» altså den globale merkevaren. Men han syntes det var mere naturlig å si «Alexa» til Amazon. ‘This is still up for debate’ tror jeg vi kan konkludere med om det er bra eller dårlig å gi den menneskelige trekk. Men det er noe hvert fall noe med realitetsorientering på hva som er standard vi skal sette på som er ditt poeng. Hvor vi har litt å gå på da. 

Morten: Siden vi er sosiale vesner så skjønner jeg godt at vi ønsker å interaktivitere; snakke med disse på sosiale måter. Da er det fint å si «Alexa» for eksempel fordi det ligner jo litte gran. 

Torgeir: Du er jo som mange av oss optimistisk på vegne av teknologiens muligheter for en bedre verden. Mindre friksjon i kunde opplevelser. Veldig mange muligheter. La oss snakke litt om ditt blikk på faresignalene eller der det er fall gruver. Vi har jo hatt diskusjoner om hvordan er det Mimibank for eksempel fra politikk. Hvordan skal vi forholde oss til et etisk framover verk på hvordan man skal regulerer eller hvert fall ha en etisk samtale, moralsk samtale; hva som er greit eller ikke greit innenfor bruk og utvikling av algoritmer. Hvordan snakker du med studentene dine om det?

Morten: I dag er det sånn at det er ingen etikk eller moral bygget inn i de kunstig intelligens algoritmene. Man har sett mange eksempler på chatbotter som har blitt rasistiske eller i forbindelse med HR (ansettelse) hvor man prioriter hvite menn til ledelse fordi det er det all dataen sier.  Vi vet jo selvfølgelig at kvinnelige kan lede selvfølgelig kan de det. Man all dataen man dytter inn er eksempler på det motsatte dessverre. Sånn er det at kunstig intelligens blir akkurat så god som den dataen vi har. Selv om vi vet at den gjør moralske feil ting så klarer ikke den kunstige intelligensen å plukke det opp på den måten. Når du går in på regulering så er det også et veldig vanskelig område. Man kan si at man regulerer bort atom våpen for eksempel. Men den algoritmen som er for å kjenne igjen ansikter som typisk ville bli brukt til atom våpen brukes akkurat til kreft diagnose for eksempel. Så viss man skal regulerer bort den algoritmen regulerer man også de absolutt veldig positive tingene. Så jeg ser ikke noe veldig tydelig måte å regulere vekk de vonde sidene av kunstig intelligens i dag. Fordi det er et verktøy som kan brukes til veldig gode ting eller veldig vonde ting. Det er de samme algoritmene som brukes over alt. 

Torgeir: Hva sier du da. Vi står igjen med det som er menneskets våpen, refleksjon, samtale, dialog, debatt, åpenhet. Jeg har ofte vært en kritikker av mitt gamle parti, meg selv og politikken stamme i Norge om at vi av og til lar det gå alt for lang tid før vi forstår hva som er i ferd med å skje ... så blir politikken liksom halsene etter teknologisk utvikling særlig da. Også blir det galt. Eller eksemplet hvor vi for noen år siden lagde nye prinsipper for prioritering; hvem som skal få behandling på hvilket tidspunkt og rekkefølge bestemmelse. Så kan man tror jeg både få hjelp av kunstig intelligens, matematikk og sakeligge objektive kriterier. Men vi kom til at på tross av et sånn nesten perfekt system så måte du ha et element av skjønn rett og slett fordi vi er mennesker og at matematikken ikke kan styre oss alene. Det er kanskje litt av samme inngang man kan ha til kunstig intelligens feltet da som et støtte verktøy. 

Morten: Det er helt klart sånn. Veldig ofte er det beslutnings verktøy som du sier. Fordi matematikken er sentralt her fordi det må defineres matematisk på en eller annen måte. Viss du ser på disse kunstige intelligensene som spiller sjakk for eksempel som kunstig intelligens gjør så er det veldig enkelt matematisk sett fordi man sier bare at den skal vinne. Så det er lett å definere matematisk. 

Torgeir: Enkelt å enkelt. Det tokk vel ganske mange år før «Deep Blue» hva det ikke det den het den datamaskinen til IBM som første gang vant. 

Morten: Det er ikke enkelt å lage algoritmene. Det er enkelt å definere vinnings kriterier. Å skjønne om man har vunnet i sjakk er veldig forskjellig en å spille sjakk.

Torgeir: Nettopp ja. Så utfallet er ja eller nei. Enten så vinner du eller så taper du. 

Morten: i samfunnspolitikken da. Hva er positiv poltikk. Hva er det som er godt med å jobbe, ikke nødvendigvis det alene. Heller i utdanning for eksempel. Er det mest mulig folk som går gjennom utdanningsforløpet som er det positive. Sånn er det man må definere når man definere konstig intelligens. Man må si det er det matematiske du skal optimalisere mot. Det er det du skal forbedre på en eller annen måte.

Torgeir: Men sett at vi hadde satt et mål at vi skal øke den maksimale lykken og levealderen til alle i Norges befolking. Vær så god her forsker og her data scientist. Kan dere vær så snill komme opp med en algoritme som trekker oss den veien.

Morten: Vel det er vanskelig ...

Torgeir: For kompleks, for umulig?

Morten: Ja for kompleks for da tar du helle samfunnet inn i bildet. For da må man få sånn bi effekter osv. Men mye av det handler om egentlig individualisering fordi det er det kunstig intelligens handler om. Det er det som skjer i Facebook, Amazon, Netflix osv. Noe av det jeg har snakket om før er at det er veldig rart at vi i undervisnings sammenheng eller samfunn sammenheng har disse modellene som skal treffe alle. Jeg underviser mine 200-250 studenter. Alle sammen skal ha akkurat de samme oppgavene. Men jeg vet at det er individer. Hvorfor er det slik at de skal ha samme oppgave? De har alle forskjellige kompetanser behov osv. Det er typisk eksempel på hvor kunstig intelligens kan gjøre det velig bra. I samfunnet som du snakket om er det rundt 20% tror jeg som faller ut etter videregående. Det er selv følgelig ikke på grunn av at de er idioter av en eller annen grunn men fordi de treffer på en eller annen måte. Da kan man bruke kunstig intelligens for å treffe disse menneskene individualisere. Det er det Mark Zuckerburg greier med Facebook. Da bør vi tenke på de samme i de viktigste samfunns institusjonen våre som utdanning blant annet. 

Torgeir: Så når vi igjennom Lørn.Tech eller Lørn podkast seriene våre har satt et dugnads initiativ til å øke kunnskaps nivået på nye teknologier så har vi valgt det med å ha veldig mange gjester og ikke få. Fordi vi tror det er litt ulike behov hos ulike. Så der har vi truffet planken. Vi skal runde av nå hvert øyeblikk. Men dette elementet av å bruke det aller beste av dagens best ‘practice’. Hvorfor vi opplever at vi blir sugd av Facebooks applikasjonen er jo som du beskriver presist det som personlig, tilpasset til mitt behov. Som er litt farlig men oppleves som veldig tilfredsstillende. Nå som minne sønner har begynt skole kan oppleve litt mer av en personlig tilpassende underving på data drevet kunstig intelligens. Det hadde vært et bra prosjekt for landet eller verden?

Morten: Det hadde absolutt vert veldig bra. Norge selv følgelig men viss du tenker på hele verden så mange som sitter med mobiltelefonen sin i India for eksempel som ikke har tilgang på skole. Kjempe fin måte å tilpasse akkurat hva slags undervisning du skal ha. Det er rart med Norge at vi går så lenge på skolen du tar en treårig bachelor eller en femårig master og da blir man ferdig. Men alle vet at slik er det ikke.  Det å ha en livslang læring som dere jobber med er jo noe av essenes med samfunnet vi er i nå og som kommer og da tror vi må prøve å tilpasse på hva jeg trenger og du trenger for å øke kompetansen. 

Torgeir: Veldig bra. Til slutt bortsett fra å høre helt åpenbart på dine foredrag og være podkast serie. Hva vil du tenke viss du ikke er gira på å ny mastergrad eller fag på universitetet. Hvor er det man finner kunnskap om kunstig intelligens for eksempel på nett.

Morten: Det er bare et Google søk unna så finner man masse. Bjørkins bok ‘Kunstig intelligens’ er fin en. ‘The book of why’ som handler om begrensinger va kunstig intelligens er veldig bra og viss man går litt mer i detalj så er det en bok heter ‘Deep Learning’ som har blitt standard for boken innen kunstig intelligens i det siste. Men den er veldig mye mer teknisk viss man har lyst til det. 

Torgeir: Morten Goodwin tusen takk for at du stilte opp og takk for at du hørte på.

Du har lyttet til en podkast fra Lørn.Tech en læringsdugnad om teknologi og samfunn.  Følg oss i sosiale medier og på være nettsider Lørn (dot) Tech.