LØRN case C0880 -
LØRN. SME

Morten Goodwin

Forfatter

Humanistforlag

AI

I denne episoden av LØRN bokbad snakker, Silvija Seres, med forfatter av boken AI. Myten om maskinene, Morten Goodwin. Morten savnet en bok av den typen han har skrevet selv, og mener mange av de populærvitenskapelige bøkene og dokumentarfilmene om kunstig intelligens bygger opp myter omkring kunstig intelligens. Han ønsker å snakke om AI ikke med hokus pokus-formler, men som våre faktiske forsøk på å skape intelligens i maskiner.
LØRN case C0880 -
LØRN. SME

Morten Goodwin

Forfatter

Humanistforlag

AI

I denne episoden av LØRN bokbad snakker, Silvija Seres, med forfatter av boken AI. Myten om maskinene, Morten Goodwin. Morten savnet en bok av den typen han har skrevet selv, og mener mange av de populærvitenskapelige bøkene og dokumentarfilmene om kunstig intelligens bygger opp myter omkring kunstig intelligens. Han ønsker å snakke om AI ikke med hokus pokus-formler, men som våre faktiske forsøk på å skape intelligens i maskiner.
Facebook
Twitter
LinkedIn
Email

34 min

Choose your preferred format

Velkommen til Lørn.Tech - en læringsdugnad om teknologi og samfunn med Silvija Seres og venner. 

 

Silvija Seres : Hei og velkommen til Lørn bokbad. Jeg er Silvija Seres og gjesten min i dag er Morten Goodwin, som har skrevet boken AI: Myten om maskinene.

 

Morten Goodwin: Hei.

 

Silvija: Hei Morten! Velkommen! Det er veldig hyggelig å snakke med deg igjen. Vi snakket om kunstig intelligens for en stund siden, men det var før boken kom ut. Før jeg spør deg om hvem du er, igjen, så har jeg lyst til å spørre deg, hvorfor følte du at du måtte skrive boken din?

 

Morten: Ja, så hovedgrunnen til at jeg har skrevet boken er jo opplysende. Det er mye snakk om kunstig intelligens, og det er mye snakk om myter om kunstig intelligens og debatter om jobber som forsvinner, super intelligens og alt mulig sånt. Så det jeg ønsket det var å ha en forklaring på hva kunstig intelligens er, sånn at disse debattene som går over alt får litt mer mening. Det er lettere å snakke om alle disse store tingene som jobber som forsvinner, et cetera, hvis man ordentlig forstår hva kunstig intelligens er. Det er mange debatter der ute som ikke har det som grunnlag. Så Lørn er nok et unntak, for dere er veldig opplysende. Veldig mange andre snakker de om store ordene hele tiden, uten å forklare det grunnleggende. Og det på en folkelig,morsom måte håper jeg boken er.

 

Silvija : Ja, for det kan være overveldende å føle at man må ta et litt tungt Coursera kurs for å begynne å programmere med ett eller annet som har med kunstig intelligens å gjøre. Poenget her er at folk skal skjønne hva det er, hva det kan brukes til og hva vi skal passe oss for.

 

Morten: Helt riktig. Ingenting i veien med å ta et Coursera kurs, men det er ikke for alle. Det er ikke alle som har lyst til å begynne å programmere å grave i disse dype nettverkene. Allikevel da, når det er en så viktig teknologi som påvirker oss allerede så mye og kommer til å påvirke oss fremover, så syns jeg det er viktig å være opplyst om hva det faktisk er, denne kunstige intelligensen.

 

Silvija: Jeg tror du har en helt perfekt innfallsvinkel her,fordi jeg tror det som er veldig viktig er for oss alle sammen å forstå at kunstig intelligens kommer til å være et verktøy,som vi ikke kan la være å bruke. Like lite som vi kan la være å bruke en bil, selv om vi har noen reservasjoner om både klima og diverse andre ting med bil. Så det blir så effektiviserende at vi skal alle være brukere. Det betyr ikke at vi trenger å kunne programmere. Vi må bare vite hva det verktøyet skal brukes til.

 

Morten: Veldig godt sagt. Og hvis man snakker mer om bil, så er det jo sånn at det er noen som forstår veldig godt detaljene rundt bil. Girkasse og motor og så videre. De aller fleste de kan kjøre bil og trenger ikke mer forståelse enn det, men allikevel så er det litt nyttig å skjønne hvordan giret og gassen og sånt fungerer også når det går noe galt, så kan man snakke med en mekaniker som kan fikse ting. Ikke alle trenger ikke den mekaniker kompetansen, men forstå bil og forstå kunstig intelligens og teknologi synes jeg er helt vesentlig.

 

Silvija: Vi trenger et lite førerkort for AI. Og kanskje er det noe vi skal gjøre sammen, Morten?

 

Morten: Ja, det hørtes veldig gøy ut. Førerkort i en forståelse av bruk av kunstig intelligens, synte jeg høres kjempebra ut.

 

Silvija: Veldig. Og så må man ikke bryte altfor mange fartsgrenser da.

 

Morten: Ja, det må man passe på.

 

Silvija: Å ikke kjøre under påvirkning?

 

Morten: Ja, det er helt riktig. Og de fartsgrensen da, hvis vi fortsetter den analogien. Så er det jo selvfølgelig sånn at man kan gjøre mye slemt og dumt med kunstig intelligens, men det bør ikke overveie at man faktisk kan gjøre mye godt med det også. Man må se på både den positive tingen, alt fra medisinsk diagnostikk og alt det der, og de negative bitene som autonome våpen, overvåking. Og jeg prøver da å ha en mer balansert tilnærming til dette. Dette er kunstig intelligens, det kan brukes til de onde tingene her, og det kan brukes til de gode tingene her. Så må det være opp til oss å velge å bruke det til de tingene som vi synes er bra.

 

Silvija: Så tilpasse farten eller tilpasse målene, egentlig, utfordringene. Og det som du sa nå er utrolig viktig, tror jeg. Det er noen som mener at teknologi er bra, noen som mener at teknologi ikke er bra, men teknologi er i grunn helt nøytralt og får en farge avhengig av den som bruker den. Og da er det veldig viktig at de gode og kanskje de som styrer samfunnet enda viktigere vet hvordan den kan brukes.

 

Morten: Absolutt. Ofte så ser vi eksempler på at man mister kontroll, men teknologien er jo akkurat som du sier, helt nøytral. Men den mates med data, og den dataen er jo ikke nøytral, veldig ofte. Og når vi ser de tilfellene hvor kunstig intelligente algoritmer og sånne maskinlæring algoritmer blir trent og er diskriminerende eller enda verre, så er det jo i nesten alle tilfeller dataene vi dytter inn som har en bias i seg. Når ansettelses algoritme velger å fjerne alle kvinner fra ansettelses fristen, for eksempel, så er det jo teknologi firmaene tidligere som ikke har ansatt nok kvinner.Og så trener de opp algoritmen etterpå, det er ikke AI'en sin feil når den gjør alt dette her.

 

Silvija: Og det syns jeg er veldig spennende. Fordi alle disse diskusjonene om AI gone wrong. Er egentlig bare eksempler på at maskinen lærer av mennesker, og det er vi som ikke alltid har de beste holdningene, som vi bare mater inn i maskinen via dataene våre.

 

Morten: Jeg kunne ikke sagt det bedre selv. Det er våre fordommer som vi putter inn i dataene også plukker kunstig intelligensen opp nøyaktig de samme fordommene. Den forsterker gjerne litt og for den finner jo trender som vi kanskje ikke hadde lyst at den skulle finne, og så presentere det utad. Og da må vi skjønne, hvordan kan dette skje? Hvordan kan vi unngå at det skjer? En måte å unngå at det skjer er jo rett å teste det ut. Funker det bedre hvis jeg ansetter en mann også prøver man å ansette en bedre kvalifisert kvinne. Og så sier den kunstige intelligensen nei, så er den for dårlig, og da må vi lage en ny en.

 

Silvija: Justere litt og. Det går an å vri på spakene underveis.

 

Morten: Har man litt kontroll på dataene man trener opp kunstig intelligens med, så blir den veldig bra. For det er jo en så god teknologi som jeg helt sikker på kommer til å være kjempe dominerende i veldig lang tid. Og da må vi være der. Ikke skremme folk med å si at her kan vi diskriminere, her kan vi lage våpen og her kan vi bli overvåket av amerikanske techiganter, men også gjøre veldig mange bra ting.

 

Silvija: Nå sa du noe kjempeviktig, at man kan justere, og så blir den veldig bra. Og det er sånn at den kan være veldig bra. One mans dream, another mans nightmare, så jeg tror det som er veldig viktig er nettopp det å forstå at vi må ha disse diskusjonene om hvilke resultater ønsker vi? Hvordan ønsker vi at denne AI'en skal oppdras nå, mens den er i ferd med å oppdras? For hvis ikke vi har de diskusjonene nå, så vil den være oppdratt av noen andre enn norske politikere og befolkningen, kanskje.

 

Morten: Og hvis vi velger å ikke være med å oppdra, så må man jo stole på de andre som gjør det. Som da er disse amerikanske tech gigantene, eller Kina som også dominerer masse i kunstig intelligens og det vil aller færreste. Men også det å tørre å ikke ha en helt umulig målestokk for disse kunstig intelligente algoritmene. Så vi har en tendens til å si at dette er teknologi og teknologi skal ikke feile, men så vet vi at disse algoritmene vil gi feil. Mange feil. Selvkjørende biler som kræsjer og det for tragiske forhold og diagnostikk systemer som gjør feil. Det vi må tenke på syns jeg, er det en forbedring selv om disse algoritmene gjør feil? Og veldig ofte, så er svaret ja det er en forbedring. Vi må tørre å si at ja, selv om vi har en nullvisjon med algoritme feil og algoritme bias. Av og til skjer det, og så kan vi forbedre. Kaste ut de algoritmene som ikke fungerer å bygge på nytt. Justere knappene som du sa, og få en mye, mye bedre verden.

 

Silvija : Veldig bra. Og det som er interessant her er at, som du sier, ingenting er ufeilbarlig, og maskinene gjør og feil. De kan kanskje lære raskere enn mennesker, og spørsmålet er om det er flere mennesker som blir drept av menneskelige sjåfører eller av selvkjørende biler i en ellers lik situasjon. Det er kanskje på basis av det vi burde ta noen avgjørelser om utrulling?

 

Morten: Ja, helt enig. Den kunstige intelligensen lærer jo i selvkjørende biler veldig raskt, og den lærer også kollektivt. Så hvis en Tesla kræsjer, så blir jo alle Teslaer litt bedre. Basert på de dataene fra den ene teslaen samtidig, så vil alle sammen lære av hverandre. Og sånn er det hvertfall ikke med oss mennesker. Så hvis jeg er ute å kræsjer bilen etterpå, så blir ikke du noe flinkere til å kjøre bil, hvis alle sammen hadde hatt selvkjørende biler så blir de jo bedre sammen. Så det er ikke bare at den lærer raskere, men den lærer og fra et distribuert system hvor alle får lov å bidra samtidig, og det åpner for kjempe muligheter.

 

Silvija: Litt sånn hivemind, som bienes felles intelligens som vi ser i spill her. Du, Morten, jeg pleier å spørre folk om hvem de er før jeg setter i gang med boken, det har jeg helt glemt for dette var så spennende å komme i gang med. Si noen ord om deg selv.

 

Morten: Jeg er professor i informatikk. Datalogi heter da i Danmark, der jeg studerte og jobber med kunstig intelligens. Jeg er med å driver et senter som heter Center for artificial intelligence research ved Universitetet i Agder. Der er jeg nestleder og underviser i kunstig intelligens på bachelor, master og doktorgradsnivå. Og er forsker, formidler og bruker mye av min arbeidstid på kunstig intelligens, nesten all tiden.

 

Silvija: Jeg syns dere har vært så utrolig flinke på Universitet i Agder, blant annet, med å aktiviserer studenter. Både i dette her mekanikk miljøet deres, men også i AI miljøet deres. Hvor de, hvis jeg har forstått riktig, kan gå ut å rådgi kunder om hvordan AI kan hjelpe bedrifter. Hvordan de burde tenke på AI. Og det er så kult.

 

Morten: Studentene er en av de, om ikke den viktigste ressursen vi på universitetene har. For det disse unge klare hjernene til å rådgi andre er jo helt opplagt, og vi har mye samvær med mekatronikk miljøet, roboter som beveger seg og så videre. Og mye av datakraften vi har er å samarbeide med dem. Så det er jo et samarbeid mellom akademia og næringslivet som er med på å knytte miljøet. Så samarbeid med næringsliv, helt sentralt i nesten alt de gjør, men også grunnforskningen som å finne på nye algoritmer som studentene tar en aktiv rolle i.

 

Silvija: Veldig fin balanse. Også har lyst å spørre deg om etternavnet ditt, Goodwin høres veldig engelsk ut, men du høres veldig norsk ut. Kan du fortelle litt om hvor du er fra?

 

Morten: Jeg er fra Tønsberg. Også flyttet jeg til Sørlandet i år 2000. Med den ambisjonen om være der i tre år, men så ble det jo kone og barn og sånne type ting. Så Goodwin er min tippoldefar som reiste fra Norge til England og historien vi er blitt fortalt, er at han var ute i en storm, og så fortalte han at den som redder meg nå den skal jeg være evig takknemlig for. Og så var det et lys fra Goodwin shore som lyste opp, og så tok han etternavnet Goodwin. Det er i alle fall historien vi har blitt fortalt.

 

Silvija: Det er en good story. Fortell oss litt om hvorfor du valgte det navnet på boken? AI myten om maskinene?

 

Morten: Ja, det er jo å bryte opp de mytene som allerede er der, og det er mange av dem. En super intelligens er en myte som ofte fremstilles. Vi er i ferd med å gå inn i en verden hvor robotene og kunstig intelligens får en så bra intelligensen overgår oss mennesker, og da er det over og ut med oss. Det er en sånn type myte. En annen myte er at jobbene forsvinner. Det finnes ingen tydelige tegn på at jobber forsvinner, noen jobber ble automatisert, og så kommer den nye hele tiden. Personvernet er borte på grunn av kunstig intelligens. Det er flere personvernutfordringer med kunstige intelligens, men personvernlovgivningen er så god som den aldri har vært. Og kunstig intelligens kan spille på lag der. Det er veldig, veldig mange myter som er der ute om kunstig intelligens. Og håpet mitt er det å bryte opp noen av disse og fortelle hva kunstig intelligens egentlig er, og den fantastiske teknologien du faktisk kan bruke den til.

 

Silvija: Hvis du må velge to bok innflytelser, altså andre bøker som har fått deg til å ønske å skrive en bok. Hvem ville du nevnt?

 

Morten: Ja, så den største innflytelsen det var nok Bjørkeng som skrev en bok for et par år siden om kunstig intelligens. Og jeg var så heldig fikk hjelpe til litt med det tekniske. Og da fikk jeg litt blod på tann for jeg har også lyst til å skrive en bok om kunstig intelligens, så det var ideen rundt det. Og kanskje dra det enda litt lenger og forklare enda litt mer og dra de store linjene. Det mange andre også. Judea Pearl har skrevet en bok som heter The Book Of Why, som er en veldig god forklaring rundt hva kunstig intelligens faktisk er, og hva som absolutt ikke går an med dagens algoritmer. Man får en forståelse av kausalitet, for eksempel, at dette påvirker dette er sånne ting som kunstig intelligens er kjent for. Hannah Fry er en dame som skrev en bok for kun en kort tid siden, så det var ikke en inspirasjon. Vi hadde begynt på den boken når jeg begynte å lese hennes. Men det er jo en utrolig god bok som heter Hello World som handler om mye av det samme.

 

Silvija: Veldig bra. Den er utgitt altså nå nettopp, hvis jeg har forstått riktig i oktober?

 

Morten: I oktober, ja. Så en knapp måned siden, så kom den ut fra Humanist forlag.

 

Silvija:  Fra Humanist forlag, riktig. Hvorfor Humanist forlag?

 

Morten: Det passer jo godt. Denne ikke religiøse humanistiske tanken rundt dette forlaget passer bra til en kunstig intelligens, tenkte jeg. Og så snakket jeg med flere som hjalp veldig god til for et år side, hvor jeg pitchet ideen frem. Vi kunne sikkert vært flere, men de passet veldig godt til meg.

 

Silvija: Ok, vi har igrunn snakket om hvorfor du måtte skrive denne boken. Den er at du ble inspirert, den andre er at du føler at det kanskje er litt vel mange myter som florerer, men også som kanskje hindrer vår evne til å ta i bruk denne teknologien.

 

Morten: Det er jo det. Fordi teknologiforståelse og teknologioptimisme er veldig mye en pendel. For en god liten stund siden så ble kunstig intelligens veldig populært, og så flyter det over av de mytene som jeg snakket om. Når folk skjønner at disse mytene ikke er sanne, så er det veldig lett å bli litt teknologipessimist igjen. Og det hindrer absolutt utviklingen. Man setter veldig, veldig høye ambisjoner på hva kunstig intelligens kan gjøre, og da er det dømt til å feile, tenker jeg. Så hvis du har mer realistisk forståelse av hva vi faktisk kan gjøre, så tror jeg eller er ganske sikker på at vi kommer mye lenger.

 

Silvija: Jeg lurer på om denne pendelen går tilbake til over optimismen nå igjen, på grunn av Corona?

 

Morten: Det kan godt hende. Vi har jo fått en teknologi push, et digitaliserings dytt siden Corona, enten vi vil eller ikke. Til en viss grad har vi jo skjønt at vi kan møtes digitalt, sånn som vi gjør nå, for eksempel. Hadde dette vært for ett år siden, så kanskje hadde reist inn til Oslo å sittet å snakket med deg. Og vi har jo sett hva teknologien faktisk kan gjøre, i løpet av dette siste drøye halvåret. Jeg tror det er mer det at folk har fått en forståelse for det som er mulig med teknologi, de som var teknologisk skeptiske. Jeg tror det hele tiden er en pendel som svinger, så folk blir optimistisk og så tenker de; jaja, kanskje jeg ble litt vel optimistisk. Og så blir man pessimistisk. Så kommer det noen fantastiske forskningsresultater som dytter de videre.

 

Silvija: Du sier at du vil snakke om AI, ikke med hokus pokus formler, men som faktiske forsøk på å skape intelligens i maskiner. Hvilke gode eksempler ser du der? Svært gjerne internasjonalt, men så kan vi gå kanskje litt nasjonalt, så folk kan huske det.

 

Morten: Ja, hokuspokus formler tenker du på det?

 

Silvija: Nei. Jeg tenker mer på gode eksempler.

 

Morten: Gode eksempler internasjonalt kan jo for eksempel være en kjent MIT forsker som etter Lex Fridman. Han har en podkast serie, som heter AI. Og er en veldig god forklarer av hva kunstig intelligens er. Den er litt som Lørn forklarer, snakker med forskere verden over og forklarer hva kunstig intelligens kan gjøre, og hva man absolutt ikke kan gjøre med bruk av kunstig intelligens. Så det er et kjente internasjonalt eksempel. Og boken til Hannah Fry som vi diskuterte akkurat, nok et eksempel på god formidling av kunstig intelligens internasjonalt.

 

Silvija: Jeg har lyst å bare spørre deg om to ting her. Det ene er Social Dilemma dokumentaren og det andre er Ihuman dokumentaren. Jeg har selv vært intervjuet for Ihuman, og opplevde vel egentlig at fra en ganske lang innledning som prøvde å balansere det gode og det onde, så ble det klippet ned til en setning hvor det stod at det er opp til oss . Jeg er enig med deg at de er begge to ganske negative. Si litt mer om hvordan man burde balansert dem bedre.

 

Morten: Begge filmene viser jo teknologien fra et ståsted, syns jeg. Og Ihuman for eksempel, har en veldig dystopisk tanke rundt kunstig intelligens, snakker mye om overvåkning og snakker veldig lite om de fantastiske fremskrittene som kunstig intelligens har gjort i det siste. Det blir veldig ensidig, synes jeg da. Og så syns jeg også at den blander litt eksemplene på kunstig intelligens som vi har i dag, smal kunstig intelligens som vi kaller det, som løser små, enkle problemer. Og de store filosofiske tankene rundt generell kunstig intelligens som kanskje, potensielt kommer om mange år. Jeg som fagperson skjønner veldig godt forskjellen på det, men jeg tror ikke alle som sitter og ser den filmen henger med på forskjellen på disse tingene, og det er veldig forskjell på en kunstig intelligens som gjør feil i en selvkjørende bil, for eksempel, eller sosial medium som tagger feil og en super intelligent robot som kommer om ti år, potensiell. Social dilemma gjør mye av det samme. Jeg er ikke uenig i det som sies, men de viser bare en side av en mynt. De snakker om sosiale medier nesten som dopavhengighet. Sånn kan det være, men sosiale medier er jo vært veldig gode i flere tilfeller de seneste årene. MeToo bevegelsen brukte sosiale medier veldig tydelig, og systematisk rasisme i USA brukte sosiale medier til å fremme dette. Og det er masse positivt man kan si om disse tingene også, i tillegg til de negative. Og igjen i en dokumentar, så tenker jeg at det er naturlig å se på begge sidene så er det opp til oss som ser på å være negative eller positive. Det prøver jeg å gjøre med boken min. Ikke bare snakke om det positive med kunstig intelligens, men si at her er disse slemme tingene som er Ihuman, men også de positive tingene. Så er det opp til politikere, forskere og de som driver med innovasjon i næringslivet og bruke det til de ting vi faktisk har lyst til.

 

Silvija: Jeg har lyst til å spørre deg, og dette er nesten et menneskesyn-spørsmål. For du og jeg lever og ånder egentlig denne teknologien, og vil så gjerne at alle skal lære seg. En klok venninne av meg sa "Men Silvija, du skjønner, teknologien utvikler seg så raskt, og vår forståelse går så sakte" Kollektiv forståelse og kunnskap om disse tingene. Folk har så mye annet i livene sine, og dette er bare enda en ting de bør gjøre og står kanskje ikke øverst på listen av ting de skal gjøre i dag. Hvordan får vi bygget nok nasjonal forståelse for denne teknologien?

 

Morten: Det var et godt spørsmål. Det handler mye om det, kanskje vi begge to gjør, det er formidling og fortelle at dette betyr noe. Dét er viktig, dette bruker du i dagliglivet. Og hvis du bare aksepterer at det går sin gang og ikke har noe mening om det, så har du ikke noe å si når det blir brukt feil om noen år, for eksempel. Ikke det at folk bør grave seg ned i teknologien for det har man egne utdannelse til å gjøre, og det er mange som bør gjør det, og det veldig fint. En god forståelse av hva det faktisk er og hva det absolutt ikke er. Så at man slipper å bli skremt når det kommer reklamer som fungerer helt fantastisk på sosiale medier, for eksempel, eller når hatytringer blir fjernet i det samme systemet av de sosiale mediene. Å forstå at dette er teknologi som vi skjønner og vi kan bruke, og at det ikke er noe mer skummelt enn litt avansert mønstergjenkjenning. Den kjenner igjen et mønster som du har gitt fra deg til Facebook og hva det faktisk betyr syns jeg er sentralt da. Enda mer i disse Corona tider, hvor veldig, veldig mye skjer digitalt, laget av de store tech gigantene. Hva er det vi egentlig gir fra oss? Hva slags data selger vi? Hva er det den dataen kan brukes til? Og hvordan kan det brukes av norske myndigheter på en annen måte?

 

Silvija: Kan ikke du gi meg dine tre favoritt myter som du buster i boka?

 

Morten: En av de myntene som er veldig utbredt er at vi ikke forstår hva kunstig intelligens faktisk gjør. Det ser jeg mange ganger. Det vil si at vi vet at kunstig intelligens gjør et eller annet, men så forstår vi ikke helt hva som skjer. Sannheten er at vi forstår veldig godt hva kunstig intelligens gjør. Det er ikke en stor, svart boks som mange tenker seg. Noen ganger kan det være litt vanskelig å forklare for allmennheten hva disse algoritmene faktisk gjør. Men vi som forskere og vi som utvikler den kunstige intelligensen forstår absolutt hva som skjer. Vi har kontroll. Hvis vi setter oss ned og jobber med en type myte. En annen myte er at kunstig intelligens fører til personvernets død, har jeg hørt mange steder. Man kan overvåke masse med data, men man kan absolutt få kunstig intelligens til å fungere veldig godt sammen med personvern og. Og en tredje myte er at kunstig intelligens aldri blir så flink som oss mennesker. Masse eksempler på kunstig intelligens som blir veldig, veldig god. Enten det er sjakkspill eller det er bildegjenkjenning eller tekstanalyse. Hvor man trener opp med menneskelig data, men så viser seg at den blir faktisk bedre enn de dataene man dytter inn og blir  kollektiv bedre enn alle dataene. Og blir bedre enn oss til hva enn det skal være. De mest kjente eksemplene er jo disse sjakkspillende algoritmene. Men så ser de akkurat samme algoritme, hvert fall med litt justering, finner bivirkning til medisiner eller oppdager en ny type antibiotika som den gjorde i januar. En fantastisk ting som teknologien kan brukes til. Ikke fordi vi mennesker har bedt intelligensen om å se etter spesifikke data, men fordi vi har dyttet inn masse data og så finner den ting som ikke vi klarer og mye bedre enn oss.

 

Silvija: Kult. Litt morsomt egentlig å ta et lite sidespor her å spørre deg; En av de store skuffelsene om AI har vært i forhold til Corona vaksine. Egentlig så er det ganske lett å se at vi hadde jo ikke noe data, og da er det umulig å forvente at AI skal komme opp med verken noe testing eller virus eller vaksine. Hva tenker du?

 

Morten: Dette handler jo om den pendelen som svinger. Folk har en kjempegod optimistisk forståelse av teknologien. Og så tenker jeg ja, nå kommer en pandemi. Nå må vi bare dytte på litt kunstig intelligens å løser det. Men majoriteten av kunstig intelligens er nettopp som du sier, den lærer av dataen. Og hadde det vært den fjerde, femte eller sjette pandemien vi hadde opplevd, så kan det godt hende at man kunne dyttet på kunstig intelligens å lært molekyl bindingene som trengs for å gjøre en vaksine. Men i første eksempel på at vi hadde kunstig intelligens som fungerer godt, så er det utenkelig å tenke at kunstig intelligens bare skal finne på en vaksine. Majoriteten av kunstig intelligens er jo det som heter maskinlæring som trenes opp av data. Og hvis vi ikke har data, som vi da ikke hadde før mars eller februar i år, så går det ikke an å få noe ut av den. Det er i hvert fall veldig vanskelig å se for seg. Så jeg skjønner at folk blir skuffet når det ikke kommer kunstig intelligens lansert vaksine. Det er jo da en myte igjen, man kan ikke bare helle på to kilo kunstig intelligens å forvente at det kommer noe ut. Man må ha en veldig presis beskrivelse av hva den skal gjøre og hva den skal lære.

 

Silvija: Der tenker jeg at vi kanskje har gått glipp av en fantastisk mulighet til å ha en data dugnad. Hadde vi brukt Smittesporing Appen og virkelig samlet data og test dataene og så videre. Så hadde vi kanskje vært litt mer Corona kloke.

 

Morten: Jeg tror også det, jeg mener at personvernet fikk veldig stor oppmerksomhet rundt den smittestopp appen og kunstig intelligens kunne hjulpet ganske mye til, hvis vi hadde samlet den dataen. Så personvern er kjempeviktig, men vi må ikke la det gå på bekostning av alt mulig annet, det er ikke personvern for alle pengene, alltid.

 

Silvija: Hvis vi skal huske én ting fra boken din. Hva vil du at det skal være?

 

Morten: Ja, si det. Kanskje  at kunstig intelligens er en fantastisk teknologi, men det er ikke noe mer enn en teknologi vi kan bruke. Den kan brukes på gode og onde ting, og det er et verktøy som vi kan benytte og ikke noe mer.

 

Silvija: Kan du velge et sitat fra boken for oss?

 

Morten: Et av favoritt sitatene mine, det er sagt av en som heter Raymond Mooney som kom for et par år siden og det er i litt sterkt, jeg vet ikke om lytterne tåler det. Det var en debatt på en kunstig intelligens konferanse hvor han hvor han sier "You can not cram the meaning of this whole fucking sentence into this single fucking vector" Så det sa han i en diskusjon. Så hva betyr det egentlig? Jo, det handlet om språk algoritmer, kunstig intelligens jobber med språk. Og så var ideen, kan du få en kunstig intelligens et dypt nevralt nettverk til å lære seg hva innholdet i en hel setning er. Det trodde han ikke noe på. Det går an å lære seg enkelte ord, absolutt. Så det var bevist, men å lære seg en hel setning å forstå hva en setning faktisk er, trodde han ikke noe på. Så dette var helt vilt. Det var bare tullball og fjas, mente han. To år senere så kom en gruppe Facebook forskere med en artikkel som het nøyaktig det samme, de kalte artikkelen " what you can cram into a single fucking vector"Nøyaktig det samme. Så er det vel litt rar tittel på en vitenskapelig artikkel, men da viste de at du kan trene opp en kunstig intelligens til å forstå innholdet i en setning. Og Raymond Mooney har måtte spise ordene sine, for dette var jo nøyaktig det han påsto at ikke var mulig. Så den vektoren den lærer, som er en matematisk liste. Den har han til og med på nettsiden sin. For å bare være helt klart på at det, der tok jeg feil. Kunstig intelligens teknologien går faktisk så fort at den klarer å forstå, selv de kompliserte tingene der.

 

Silvija: Og det er kanskje det jeg synes er hoved takeaway fra boken din. Og det er at vi spiser hattene våre og ordene våre hele tiden for tiden. For det går så mye fortere enn selv vi som jobber med kunstig intelligens, for en stund siden trodde var mulig.

 

Morten: Helt enig og det er akkurat det eksempelet viser. Hann som sitter så sentralt i den kunstig intelligens forskningen, kjempesterk forsker. Selv han blir overrasket over hvor fantastisk fort den teknologien går. Og da er det ikke rart at andre blir overrasket og.

 

Silvija: Siste spørsmål, hva blir ditt neste bokprosjekt? 

 

Morten: Jeg er jo primært forsker så dette var den første populærvitenskapelig boken jeg har skrevet.Jeg har mange ideer, så jeg har litt lyst å skrive en litt teknisk tung bok gjennom. Kanskje en lærebok i tematikken. Det er masse lærebøker som finnes der, men jeg fant ingen lærebok som passet i mine kurs. Så jeg har kanskje lyst til å skrive en som både tar for seg matematikken og programmeringen samtidig. Populærvitenskapelig så har jeg flere ideer der også. En av de jeg har tenkte på er noe i retning av ti algoritmer som påvirker deg i hverdagen som du kanskje ikke vet om. Enten det er i sosiale medier eller på smarttelefonen, eller som påvirke reklamen. Algoritmen som ligger skjult et eller annet sted og prøve å forklare hvorfor de er der.

 

Silvija: Det er en bok som ligner på det som jeg syns er helt fantastisk. Noe noe sånt som Algorithms to live by eller noe sånt. Og jeg har alltid jobbet med algoritmer, men vi har disse geometriske strukturer, disse datastrukturer som du gjorde diverse operasjoner med, og de klarte å forklare de viktigste. Jeg husker ikke hvor mange det er. Det er algoritmene fra data science. På en måte som ikke bare fikk meg til å elske å skjønne de algoritmene på ordentlig for første gang, men kanskje til å få en ny respekt for selve faget mitt som er data science. For det du opplever når noen forklarer disse algoritmen, å viser deg over alt i verden hvor dette her er veldig relevant. Det er at vi datalaoger, vi forstår store kompleksiteter, vi forstår veldig, veldig komplekse systemer på en måte som gir dem struktur og håndterbarhet. Og det tror jeg veldig mange sider av samfunnet trenger i dag også. Så en sånn bok må du skrive.

 

Morten: Da vi får prøve på det, det er jo en eksemplarisk bok å løpe etter. Men jeg er helt enig der, når man klarer forklare disse ganske komplekse algoritmene for en allmennhet. Så gir det både respekt for som har skrevet den, men også til selve algoritmene som er veldig bra.

 

Silvija: Morten Goodwin, tusen takk for at du var med oss i Lørn og introduserte boken din for oss.

 

Morten: Hjertelig takk.

 

Du har nå lyttet til en podcast fra Lørn.Tech - en læringsdugnad om teknologi og samfunn. Nå kan du også få et læring sertifikat for å ha lyttet til denne podcasten på vårt online universitet Lørn.University

 

Hva er det du ønsker å formidle med boken?

Jeg ønsker å ha en mer fornuftig diskusjon om kunstig intelligens. Det snakkes veldig mye om AI, men ofte på feil premisser.

For eksempel, AI overdrives ofte så mye at det aller mest ligner parodier. I boken forsøker jeg å bryte opp mytene om kunstig intelligens. Jeg forklare først hva kunstig intelligens er, og så ha en meningsfull diskusjon om kunstig intelligens på godt og vondt. Det inkluderer store tech-giganters makt, jobber som forsvinner, kinas overvåking, superintelligens.

Hvorfor måtte du skrive denne boken, nå?

Jeg vil snakke om AI ikke med hokus pokus-formler, men som våre faktiske forsøk på å skape intelligens i maskiner.

Jeg har savnet en bok av den typen jeg nå har skrevet selv. Mange av de populærvitenskapelige bøkene og dokumentarfilmene om kunstig intelligens bygger opp myter omkring kunstig intelligens. er litt lei på at kunstig intelligens framstilles som superintelligent og at roboter kommer til å ta over verden. Dette er skremselspropaganda og ofte renspikka tøv. Dokumentarfilmer som «Ihuman» og «Social dilemma» er typiske eksempler på filmer som gir et negativt og feilaktig inntrykk av kunstig intelligens.

Hva er det sentrale dilemmaet her for deg?

AI er et fantastisk verktøy, men langt fra perfekt.

Det er lett å måle de intelligente dataprogrammene mot en umulig målestokk, enten det er selvkjørende biler, ansettelsealgoritmer, snakkende roboter eller AI-baserte diagnoseverktøy. Når noen forventer feilfrie algoritmer, vil de bare bli skuffet.

Hva har du ombestemt deg om?

Som forsker er det veldig fristende å skrive detaljert om algoritmene. Det er litt skummelt å ikke forklare alt. Jeg håpet å skrive om kunstig intelligens på en lettfattelig og morsom måte slik at alle teknologinteresserte kan lese boken.

Gi oss dine 3 favoritteksempler fra boka?

Kanskje 3 myter som jeg forsøker å «buste» isteden?

  • Vi forstår ikke hva AI gjør: Mange tror at vi mangler innsikt i hvordan AI løser de oppgavene de mestrer. Det gjør vi veldig godt.
  • AI blir fort fordomsfull og diskriminerende: Det er masse eksempler på AI som gjør feil. Sannheten er at AI
  • AI vil aldri bli flinkere enn oss mennesker: Vi hører alltid «Shit in, shit out». Til en hvis grad stemmer det, men AI blir ofte bedre enn dataene vi dytter inn.

Hva vil du at vi skal snakke huske, om det er en ting?

I dag klarer de kunstig intelligente algoritmene oppgaver vi bare kunne drømme om for få år siden.

Algoritmene kan se, snakke og spille spill – i mange tilfeller bedre enn oss mennesker. Hver AI-innovasjon er som et lite trappetrinn fremover. Vi trenger ikke være dystopiske fordi noen bruker algoritmene til onde formål, og vi trenger ikke gi opp fordi AI noen ganger feiler. Vi må ikke glemme at vi allerede i dag har stor nytte av godt fungerende AI. Fagfelt etter fagfelt er i ferd med å bli revolusjonert. Det er absolutt ingen myte at kunstig intelligens fungerer og revolusjonerer.

Velg et kort favorittsitat fra boken.

Det må være Raymond Mooneys, “You cannot cram the meaning of a whole f*king sentence into a single f*king vector”, som viser noe av forskerenss manglende forståelse av sine egne teknikker. To år etter kom Facebook med en vitenskapelig artikkel med samme navn.

Morten Goodwin
Forfatter
Humanistforlag
CASE ID: C0880
TEMA: BOOKS AND NEW EDUCATION
DATE : 201127
DURATION : 34 min
LITERATURE:

Mange å velge mellom:Judea Pearl: Book of WhyHannah Fry: Hello worldMax Tegmark: Life 3.0

YOU WILL LØRN ABOUT:

Faglitteratur Digitalisering på arbeidsplassen
Omstilling
Økonomi
Kunnskap for fremtiden

QUOTE
"Jeg ønsker å ha en mer fornuftig diskusjon om kunstig intelligens. Det snakkes veldig mye om AI, men ofte på feil premisser"
More Cases in topic of BOOKS AND NEW EDUCATION
#C0135
BOOKS AND NEW EDUCATION
Samfunnet betaler når business feiler

Karin Berentsen

Gründer

Arct

#C0134
BOOKS AND NEW EDUCATION
Gamification Mindset

Ole Goethe

Professor 

Høyskolen Kristiania

#C0133
BOOKS AND NEW EDUCATION
Lek og lær med Kahoot!

Sigurd Ringstad

Head of Events i Kahoot!

Kahoot