Velkommen til Lørn.Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres, Sunniva Rose og venner.

Anne Worsøe: Hei og velkommen til Lørn. Jeg er Anne Worsøe, og jeg sitter her i dag med Per Kristian Bjørkeng fra Aftenposten. Velkommen.

Per Kristian Bjørkeng: Tusen takk for at jeg fikk komme.

Anne: Du har skrevet en bok om AI, så dette gleder jeg meg veldig til.

Per Kristian: Det var gøy rett og slett. Det er ikke så mange temaer som bare renner ned på papiret, men det var ikke vanskelig å skrive en bok om det. Og det var veldig gøy og mye engasjement rundt temaet. Det er litt sånn at folk ikke får helt nok, og det er jo litt spesielt da. Jeg har skrevet en bok tidligere også, men den uka her har jeg vært ute på fem forskjellige opptredener – Colosseum og spektrum, ja, det er spesielt altså. Og det er ikke et sånt typisk teknologisk tema egentlig. Det syns jeg ikke. Så det er noe annet her, det er noe som appellerer litt til folk. 

Anne: Ja, for dette er spennende. For du ser det da ikke bare fra teknologi-siden, men fra folke-siden.

Per Kristian: Absolutt.

Anne: Er du ikke teknolog av bakgrunn?

Per Kristian: Nei, jeg er jo journalist først og fremst, og så har jeg liksom litteraturvitenskap og sånt, men jeg har vært teknologisk interessert siden jeg bestemte meg for å egentlig bli ingeniør, gikk naturfaglinja og alt det der. Det ble journalistikken på meg, men jeg har drevet med forskningsjournalistikk og teknologijournalistikk helt siden jeg var 25 år omtrent. 

Anne: Så tilbake til hva det er med folk og AI, hvorfor er folk opptatt av det?

Per Kristian: Jeg tror det har litt å gjøre med fundamentale science fiction-forestillinger om hva dette her egentlig er, rett og slett. Og det som skjer nå er at det utvikler seg så raskt, og så begynner man å aktivere disse gamle forestillingene om hva dette kan føre til, og at det kanskje kan gå galt rett og slett. Jeg tror det engasjementet er delvis drevet av en frykt og en uro, men ikke bare det, også at vi ser praktiske nye funksjoner rundt oss, som kan tas i bruk. Og så er det litt annerledes, for det er jo en del etiske problemstillinger også her som dukker opp med teknologien, fordi plutselig har vi laget maskiner som gjør feil og som har fordommer som vi må håndtere og som vi må lage regelverk for. 

Anne: Hva er AI? Kan du forklare det?

Per Kristian: Det er jo veldig veldig mange ting, så jeg konsentrerer meg litt i boka om det vi kaller maskinlæring

Anne: Hva er maskinlæring?

Per Kristian: Jeg definerer hele AI-begrepet som datasystemer som vi kan trene til å gjøre oppgaver som vi ikke vet hvordan vi skal programmere dem til å gjøre det. Så det er fundamentalt annerledes enn hvordan vi er vandt til å behandle datasystemer, selv om dypest sett det bare er dataprogrammer. Men vi vet ikke hvordan detaljene virker og de gjør feil, og det er ikke sånn type bug-fiksing som vi er vandt til når datamaskinen gjør en feil. Her må vi begynne å trene på nytt, og det ligner veldig mye mer på hvordan vi forholder oss til for eksempel dyr enn 

hvordan vi forholder oss til datamaskiner. 

Anne: Det må du si litt mer om. 

Per Kristian: Nei, altså vi hadde en konferanse her på onsdag, Atech-konferansen, der en professor på 

MIT som heter Kate Darling brukte den sammenligningen, som jeg syns ikke er så dum. For dyr er på en måte noen litt uforutsigbare vesener, men som vi samtidig kan trene til å gjøre veldig mye som kan være nyttig for oss. Disse maskinene er ikke levende, det er viktig, og ikke biologiske, så det er veldig stor forskjell sånn sett. Men det er også litt lurt å tenke på det på en sånn måte, at de er litt fundamentalt annerledes enn tradisjonelle datasystemer, jeg tror det er mye av hemmeligheten bak. For folk og fagfolk som jobber med dette blir veldig opptatt av det, de syns det er et kjempespennende tema. Jeg ser at folk som går inn i det får en veldig tenning rett og slett, og det tror jeg er noe dypt menneskelig. For vi ser noe av oss selv her, vi ser en eller annen form for oppførsel, kanskje en form for primitiv hjerne. En forvridd utgave av oss selv, som ikke passer helt inn, men som vi kanskje kan bli litt kjent med. Jeg syns et viktig begrep å bruke er mønstergjenkjenning. Hvis folk i stedet for å tenke på kunstig intelligens tenker på begrepet mønstergjenkjenning, så faller veldig mye mer på plass føler jeg. For det er jo veldig mye det det handler om. Og det vi mennesker egentlig har gjort opplever jeg, er at vi har klart å gjenskape vårt eget persepsjonssystem, og det har blitt kjempebra. Det vi ikke har klart er det vi kaller for tenkningen. Fra 2003 fant jeg en bok fra Cambridge tror jeg, om intelligens, der det å oppfatte omgivelser blir sett på som en sentral del av intelligensen. Det vi opplever nå er at alt som blir standardisert blir utdefinert, så snart vil vi ikke lenger kalle maskinlæring for kunstig intelligens skulle jeg tro. Vi kommer til å gradvis utdefinere, fordi det blir standardisert, det blir liksom ikke så mystisk. Så det som vil gjenstå i framtida er de andre sidene ved den tradisjonelle menneskelige intelligensen. Men vi må bare erkjenne at dette har vært oppgaver som har vært forbeholdt mennesker utelukkende, fram til nå, og de kan gjøre ting som vi tradisjonelt har trodd var menneskelige bedre enn oss. Jeg har et bra eksempel her, for jeg viste på et foredrag to bilder av tilsynelatende to forskjellige personer som Google mener må være samme person. Og dette er to bilder av min sønn. Og bare en person av tusentalls som jeg har vist dette her til, er overbevist om at dette må være samme person. Og jeg mistenker at den ene personen gjorde det fordi han visste hva jeg holdt på å sette opp her. Fordi selv ikke jeg er egentlig sikker på at det bildet som er av ham som baby. Det andre bildet er et bilde der han hadde på seg massevis av maling og er helt ugjenkjennelig i ansiktet, og dette plukker Google opp allikevel og sier at dette må være samme person.

Anne: Så da er det altså ett bilde av han som baby og ett bilde –

Per Kristian: – er han 8 år.

Anne: – og google kjenner igjen at den nyfødte babyen og den 8-åringen er samme person. Wow.

Per Kristian: Tenk hvor mye jeg har sett på det ansiktet, og jeg kan ikke. Jeg forstår likevel at da er jo Google trent veldig på den oppgaven, men det er derfor jeg syns den definisjonen passer. Fordi vi vet ikke hvordan vi skal programmere et sånt system til å gjøre den oppgaven. Selv om jeg hadde all verdens programmerere hadde vi ikke klart å gjøre det. Det er styrken ved denne teknologien, at den kan kjenne igjen mønstre. Jeg har et annet eksempel som jeg syns er helt vilt. Det er interessant – hvem kan dette her tas i bruk av? For det har vært veldig sånn at nesten alle jobber i Google og Facebook. De har kanskje 80 prosent av alle maskinlæringsingeniørene i verden eller noe sånt. Det er i hvert fall veldig mange, de har titusener. Mens nå kommer de standardiserte verktøyene. Og da er et morsomt eksempel å trekke fram fra Tokyo, hvor en person har laget et prosjekt der han har gått rundt og lagret 50 000 bilder av nudelboller, og så har han tagget dem med GPS-posisjon. De er da fra 41 forskjellige identiske filialer av samme nudelsjappe i Tokyo. Og så trener han på det, også får han faktisk den algoritmen til å se med 95 prosent sikkerhet på usette bilder hvor den ble laget, altså på hvilken filial den ble laget. Så det er helt vilt. Og dette laget en person. Dette prosjektet her som første demoprosjekt, sånn som Google liker å trekke fram. For de har da laget det som heter Google cloud automl, som er da en drag and drop-utgave av denne teknologien, som gjør den tilgjengelig for alle. Pluselig så må du ikke rekruttere ti maskinlæringseksperter og holde på i mange måneder for å lage et sånt prosjekt, du kan klare det. Du skal gjerne ha litt peiling for å si det sånn, men terskelen senkes, så dette kommer vi til å se veldig mye mer av helt sikkert.

Anne: Wow, det var to helt eksepsjonelle eksempler faktisk. Men fortell litt om hvordan du egentlig oppdaget dette her, altså hvordan kom en journalist og litteraturviter på en måte borti..?

Per Kristian: Altså, jeg har jo jobbet med å skrive, og var blant de første til å skrive om internett i 1994, og har jobbet med digitalisering hele tiden.

Anne: Trodde du på  internett?

Per Kristian: Ja, jeg trodde på internett intenst. Det er selvfølgelig bare derfor man gidder å jobbe med sånne ting. Så jeg skaffet meg min egen studentbruker, for det var jo før du i det hele tatt kunne få en privat bruker på internett. Så jeg tegnet meg som student og gikk på lesesalen på datalabben i Trondheim og satt der og lærte meg før browserne kom og sånn. Så jeg har vært veldig opptatt av det, og i 2003 lagde jeg ett par saker. Da var jeg i California og så på det som skulle bli The Grand challenge, de første selvkjørende bilene der borte.

Anne: På Caltech i LA?

Per Kristian: Ja, og så på en sånn gammel dieseldrevet SUV som stod i et hjørne inne på universitetet der i en garasje, og oppgaven var å få disse bilene til å kjøre gjennom ørken. For det var jo strengt forbudt å prøve dette på offentlige veier. Den som kom lengst kom noen kilometer, og det var av 20 forskjellige lag. Den satt seg fast i en eller annen busk. Det var en veldig veldig annerledes verden ikke sant, og ja, så gikk det noen år så trodde jo Google på det. Men jeg må si at jeg så ikke dette her da. Jeg lagde også en sak om mer sånn nevromorf databehandling som det heter, som er det der med at man skal oppdra en datamaskin. Jeg syntes det var fascinerende å høre forskere som si at hvis vi bare kjenner, lærer en liten ting om hvordan ett nevron lærer noe, så har vi knekt koden og kan bare bygge en hjerne. Jeg syntes det var veldig fascinerende å skrive om det, men det var jo veldig science fiction-preget. Det var det veldig lenge, og jeg merket heller ikke hva som skjedde på 2000-tallet da det store gjennombruddet egentlig kom. Da var det jo et team som knakk koden på bildegjenkjenning, og i stedet for at man satt og prøvde å programmere hva en algoritme skal se etter klarte man å, ved hjelp av enorm datakraft som tidligere ikke har vært tilgjengelig, plutselig gjøre dette bedre enn programmererne. Det var jo det som var det store gjennombruddet. Jeg så jo ikke det heller da egentlig, så det var nok ikke før sånn 2015 at jeg virkelig begynte å skrive om det for alvor. Da skjønte jeg at – oi, i all verden, dette blir stort. 

Anne: Vi var litt innom det med etikk, og de fra MIT snakket vel kanskje også om det. Hva er de store utfordringene tenker du, eller bekymringene?

Per Kristian: Bekymringene er jo på kort sikt dette her at vi har skapt fordomsmaskiner. For fordommer er på en måte mønstre i oss selv. Det er sånne ting som gjør det interessant. For vi må se hva som egentlig er fordommene våre. Det er noe sant, og så er det også et skremmende potensiale til å dømme, forhåndsdømme. Og det brukes i et ganske godt eksempel syns jeg, på et veldig kontroversielt kinesisk forskningsprosjekt, der man tok bilder av 1500 dømte, merket dem med dømt, kriminell. Og så tar du like mange uskyldige, altså ikke kriminelle, og så trener du opp og sier til algoritmen – er det noe å kjenne igjen her? Hva er det mønsteret? Da kommer du opp med en treffsikkerhet på 89.5 prosent, hvis du har to bilder ved siden av hverandre, på at dette er den kriminelle, og dette er den uskyldige. Og da er det jo sånn at vi møter oss selv veldig i døra på hele likeverdet, som vi er så opptatt av, som er fundamentet for det liberale demokratiet egentlig – at alle skal få en sjanse. Men ikke bare det, det går også på dette med statistisk forståelse, at befolkningen må begynne å forstå statistikk. Altså, denne forskningen ble laget på et seriøst universitet, men den ble ikke engang publisert fordi den møtte en hel storm før den rakk å bli publisert, og en av grunnene til det er at vi forstår ikke egentlig statistikk, vi mennesker. Og hvis du tenker på virkeligheten er det jo ikke sånn hvis du går på gata at annenhver person er kriminell, nei, langt under en prosent er kriminell, kanskje 0,03 prosent i Kina – et tall som jeg har fått oppgitt. Det betyr at den 10 prosenten som den bommer på, fører til at man drar inn en hel massevis av uskyldige for hver eneste gang. Selv om du skulle ta i bruk denne meget tvilsomme teknologien da, så ville du likevel ha en enorm feilrate.

Anne: Men handler ikke det ikke om teknologien i seg selv, men hvordan man tar den i bruk?

Per Kristian: Jo, og derfor er det flere ting som er problematisk. Vi forstår ikke statistikk. Vi kan ta i bruk dette her på veldig problematiske måter.

Anne: Og sånn helt til slutt – oppsummeringskommentar fra deg, en siste setning?

Per Kristian: En siste setning? Jeg vil si det at jeg hadde litt frykt, og ganske mye uro, da jeg begynte å jobbe med dette her. Nå har jeg ikke noe frykt, men jeg holder litt på uroen. Jeg tenker det er lurt, og vil si at hvis noen sier at de vet hvordan dette her skal gå på lang sikt, ikke stol på dem. Men potensialet for å gjøre godt her er enormt. Det er fantastiske muligheter innenfor helsevesenet for å redde liv blant annet. Så vi har ikke noe annet valg enn å ta det i bruk. Det blir helt fantastisk, det tror jeg.

Anne: Tusen takk, Per Kristian Bjørkeng fra Aftenposten, og tusen takk til lytterne som hørte på. 

Du har lyttet til en podcast fra Lørn.Tech, en læringsdugnad om teknologi og samfunn. Følg oss i sosiale medier og på våre nettsider; Lørn.Tech.