“

Velkommen til Lørn.tech – en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.

Silvija Seres: Hei, og velkommen til Lørn Masterclass om AI og hjernen med Klas Pettersen, velkommen til deg også, Klas.

Klas H. Pettersen: Tusen takk, Silvija.

Silvija: Vi skal snakke om kunstig intelligens, artificial intelligence, AI, i relasjon til naturlig intelligens, prosesser som foregår i hjernen og hvordan dette her egentlig gjenspeiles i algoritmene og i anvendelser av de mest spennende kunstige intelligente systemer i dag. Klas, jeg skal si to ord om formatet før vi setter i gang, i tilfelle noen hører på oss for første gang i en Lørn Masterclass. Dette her er ment å være et to timers audio-kurs, som du kan høre på mens du kjører, mens du trener eller mens du vasker huset. Målet er å gi folk inspirasjon til å lære seg de viktigste trendene og teknologiene som er rundt oss i dag. Kurset er omtrent på to timer og er delt inn i fire halvtimers seanser, hvor første leksjon er en introduksjon om tema, andre halvtimen er eksempler, tredje halvtimen er en verktøykasse som kan hjelpe deg å komme i gang med tematikken, og den fjerde halvtimen, som ofte blir bare ti minutter, er en bitteliten workshop hvor vår master, i dette tilfellet, Klas, hjelper meg, en leder for en liten bedrift, om å forstå i praksis hvordan jeg kan anvende dette her. Da, Klas, er vi klare til å sette i gang med leksjon én, og første spørsmål er alltid: Hvem er du og hvorfor bryr du deg om denne tematikken? 

Klas: Et stort spørsmål. Bakgrunnen min, faglig sett, er hjerneforsker, så opprinnelig er jeg er fysiker, utdannet som sivilingeniør i fysikk, da studerte kvantemekanikk, relativitetsteorien, moderne fysikk, så det er den opprinnelige bakgrunnen, sivilingeniør. Så jobbet jeg en kort periode i et konsulentfirma, og etter det startet jeg en doktorgrad innenfor nevrovitenskap, hjerneforskning. Ikke bare nevrovitenskap, men teoretisk nevrovitenskap. Så jeg brukte den verktøykassen jeg hadde opparbeidet meg som fysiker, altså jeg brukte fysikk, matematikk og informatikk, for å prøve å forstå noe av det grunnleggende, hvordan hjernen fungerer, hvordan hjerneceller sender signaler mellom hverandre, hvordan de operer i et nettverk og hvordan man da fra å se noe, få visuelt input på øyet, prøve å forstå hva vi ser. Vi lever i en verden av rom og tid og navigerer rundt der, prøver å forstå egentlig hva som skjer i hjernen. Så det var ambisjonen min, der har jeg jobbet i mange år, 20 år, som hjerneforsker, cirka. Så ble jeg mer og mer interessert i kunstig intelligens, og da særlig den type kunstig intelligens som er relatert og inspirert rundt hjernen, kunstig nevrale nettverk, dyp læring. Det skjedde så utrolig mye spennende, feltet gikk raskere fremover enn både det jeg og veldig mange andre hadde sett for oss. Så kom det er par viktige gjennombrudd der, som gjorde at jeg etterhvert begynte å se meg etter jobber og forskningsprosjekter som gikk mer i retning av kunstig intelligens. Et par av de gjennombruddene regner jeg med at vi kan snakke litt om, men det var spesielt et gjennombrudd i 2012, hvor det var en algoritme som het AlexNet, som var veldig  god på bildegjenkjenning. For meg som sjakkspiller og brettspiller-entusiast, så kom det en veldig stor aha-opplevelse med en algoritme som heter, AlphaGo, og etterpå AlphaZero, hvor mennesker ble knust i det komplekse brettspillet av en algoritme. 

Silvija: Vi kommer egentlig tilbake til spill og kunstig intelligens. Jeg må innrømme, at for meg var det to slike hårreisende, spennende og grusomme øyeblikk, det ene var når jeg så AlphaGo spille Atari-spill. Den spilte pong, som er et lite brett hvor du putter denne ballen opp. De ga datamaskinen ingen regler, den måtte skjønne selv ut i fra piksler hva dette spillet er og hvordan vinner jeg og hvordan spiller jeg. En ting er at den lærte å spille etterhvert, men den lærte seg noen strategier, som jeg som da har spilt det spillet ikke har skjønt selv, hvor den da gravde seg gjennom en slags tunnel. Denne lille ballen som bumpes opp, den skal du knuse murstein med på toppen i denne boksen, og det klarte å grave seg en slags tunnel på siden, og så dumpet den bare opp og knuste mursteinene ovenfra. Det fascinerte meg at en maskin klarte å finne strategier på et spill den ikke en gang kan se, som ikke vi mennesker klarte å komme opp med.

Klas: Det er jo det som er så fascinerende, det er at nå de senere årene at mennesker har lært en del av de algoritmene vi har utviklet, og algoritmen du snakker om der er en etterfølger, egentlig, av AlphaGo. Først kom AlphaGo så kom AlphaZero, som kunne spille sjakk og Shogi, så nå er det noe som heter MuZero, som spiller mange Atari-spill. Det er utrolig fascinerende, og mitt aha-øyeblikk, hvor jeg virkelig bestemte meg for å gå mer inn i kunstig intelligens, handlet akkurat om det du sier der. Det var på spillet Go, og hvis dere googler Lee Sedol og AlphaGo og den kampen de spilte, så var det spesielt. Hvis jeg husker riktig, så var det trekt 37 i spill nummer to. Hvis dere ser filmen av reporterens der som kommenterer, deriblant verdens beste golfspillere, så gjør den algoritmen av AlphaGo et trekk som de tror er en feil. Det her kan ikke være riktig, sier de. Var det et onlinespill hadde vi vært sikker på at det var en museklikkfeil. Den la en brikke på et helt ulogisk sted for mennesket, så gikk spillet sin gang, så viste det seg omsider at AlphaGo vant det spillet på grunn av det trekk 37. Det har jo revolusjonert teorien i det brettspillet i Go, man har lært masse som mennesker av algoritmene. Mye av det samme ser du med sjakk, også. Magnus Karlsen også sier det, at han har blitt sterkt inspirert det siste året av hvordan AlphaZero spiller sjakk. Det er veldig fascinerende, vi bruker vår kunnskap om spill og vitenskap og informatikk og klarer å utvikle komplekse algoritmer, som typisk ved selvspill, spiller mot hverandre, blir bedre og bedre og bedre og til slutt gå langt forbi oss mennesker, så kan vi mennesker lære tilbake av algoritmene de har skapt. Det er litt fascinerende. 

Silvija: Dette her er da super fascinerende for oss mennesker også, fordi det utfordrer oss på vår oppfatning på hva det er vi mennesker er og hva er vi gode på, vår theory of mind. Veldig interessant da å begynne å drodle om kunst og når kommer det øyeblikket hvor en datamaskin har kanskje skrevet en symfoni eller malt et bilde, som vi faktisk er enig om er helt fantastisk, og kanskje på en måte som overrasker oss.

Klas: Ja. Det er faktisk en av de områdene som jeg personlig synes kunstig intelligens har kommet ganske langt i. De er gode på å fantasere. De nye språkalgoritmene, for eksempel, de skriver tekst, gode historier. Så er det ikke alltid at det de skriver er riktig, men vi ser nå, selv om det er lengre og lengre tekster nå, så er det god sammenheng i teksten, og du kan følge historiene. Samme når det gjelder bilder, de kan produsere kunst, i anførselstegn, sikkert mange som er uenig med meg, men jeg synes mye av det er god kunst. De produserer kunst som er fantastisk, synes jeg. For meg også er sjakk kunst, eller Go. Når et program gjør et slikt trekk, som gir deg en helt ny innsikt og man får en spesiell følelse av å se på algoritmene spille, så er det også for meg en stor kunstopplevelse. 

Silvija: Her kommer vi tilbake til ditt utgangspunkt, Klas, for jeg må bare kommentere tilbake. Du og jeg ender opp med alltid veldig saftige diskusjoner eller gode samtaler når vi først kommer i gang, så vi må passe oss litt her nå. Kunst dreier seg, i hodet mitt, i veldig stor grad om å utforske the human condition, det er noe utrolig vakkert og rørende i det å kjenne igjen all den rare psykologien sin, egentlig i absolutt alle menneskene på jorden. Det er derfor det er bra når kunst provoserer, når den får oss til å innse noe mer om hvem vi er og hva verden vår er. Det er der det er så fascinerende at maskinene klarer å gjøre dette her etterhvert. En ting er om de imiterer utrolig bra og bare bruker våre mønstre i enda bedre og større grad enn det vi gjør, eller om de mønstrene etterhvert har en semantikk for dem. Det er her vi etterhvert kommer til å snakke om general AI og viljen i datamaskiner og slikt. Jeg tror at de utfordrer oss, denne kunstige intelligensen og maskinene, på en veldig positiv måte, på måter som ikke vi mennesker har akseptert ennå. 

Klas: Der er du inne på et veldig kritisk punkt, for mennesker er ikke så glad i å kalle ting kunst hvis det bare er en slags etteraping eller simulering av ting. Det er litt spennende, for hva er en simulering og hvis vi snakker om kunstig intelligens, hva er intelligens. Man kan skille mellom mange forskjellige ting. Vi har jo en bevissthet som menneske og så er vi intelligente vesener, liker vi å tenke hvert fall, haha. Men intelligens, det er en stor debatt, men slik jeg ser det, så er et dataprogram intelligent hvis du klarer å simulere intelligens. Så klarer du å simulere intelligens, så kan dataprogrammet gjøre intelligente ting og du har på en måte en intelligens foran deg. Så er det helt noe annet hva bevissthet er. Hvis du simulerer bevissthet, at jeg sitter foran en robot som kan etterape og gjøre ting, så kan jeg likevel aldri være sikker på at den roboten er bevisst. Men jeg kan se på handlingene til roboten og se at den er intelligent. Her har du et veldig skille, mener jeg personlig, mellom intelligens og andre ting vi snakker om, som ofte kan være viktig når det gjelder kunst og opplevelser, da er det jo bevissthet, det som på fagspråket heter qualia, at du har en opplevelse av ting. Det er ikke bare ved at du får en viss bølgelengde inn på øyet som tilsvarer rød, men du assosierer ting, du får en følelse av rød, og det er det som heter qualia. Det er to vidt forskjellige ting, bevissthet vet man ekstremt lite om forskningsmessig, det er større og større forskningsfelt og man vet mer og mer. Man forsker mer og mer på blant annet hva er minste delen av hjernen, hvilke prosesser hjernen holder før man er bevisst, så man prøver å finne bevissthet i hjernen, men man vet veldig lite. Når det gjelder intelligens, så er det en helt annen definisjon. Det handler egentlig om å være god på problemløsning. Da har vi menneskelig intelligens, så klart og så har vi etterhvert fått mer og mer kunstig intelligens. Intelligens-feltet, når det gjelder mennesker, så har man diskutert synematikken og slikt før det. Skal vi gå ned den stien nå, Silvija? 

Silvija: Nei, vi skal vente litte grann, bare. Jeg har lyst å henge meg litte grann ved hjernen før vi prøver å simulere den. Kanskje egentlig ta enda et steg tilbake og spørre deg om dette med bevissthet og følelser. Kunne man sagt at bevissthet, og nå vet jeg at jeg super-forenkler, men bare slik at vi ikke blir for filosoferende matematiske. En ting er å registrere noe informasjon i verden rundt deg. Du har sett noe, du har sett noe som sender deg bølgelengder som er rød, men så har det skapt en reaksjon i deg. Den reaksjonen kan være glede, frykt, men det er den reaksjonen i tillegg. Vi vet at datamaskinene har sensorer som etterhvert opplever, registrerer like mye, eller mer, om verden rundt seg, enn det vi gjør. Det trodde vi var veldig vanskelig, fordi øyet er så fantastisk, men så ser vi hva som skjer nå, med selvkjørende biler, og så videre. Så har de bearbeidelses-mekanismer, algoritmer i seg, så hjernen må gi dem belønninger eller negative følelser, også, hvis det er det som er riktig i forhold til det. Hvorfor er det så veldig stor forskjell på den kjemiske reaksjonen i mennesker, fra den digitale reaksjonen i en selvkjørende bil, for eksempel, som bremser i frykt for det at de har sett et skilt. 

Klas: Hvor stor forskjell det er, og hvor stor forskjell det blir i fremtiden, det vet man ikke. Problemet er at vi ikke vet så mye om hva bevissthet er. Nå er vi inne på det David Chalmer kalte the hard problem of consciousness. Han så på bevissthet på to måter, the easy problem, det er rett og slett det at vi kan forstå alle prosesser som skjer i hjernen når jeg opplever noe. Du nevnte frykt, du nevnte andre ting som skjer, når jeg får input, så kan jeg i prinsippet måle en hver hjernecelle-aktivitet i hjernen og det reflekterer akkurat hva jeg føler. 

Silvija: Bare slik at jeg har et bilde av det, hjernen er et slags nettverk av disse celler med lange tentakler i mellom, som er disse nevroner. Og når de styrer aktivitet, så er det noe strømsignaler som går her.

Klas: Riktig. Hjernen er elektrokjemisk, det betyr at den fungerer ved elektrisitet og kjemi. Du har hjerneceller, cirka hundre milliarder nevroner, som sender signaler til hverandre i et veldig komplekst nettverk. Hvert eneste nevron knytter seg til mellom 1000 og 10.000 andre og den sender elektriske pulser. Disse pulsene, det du opplever er kun et resultat av din hjerneaktivitet, det er på en måte grunnleggende tese. Det du opplever også når du føler ting og føler at du er Silvija og ser ting foran deg og opplever deg i rom og tid, det du føler der er et resultat av hjerneaktivitet, det er ikke noe magisk som skjer, med andre ord. 

Silvija: Bare så jeg oversetter, jeg må forenkle litt. De elektriske signalene som skytes mellom nevroner, det kan vi etterhvert måle og det kan vi forstå og vi kan skjønne hvilken del av hjernen som jobber med synet, hvilken jobber med balanse og hvilken jobber med matematikk. Men det vi ikke skjønner helt er konsekvenser… for det skjer noe kjemisk, også?

Klas: Man forstår egentlig kjemien, kjemien kommer først og fremst inn i synapsene. En hjernecelle er ikke fysisk koblet med en ledning fra en hjernecelle til en annen, det er litt mellomrom mellom hjernecellene og når enden av den ene hjernecellen, en slags spagetti-arm som strekker seg ut, og når enden av den mottar et signal, så ligger den helt inntil en mottaker-arm fra et annet nevron, der fries det kjemikaler, og det er synopsen. Synopsen er kjempeviktig, det er blant annet også der læring foregår. Avhengig av aktivitet og belønning, så kan disse synopsene styrkes eller svekkes, og det er læring. 

Silvija: Det har jeg også lyst å ha et bilde av. Så jeg har masse, masse lysende prikker her i hjernen, og de er faktisk ikke de cellene, men det er de koblingene mellom dem, og jo flere ganger jeg har koblet der, jo sterkere blir det lyset, kan jeg tenke slik?

Klas: Hmm…

Silvija: Hvordan skal jeg tenke på den styrkingen?

KP: Du kan godt tenke lys, men du har hjernecellen, det er en celle-kropp, så den er typisk ganske rund, ut i fra den trekkes det veldig mange armer, lange spagetti-armer som går ut, de armene kan du tenke på som ledninger som sender en elektrisk puls. Det går en elektrisk puls ned armen, når den kommer til mottakeren, som er synopsen, så sender den ut et kjemisk signal til neste nevron. Den synopsen kan styrkes og svekkes, det er det som er læring, det er slik medisiner kan virke. Det er der du har en kjemisk mulighet til å påvirke hele systemet, det er signaler som overføres kjemisk. Det er derfor man kaller hjernen elektrokjemisk. 

Silvija: Det er koblingene, så det jeg skal tenke på hvis jeg har gjort et regnestykke, repetert og lært leksen min skikkelig bra, så har den spagettien blitt på en måte tykkere? 

Klas: Ja, det kan du godt tenke. Den koblingen er sterkere, koblingen mellom de to hjernecellene som sender det signalet er sterkere. 

Silvija: Det vi kan forstå og måle etterhvert, det er hvordan disse spagettiene kobles sammen og hvordan de er blitt tykkere på grunn av diverse hjerneaktivitet. Nå prøver jeg å gå over til, hva er det harde problemet. Det er hvordan dette påvirker følelser, eller bevisstheten?

Klas: Ja. Det er det som fortsatt er et stort mysterium. Vi kan i prinsippet følge all hjerneaktivitet og det er det som gir opphavet til følelser og annet, men å gå fra det og vite hva hjerneaktiviteten er, til det at jeg sitter her og har en spesiell følelse av å se en farge eller se en film, og så videre, det er det David Chalmer kalte hard problem of consciousness. Det skal sies at the easy problem også er kjempekomplisert, å prøve og forstå signalbehandling av hjernen, men det å forstå hvordan det gir opphav til en bevissthet og en følelse av et jeg i en verden, det er kjempevanskelig. Der er vi langt fra å ha noe vitenskapelig svar på.

Silvija: Kan jeg kaste inn en bok her? 

Klas: Ja.

Silvija: Dette er faren når folk leser bøker om ting de ikke har noe som helst peiling om, men den heter Molecules of Emotion, den er skrevet av en eller annen biokjemiker, mikrobiolog dame i USA, som prøver å forklare hvordan noe enzymer i cellene våre, som hun forbinder med kjærlighet.

Klas: Ja, det er sikkert oksytocin og andre, så man har mange molekyler som påvirker, vi snakker også morfin og heroin og andre stoffer du kan ta kunstig, så påvirker det helt klart lykkefølelse, glede og så videre. 

Silvija: Hennes forklaring var hvordan hjernen og kjærlighet egentlig henger sammen med evolusjon og hvorfor er den følelsen egentlig nyttig for oss, hvorfor har vi den? En utrolig fascinerende bok som jeg har nå glemt hovedlinjene i. Det er dette vi egentlig ikke helt klarer å forstå godt nok og da kan vi ikke vite hvordan vi skal implementere det i maskinene heller. Det er vel egentlig der vi er nå, eller?

Klas: Til en viss grad. Det kommer an på kunstig nevrale nettverk, for de er bygget opp og inspirert av hjernen, så kunstig nevrale nettverk, der kan man også se for seg nevroner og man kan se for seg synopser. Det er så klart små programmer i datamaskinen, så man snakker ikke om noe fysisk, det er et lite program, en liten algoritme som styrer hvert enkelt kunstig nevron, og så er det også et program som er rett og slett et tall, den vekten mellom to nevroner, og det er synopsen. 

Silvija: Det vi ikke har snakket om enda, og det er det andre spørsmålet jeg gjerne vil stille deg før vi går inni nevrale nettverk: abstraksjons-problemet. Når vi lærer, så er det ikke bare snakk om at nå har vi sett verden, sett alle farger. Vi mennesker har en evne til å abstrahere og generalisere læringen vår, derfor vet vi egentlig litt mer enn det vi har opplevd, på en måte. Det er noe med disse abstraksjonsnivåer som også skjer i nevrale nettverk.

Klas: Men, likevel, der har vi mye å gå på, for å si det slik. Hvis man spoler litt tilbake og ser på menneskelig intelligens, det var vel i 1904 at Spearman definerte det han kalte G-faktor. Det han snakket om var at du har intelligens innenfor veldig spesifikke områder. For eksempel kan du være ekstremt god i matematikk, du kan være ekstremt god i engelsk, og så videre. Du har spesifikk intelligens innenfor spesifikke områder. Men så fant han også ut ved sine studier at mennesker som var ekstremt gode i matematikk har en tendens til også å være flinke på andre områder, intelligente på andre områder. Det er en viss koordinasjon, selv om man ser tydelig at det ikke alltid gjelder, men det er en viss koordinasjon innen det å være intelligent innenfor ett område og andre områder. Det va det den G-faktoren… det man ville nå kalle generell intelligens det handler om, det at du er intelligent over flere områder. Og så er mennesket og da ekstremt god på å ta med seg kunnskap fra noe vi har lært på ett område og abstrahere kunnskapen for å kunne anvende den innenfor et annet område. Hvis vi da går til kunstig intelligens, så er kunstig intelligens ekstremt god innen mange spesifikke områder nå. Kunstig intelligens kan være kjempegod på sjakk, den kan være god innenfor noen områder innenfor kreft, kjenne igjen kreft i bilder, og så videre. Men det er ingenting med de algoritmene der som enkelt gjør at du kan ta med den kunnskapen og bruke den på et annet område. Vi er med kunstig intelligens langt fra å skape det som heter artificial general intelligence, altså, generell kunstig intelligens. Det gjør også at kunstig intelligens er veldig ueffektiv, for et hvert nytt problem må du trene opp algoritmen din med data, du må trene ekstremt mye. På tross av millioner på millioner av timer for selvkjørende biler hvor de har filmet alle mulige situasjoner, så har vi fortsatt ikke selvkjørende biler. Mens et menneske kan sette seg inn i løpet av et kurs på 24 timer, lære seg å kjøre en bil. Vi bringer med oss en mental modell, en intuisjon rundt fysikk, vi har rett og slett en world model, som heter en verdensmodell på hvordan ting fungerer, som vi tar med oss, og den kunnskapen er nyttig også når du kjører bil. Vi bør ikke som mennesker kjøre utenfor et stup tusen ganger for å forstå at det skal vi ikke gjøre, mens en algoritme må faktisk det. En algoritme, skal trene den fra scratch, så må den selv lære at den ikke skal kjøre utenfor et stup, og det holder ikke med én gang, den må gjøre det veldig mange ganger for å forstå det her. Da er vi inne på et nytt konsept, forståelse, hva er det? 

Silvija: Jeg synes du er litt slem mot algoritmene nå, det kan tenkes at vi står på skuldrene til kjemper, og det er evolusjonen. Evolusjonen har gitt oss all den intuisjonen og forståelsen av fysikken og gravitasjonen og verden vår. Ikke minst hva kroppen vår tåler og ikke tåler. Mens, kan man ikke tenke seg at datamaskinene, algoritmene kan ta oss igjen. De lærer fra scratch nå, men neste generasjons kjørings-algoritmer kan få med seg alt det som forrige generasjon har lært og forstår, som en basis å bygge på, slik at det vi bygger da, våre selvkjørende biler etterpå kan da kanskje være to eller tre generasjoner av verdensforståelse.

Klas: Ja, altså, vi har jo fått til ekstremt mye i løpet av veldig kort tid. Det er klart det er litt feigt å sammenligne med menneskelig intelligens, som du sier, den evolusjonen som har brakt oss hit vi er. Men når det er sagt, vi tar jo ikke med oss kunnskap, egentlig, fra andre generasjoner. Det som har skjedd gjennom evolusjonen er at man har utviklet, det man i kunstig intelligens ville kalle hyperparametere for det nevrale nettverk. Vi har utviklet nevrale nettverk som egner seg spesielt godt til å være menneske her i den verden vi lever i, så vår hjerne klarer å lære å være generelt intelligent, lære de tingene vi trenger for å overleve her i verden. Vi har utviklet grunnlaget, men så må vi og bruke livet på å lære oss konkrete ting, men vi har et spesielt godt egnet geologisk nevralt nettverk i oss, som gjør den læringen ganske enkel og vi lærer mye raskere enn det kunstig intelligens typisk gjør. 

Silvija: Noen av oss gjør det. Jeg er så dårlig til å kjøre bil, Klas. Helt seriøst, jeg kjører forsvarlig og greit nå, men ikke sant, noen har ekstremt god koordinasjon og noen har ikke det, så vi mennesker er også forskjellige. Den forskjellen oss i mellom pleier vi av og til å undervurdere.

Klas: Det er slik evolusjon fungere også, at vi er forskjellige, noen er gode, noen er ikke gode, noen dør ut og noen bringer sitt nevrale nettverk videre til neste generasjon. Så du får kjøre forsiktig, Silvija. 

Silvija: Jeg kjører forsiktig, men jeg er en av de som ville blitt spist opp av en sabeltanntiger ganske fort, tror jeg. Eller snublet over en grein, og. Men, du, nå har vi denne fantastiske hjernen vår, altså et slags nettverk, kalt nevroner, det er koblingene mellom dem i disse synopsene som da besitter denne kunnskapen, så det ligger veldig mye skjult kunnskap der også gjennom biologien vår. Så bygger vi det vi kaller for kunstige nevrale nettverk. Der har du beskrevet det som et sett av koblinger i en datamodell, det er en simulering av et nettverk. Informasjonen ligger lagret i disse koblingene. Hvorfor blir det så smart? Hva har det med kunstig intelligens å gjøre?

Klas: Kunstig intelligens, som du godt oppsummerer her, er en etterligning av hjernen, nå snakker vi da om kunstige nevrale nettverk, som betyr at du har disse små programmene og synopsene hvor informasjon ligger lagret, som du sier. Måten man bygger opp det her på, det er en veldig generell algoritme, egentlig, og hemmeligheten er at man har gode metoder for å lære opp disse algoritmene til å kunne takle veldig mange forskjellige ting. For eksempel, hvis man går til bildegjenkjenning, så har man da, igjen, inspirert av hjernen med dette nevrale nettverket som man kaller forskjellige lag. Nederste laget er et slags mottakerlag, som bare tar i mot et bilde inn, det bilde kan være hva som helst, også prosesseres da informasjon oppover i hvert lag og informasjonen som prosesseres blir på en måte mer og mer kompleks. Slik fungerer også det visuelle systemet til en viss grad i hjernen, også i hjernen har man mottakernevroner, som reagerer på veldig enkle ting, bare egentlig lysglimt, typisk en lys prikk med en mørk ring rundt, det er det som er favoritten blant de grunnleggende hjernecellene. Så er det slik at om man setter sammen lysbrikker på riktig måte, kan man lett bygge opp hva som helst. Man kan lett bygge opp en strek, ha piksler eller lysbrikker etter hverandre. Det betyr at hvis du kobler sammen hjerneceller som reagerer på disse lysbrikkene fra litt forskjellig posisjon, så kobles sammen dem over i neste lag til en hjernecelle som da reagerer når alle disse grunnleggende hjernecellene reagerer på prikker, så reagerer den i laget over på en strek. Så det kan man designe på den måten. 

Silvija: Hvis jeg skal fargelegge bildet litte grann nå, nå ser jeg i dette videoopptaket på et bilde av deg. Jeg ser noen piksler og jeg tror jeg ser at de er blå, jeg vet at det er blå piksel og så klarer jeg å se litt flere piksler rundt, og så ser jeg at det der kan se litt ut som et øye, og så kan jeg se resten og ut i fra det etterhvert utlede at det er ansiktet til Klas og at han er en mann, og det klarer jeg etterhvert. Jeg går høyere og høyere opp i disse her kompleksitets-lagene. 

Klas: Ja, da kommer du høyere og høyere opp i lagene. Jeg snakket om at vi kan designe slikt, men det som er interessant er jo at vi vet fra morninger i hjernen, at hjernen fungerer slik. Hubel og Wiesel fikk nobelprisen for å forske på det i hjernen, hvor de fant det de kalte simple cells og complex cells, hjerneceller blir mer og mer komplekse jo høyere opp i hierarkiet i systemet du kommer. Men det som er litt fascinerende er jo at i disse, typisk kall det ususal, eller nevral networks, når man gjør viderekjenning i kunstig intelligens. Der ser man at disse kunstige hjernecellene etteraper veldig det vår biologiske hjerne gjør. Så man ser at de grunnleggende lagene også reagerer på veldig enkle lysglimt, også videre. Jo høyere du går opp i hierarkiet i det kunstige nevrale nettverket ditt, jo mer komplekse former er det hjernecellene reagerer på. Så ender du opp helt oppe på toppen, hvor kanskje man skal skille mellom katt og hund. Oppgaven kan være designet til å se forskjell på bilder, for eksempel, kategorier av dyr, da vil vi ha ut om det er en katt eller hund på toppen, så er det effektive algoritmer for å straffe det nevrale nettverket hvis det tar feil. Hvis det sier at det er katt når det er hund, så er det noe som heter backpropagation, hvor man på en måte går bakover i det nevrale nettverket og prøver å rette opp synopsene som gjorde feil, for å si det enkelt. 

Silvija: Dette er utrolig fin beskrivelse, jeg tror vi skal bare tegne det bilde litt til. Et slikt treningssett som jeg synes var veldig morsomt, som jeg inviterer folk til å google, hvis de ikke har sett. Det er disse eksemplene mellom chihuahua og muffins, blueberry muffin. Det er sjokkerende hvor likt ansiktet til en chihuahua kan se ut som en blåbærmuffins. Vi mennesker ser faktisk hva som er hva, og det at maskinen blir fortalt hva som er hva og nå etterhvert prøver å forstå hvilke mønstre, hvilke statistikk som vår hjerne bruker for å skille det ene fra det andre. Det er litt sånn det er også hvis en maskin tror etterhvert at en chihuahua er en katt og vi menneskene retter den nok ganger gjennom backpropagation, så må den finne alternative statistiske forklaringer for sannheten. Det er egentlig jakt på mønstre de driver med.

Klas: Det er jakt på mønstre og man kan tenke på det som en slags minimering av feil, en kurvetilpasning, egentig. Så skal du havne i et slags minimum, hvor du gjør minst mulig feil og klarer å tilpasse så mye som mulig. Så det store problemet der har vært faktisk, litt filosofisk, at du har flere typer minimum, du prøver å finne det beste, det globale minimumet. Typisk ryggmargsrefleks fra statistiker er å ikke over-parametisere, ikke ha mange flere parameter enn det du har data og så videre. Men i kunstige nevrale nettverk, så ser man jo også faktisk at det å ha mange parameter kan ha en fordel, for hvis du har bare to dimensjoner, for eksempel, i en kurve, så får du, ettersom den bukter seg opp og ned, veldig mange lokale minimums som du kan feste deg i. Hvis du har tre dimensjoner, så er det litt færre, hvis du går rundt i naturen, der innsjøene ligger, for å si det sånn, det er typisk i 3D et minimum, et lokalt minimum. Men jo flere dimensjoner du har, jo lettere er det å finne én dimensjon som kan rømme ut av dette lokale minimumet og senke deg ned til et minimum som er på et lavere nivå. Har man mange nok dimensjoner så klarer man faktisk å gjøre en god tilpasning og finne, selv om det også kan være lokale minimum, men minimums som er såpass gode at de fungerer kjempegodt i disse nevrale nettverkene, derfor er det viktig å ha mange parametere av store nettverk og mye data. 

Silvija: Vi kommer nå i neste øyeblikk til dette med hvorfor skjer dette nå, dette med å ha mye data og regnekraft å gjøre. Før vi gjør det har jeg lyst å høre deg en gang til på dette med parametere. Hvis jeg nå tenker på et bilde, for eksempel, av en kreftsvulst, og der har datamaskinene blitt veldig gode nå på bilde-gjenkjenning. Og nå har vi kjørt oss litt fast på vårt lokale minimum, og det er bilde-relatert kunstig intelligens, altså kunstig intelligens, som kjenner igjen hva det er vi ser gjennom å analysere piksler. Akkurat samme diskusjon kunne vi hatt på motorikk og roboter eller på lyd og stemmegjenkjenning og språk-prosessering, men vi holder oss nå til bilder. Kreftbildet og radiologer bruker masse tid på å analysere disse kreftbilder. Hvis jeg tenker på parameterens som du snakket om, kunne jeg tenke på at en maskin skjønner da ikke bare farge, men form, dybde. Vi tar da bilde av denne kreften med litt forskjellige kameraer, så klarer den å analysere det her eksepsjonelt godt.

Klas: Ja, for å forenkle, la oss si at ikke du scanner i tre dimensjoner, men at du gjør det i to dimensjoner, så har vi bare et vanlig flatt bilde og da har jo det bilde en oppløsning, så du har et visst antall piksler. I hver eneste piksel så har du i prinsippet tre farger. Fra tre farger kan du skape hele regnbuen. Så hver piksel har i prinsippet tre tall. For algoritmen din så er jo det da bare en kjempestor matrise av mange tall, tre tall for hver piksel, så kommer en stor matrise. Som du er inne på der, hvis den algoritmen da skal prøve å gjenkjenne kreft, så må den ha veldig stort treningsgrunnlag på kreftbilder, hvor du stadig gir tilbakemeldinger til algoritmen på om det var kreft eller ikke. Da er det mange måter å gjøre det på, du kan ha erfarne radiologer som sitter og noterer i bilder og sier om det er kreft eller ikke, og det er jo det vanlige. I prinsippet, har man nok data og et stort og godt nok nevralt nettverk i bunnen, så kan man i prinsippet bli like god som disse radiologene. Så er det noen triks man kan bruke, for eksempel, så har man veldig ofte for disse pasientene, tidsserier. I Norge har vi veldig mye gode helsedata som er lange tidsserier, og kreftregisteret er jo komplette bakker fra 1950-tallet, og så videre. Tidsserier kan være kjempefine hvis man har bilder hvor radiologen fortsatt er usikker, men så ser man at det utvikler seg til kreft senere, så kan man kanskje finne mønster allerede før radiologen klarte å finne det mønsteret. Algoritmen klarer kanskje å plukke opp mønsteret som mennesker ikke klarer å plukke opp, og det begynner du å se innenfor en del felt, at algoritmene er bedre enn mennesker på å gjenkjenne ting i bilder, også når det gjelder diagnostikk. Da trengs det gode dataer, mye data, det trengs ofte tidsserier, det trengs regnekraft og gode algoritmer i bunn.

Silvija: Jeg lovet at vi skulle snakke om regnekraft om et øyeblikk, men nå har jeg lyst å spørre deg én ting til før det, så skal vi snart nærme oss slutten av leksjon én. Betyr det at det ikke er noe mer jobb for radiologer? Eller betyr det at radiologene får en mer spennende jobb, hvor maskinen kan kanskje  finne de situasjonene som er tvilsomme og la dem slippe å se på det som opplagt ikke er problematisk.

Klas: Akkurat slik som det er i denne perioden jeg er i nå, så er det helt åpenbart at det vil bli mye mer spennende. Det er ikke at algoritmen utkonkurrerer en radiolog, det er at en radiolog som bruker algoritmen utkonkurrerer en radiolog som ikke bruker algoritmer. Man blir bedre med det verktøyet. Det er en periode vi er inne i nå så har du en del problemer og utfordringer også med disse algoritmene, blant annet det med forklarbarhet. Det er ikke alltid at algoritmen kan forklare deg hvorfor den tror det er kreft, og det er klart at hvis du sitter med en algoritme og bruker det aktivt som et verktøy og du er uening i algoritmen i noen tilfeller, men hvis du vet at algoritmen stort sett er bedre enn deg, hva gjør du da, for eksempel. Da får man en del utfordringer. Men det er helt klart at dette er gode verktøy og det er en del du kan bruke som screeningverktvøy og en del ting som er åpenbart ikke kreft eller kreft, sånn som den kan mer eller mindre automatisk si fra og som du sjekker som radiolog, så kan du spare kreftene til de mer spennende tilfellene som er vanskeligere. Jeg vil helt klart si at det fører til, slik som det er nå, en mer spennende hverdag. Så sa jo også Kasparov og en del av de gamle sjakkspillerne at det er menneskene sammen med maskinen som er overlegen, maskinen alene vil aldri kunne gå forbi mennesket. Men de tok jo feil, så vi får se hvordan dette fører fram.

Silvija: Okei, så siste poeng i denne første leksjonen, hva har dette med eksponensiell vekst i data, regnekraft og nettverk å gjøre? Det skjedde noe magisk som vi kunne se også, jeg er som sagt ikke superglad i bilkjøring, men det var noe magisk som skjedde med disse selvkjørende biler omtrent på et år, hvor de gikk fra å forville seg og ikke kunne kjøre selv mer enn en kilometer i ørkenen, til å plutselig kunne kjøre. 

Klas: Ja. Det er en utvikling som så klart har pågått lenge, men i 2012 kom det, for meg, et slags bevis på hvor gode algoritmene kan bli, og det var det som het AlexNet, AlexNet var en algoritme for bildegjenkjenning. Mye av kunstig intelligens drives av konkurranser som kan være ganske spennende å være med på. Det var en konkurranse innen noe som het ImageNet, som går ut på å skulle kategorisere ting man så i bilder. Man sender inn algortimen og så blir den vist masse bilder, og så får man en score ut i fra hvor god algoritmen var. Vinneren der i 2012 gjorde et kjempehopp i forhold til konkurrentene, så det er virkelig en nyvending. Den største nyvendingen var at de hadde klart å trene den algoritmen veldig effektivt, ved at man brukte GPUer, altså grafikk-kort, i stedet for CTPUene i datamaskinen. Fordi at man har klart å parallellisere ting…nå kjører disse algoritmene ekstremt effektivt og parallelt og man kjører de da på, for eksempel, GPUer, som er veldig god på parallellisering eller etterhvert mer og mer over på spesialdesignet databrikke, som er på en måte laget for å gjøre de prosessene veldig effektive som man bruker i moderne kunstig intelligens. Så datakraften har eksplodert de senere årene, og så klart med internett, så har data også eksplodert, man har datatilgang som man aldri tidligere har hatt, så man har ekstreme mengder data, man har veldig god regnekraft og algoritmene har utviklet seg og blitt bedre og bedre. Det er disse tre faktorene sammen som har gjort at at vi har sett denne eksplosive og eksponensielle farten i feltet de siste årene. Hvis man ser hvor store de typisk kunstige nevrale nettverkene er, hvor mye som skal inn av trening av de, og så videre, så ser du virkelig et knekkpunkt etter 2012 i den grafen, hvor ting har økt veldig mye raskere etter 2012. 

Silvija: Veldig spennende. Du, Klas, jeg tror vi stopper der med vår første leksjon, så skal vi snakke mer om AlexNet i vår neste leksjon, som dreier seg om eksempler. Tusen takk, så langt. 

Klas: Flott det. 

Du har nå lyttet til en podcast fra Lørn.Tech – en læringsdugnad om teknologi og samfunn. Nå kan du også få et læring sertifikat for å ha lyttet til denne podcasten på vårt online universitet Lørn.University

“