Velkommen til Lørn.Tech - en læringsdugnad om teknologi og samfunn, med Silvija Seres og venner

Silvija Seres: Hei, og velkommen til en Lørn samtale. Mitt navn er Silvija Seres, og gjesten min i dag er Klas Henning Pettersen, som er leder for NORA. Velkommen, Klas!

Klas Henning Pettersen: Takk for det, Silvija.

Silvija: Er det Klas eller Klas Henning?

Klas: Nei, vi sier bare Klas. Henning er litt sånn skjult navn som jeg bruker når jeg publiserer forskningsartikler siden det er andre Klas Pettersen her i verden. Men ellers så bruker jeg bare Klas vanligvis.

Silvija: Klas Henning, det er sånn når foreldrene snakker strengt til deg.

Klas: Ja, det kunne kanskje vært det, men til og med da holdt det med Klas, altså.

Silvija: Du, jeg skal si noen ord om serien, og så setter vi i gang. Dette her er altså en samtale i Lørn sin serie som heter anvendt kunstig intelligens, applied AI. Og målet er å ikke bare snakke om gründerskap, ikke bare snakke om forskning i kunstig intelligens, men å gjøre kunstig intelligens tilgjengelig for hele Norge gjennom gode anvendte historier fra folk som ligner våre lyttere. Og da har vi snakket med folk innenfor juss, innenfor hotell, innenfor transport. Og denne gangen snakker vi egentlig med litt annen type gjest i serien, og det er altså daglig leder i en organisasjon som skal være limet i Norge når det gjelder AI. Både på tvers av forskning og industriell anvendelse og en bro mellom disse to verdener. Så Klas, jeg tenker på denne samtalen som en slags introduksjon for bedrifter om eventuelt hvordan de kan komme i gang med å koble til seg gode forskningsmiljøer. Og vi kommer dit. 

Klas: Ja, men da skal ikke jeg røpe noe enda, kanskje. Men jeg har jo noe, vi har jo en del av NORA som heter NORA Startup som særlig terper på innovasjon og oppstartsselskaper. 

Silvija: Kjempespennende. Du, Klas. Vi setter i gang, og første spørsmålet mitt er alltid veldig personlig. Folk lærer best fra noen som de føler at de kjenner litt. De skal føle at de er en venn i denne samtalen mellom to venner, om hva er greia som du jobber med. Så spørsmålet mitt er hvem er Klas, hvorfor ble han sånn og hvorfor digger han det han jobber med?

Klas: Ja, det kan du si. Hvorfor jeg ble sånn vet jeg ikke i det hele tatt. Jeg kommer fra en sånn relativt normal vanlig gjennomsnittlig familie i Sarpsborg, også har jeg alltid vært interessert særlig i fysikk da jeg var ung. Så det var kanskje ikke helt normalt i Sarpsborg. Så jeg søkte meg jo til fysikkstudier, studerte sivilingeniør ved NTH, som det het det da jeg startet, også het det NTNU da jeg sluttet. Så det var i den perioden hvor den forvandlingen der skjedde i Trondheim. Og da studerte jeg kvantemekanikk, relativitetsteori og så videre, og kom meg etter hvert ut i en jobb i Accenture. Men så savnet jeg egentlig studiene og forskningsmiljøene. Da hadde jeg vært på en lang backpackertur hvor jeg hadde med meg en spennende bok på reisa som het «Shadows of the Mind» av Roger Penrose. Og den boka, den tok jo opp hjernen og bevissthet, men sett fra en fysikers perspektiv. Så det passet meg veldig godt. Og etter det, det slapp aldri taket helt, så kom jeg i kontakt med Gaute Einevoll, som hadde akkurat startet aktivitet innenfor teoretisk nevrovitenskap i Norge. Teoretisk studie av hvordan hjernen fungerer. Og der fikk jeg starte etter hvert på å ta en doktorgrad med han som veileder. Så jeg har tatt en doktorgrad innenfor teoretisk nevrovitenskap. Så det er hjernens nevrale nettverk som er spennende da, og har også alltid vært interessert i kunstig nevrale nettverk, eller kunstig intelligens, hva er intelligens. Og jeg fortsatte å forske på det etterpå. Jeg har forska forskjellige steder, men stort sett vært forsker de siste fem årene. Før jeg ble leder av NORA forsket jeg ved medisinsk fakultet ved Universitetet i Oslo som hjerneforsker, men da fra et teoretisk perspektiv. Begynte å bruke litt kunstig intelligens der også, og mer anvendt i forskningen. Så kom den veldig spennende stillingen utlyst for å bygge opp det som nå er NORA. Jeg startet som daglig leder i NORA for litt over to år siden. 

Silvija: Jeg tror at du og jeg kan gå off on a tangent alt for tidlig i denne samtalen. Jeg skal prøve å styre meg litte grann, men jeg syns det er utrolig spennende kombinasjon av kunnskap og erfaring, og interesser du har, Klas. Jeg har lyst til å spille inn en bok som jeg er akkurat ferdig med, og den heter «Consciousness and the Brain» av en som heter Stanislas Dehaene. Jeg vet ikke om du har vært borti den?

Klas: Ikke lest boka, men kjenner personen, ja.

Silvija: Ja. Utrolig spennende, fordi så vidt jeg skjønner kommer han også fra medisinsk perspektiv til hjerneforskning. Men han kommer helt på slutten av boken med et forslag på hvordan han mener at vi kan bygge bevissthet i AI. Hele boken dreier seg om bevissthet og kjemien i bevissthet og mekanikken og psykologien ikke minst. Og utrolig interessant teori om et eller annen sånn global workspace i hjernen, veldig basert på «Thinking, Fast and Slow», hvor vi har ubevisstheten vår som er en hær, en gasillion av statistikere som samler masse informasjon og bearbeider, også er det noen ting som kommer seg opp gjennom et slags kvoteringssystem til dette globale brettet, også er det det som på en måte former da både vår personlighet og våre valg. 

Klas: Ja, utrolig spennende. Jeg kjenner teoriene, og man er jo litt nysgjerrig. Jeg skiller veldig sterkt mellom intelligens, som i kunstig intelligens, og bevissthet. Det er ikke alle som skiller så sterkt mellom de to, men jeg mener det er to vidt forskjellige ting. Og en av de store forskjellene er jo at bevissthet, det handler om dine indre opplevelser. Intelligens, slik jeg ser det. For å si det på en annen måte, hvis du simulerer intelligens så er du intelligent, på en måte. Da gjør du noe intelligent. Men å simulere bevissthet, det er vanskeligere. Men det har vært ett av de store spørsmålene lenge. Francis Crick, for eksempel, da han fikk nobelprisen for DNA, hadde funnet ut liv og løst gåten om liv og hvordan DNA fungerer, så tok han fatt på det siste. Og det han mente var kanskje det største mysteriet i verden, og det var bevissthet. Så han på en måte grunnla mye av bevissthetsforskningen, jobbet mye sammen med en nevroviter som heter Christof Koch, som også var fysiker, og utvikla teorier for det de kaller neural correlates of consciousness, altså hvilke mekanismer i hjernen er på en måte minstedelen for bevissthet. Hvor sitter bevisstheten, kan vi finne en minstedel for bevissthet. Og der er det utrolig mye spennende, det er masse gode bøker. Francis Crick skrev selv en bok som heter «The Astonishing Hypothesis», som beskriver mye av starten i det forskningsfeltet. 

Silvija: Vi må ha en separat samtale om dette, aner det meg.

Klas: Vi kan snakke lenge vi. Har du noen sånne ekstra lange episoder i podcasten din så kan vi ta det.

Silvija: Ja. Og så det som er også så fantastisk, jeg kommer inn i dette her som en matematiker, og det som driver meg som en sånn fascinerende problemstilling, det er Gödels ufullstendighetsteorem, og hva kan vi forstå og hva kan vi utlede, versus maskiner. Jeg får liksom gåsehud når man prøver å finne grensene for dette her. Det som fascinerte meg så veldig med denne her Stanislas-teorien er at han mente at det å ha en opplevelse er en kjemisk prosess som kan forstås, og da igjen har du de der etiske dilemmaene, må det være følt av et menneske eller kan det være følt av en maskin hvis kjemien er nøyaktig den samme? Og der tenker jeg vi tar en egen serie på AI og etikk, tror jeg. 

Klas: Jeg kommer gjerne tilbake der.

Silvija: Veldig gøy. Men Klas, vi skal snakke da om NORA. Og hvordan NORA hjelper Norge med å komme ikke bare i gang, men å komme sammen rundt kunstig intelligens. Så fortell oss mer om hva er NORA, og hva er behovet for å koble forskning med industri og kanskje for så vidt også offentlig sektor?

Klas: Ja. NORA, for å ta litt av historien, så ble det danna for litt over to år siden, og det var da et samarbeid mellom seks norske universiteter opprinnelig, så kom Universitetet i Stavanger og NORCE rimelig fort på banen, også er det blitt enda mer utvidet. Så nå er vi åtte norske universiteter, tre høyskoler og to forskningsinstitutter som samarbeider. Det er jo ganske unikt i seg selv, at så mange av de akademiske partnerne finner sammen om å samarbeide om et spesifikt felt. Og det vi samarbeider om er kunstig intelligens, robotikk og maskinlæring. Og på en måte de tre pilarene som det først og fremst handler om, det er utdanning, forskning og innovasjon. Så det er det vi samarbeider om. Også er det mange strukturer innenfor NORA etter hvert som vi har opprettet for å gjøre disse samarbeidene gode. Et mål er å gjøre spennende forskningsprosjekter. Det betyr ofte også samarbeid med både oppstartsbedrifter innovasjonsmiljøer og næringsliv, eller det kan være grunnforskning. EU-søknader, vi var et veldig spennende prosjekt som akkurat startet i Norge nå, heter AI-Mind, som er et prosjekt som går inn mot demens og bruker kunstig intelligens for å prøve å predikere demens tidlig. Der kom Ira Haraldsen fra Oslo universitetssykehus kom til NORA med veldig gode ideer, men trengte AI-forskere inn på prosjektet. Da satt vi henne i kontakt med norske AI-forskere. Og også internasjonalt. Vi jobber også gjennom CLAIRE som er et europeisk nettverk for AI. Så vi kommer også i kontakt med internasjonale forskere, og for å gjøre historien veldig kort, så gjorde Ira og teamet hennes en fantastisk jobb. Bygde opp et veldig spennende og fryktelig godt prosjekt, og fikk tilslag i EU og har et prosjekt nå på 14 millioner euro som startet opp nå nettopp, som vel er det største EU og AI-prosjektet i Norge når det gjelder forskning. Så det er ett eksempel på hvordan vi jobber med hjelp til å binde brikkene sammen innenfor forskning. En annen ting vi gjør, det er jo innovasjonsdelen vi samler inn under det vi kaller NORA startup. Det vi har gjort der, er at alle våre partnere, vi har gått i samarbeid også med mange av Norges beste AI-selskaper, oppstartsselskaper. Iris AI for eksempel. De sitter i styringsgruppa vår, og sammen med også inkubatorer, startup lab, gründergarasjen. Så har vi bygd opp samarbeid mellom oppstartsbedrifter og forskere i Norge. Da er det særlig forskningsdrevet innovasjon vi gjør. Og vi prøver å skape det der spennende miljøet da, litt det samme du ser mange andre steder i verden. Ikke det at jeg tror Oslo blir en Silicon Valley, men det er jo litt det samme vi ser. Vi får litt inspirasjon fra for eksempel Stanford-miljøet også videre, og prøver å bygge opp det spennende økosystemet hvor man har mer kontakt på tvers av de vanlige siloene som man ofte blir sittende i, da. 

Silvija: Jeg tenker at når det gjelder NORA startup, så har vi både forslag til flere som burde være med, og Lørn syns det er utrolig spennende å formidle disse historiene. Så Lørn blir med i en eller annen form der også. Jeg har lyst til å spørre deg, Klas, hvilke områder opplever du at Norge har et unikt utgangspunkt i når det gjelder AI? AI er det hotteste, tror jeg, vekstverktøyet for hele verden fremover. Vi er en liten nasjon. Hva bør vi fokusere på?

Klas: Jeg tror vi har et konkurransefortrinn innenfor AI og helse. Det tror jeg kanskje er det viktigste feltet. Det tror jeg er fordi jeg ser at vi allerede har veldig gode forskningsmiljøer innenfor AI og helse, og vi har veldig mye god data innenfor det feltet som er relativt unikt også i verdenssammenheng. Kreftregisteret, for eksempel, er jo fullstendig helt tilbake til midten av 1950-tallet, og det bygges nå det som heter helseanalyseplattformen hvor man skal tilgjengeliggjøre data i større grad, gjøre det enklere å få tilgang, både for forskere, men også etterhvert for næringsliv. Og jeg ser også innenfor de forskningsmiljøene, så er det mye god anvendt forskning. Vi ser nå at en del av forskningsprosjektene er i ferd med å translatere fra å være rene forskningsprosjekter til å bli produkter. Jeg kan ta et eksempel fra DoMore-prosjektet. DoMore er et stort prosjekt innenfor kreftforskning, hvor man bruker AI på bilder for å predikere og diagnostisere krefttyper. Og der har de kjempegode forskningsresultater, også er det alltid store utfordringer å få gode forskningsresultater til å komme inn i klinikken og forskningsresultater som er typisk fremkommet ved en type metode, en type utstyr og så videre inn i forskjellige sykehus for eksempel. Der er det alltid store utfordringer. Men det begynner de å kunne løse, og DoMore-prosjektet har også dannet et eget firma som heter DoMore Diagnostics, som er i full gang med å gjøre den prosessen å translatere forskningsresultatene inn i klinikken. Så det er et eksempel. I tillegg så har vi et fryktelig godt såkalt SFI-senter som heter Visual Intelligence. SFI det er Senter for forskningsdrevet innovasjon, og det er store nasjonale sentre. Visual Intelligence har også helse som et av sine satsingsområder. Ellers så har vi også så klart i Norge mange andre områder hvor vi er gode. Marin er jo helt klart ett av feltene. Jeg kunne ramset opp mange, men skulle jeg valgt ett hadde jeg valgt helse.

Silvija: Jeg har lyst til å spørre deg. En ting er helse, og der tenker jeg at dette er en oppfordring til alle de som leder i helsesektoren om å tenke på gode mulige anvendelsesområder. Der har du snakket om demensforskning, du har snakket om kreftdiagnostikk. Dette her kommer til å være de største kostnadsposter også, gitt demografien og alderdomsutviklingen fremover. Så jeg tror at det å samarbeide godt og fort om å effektivisere alt det vi gjør der, kommer til å være også en kjempeviktig samfunnsverdiskapningsmekanisme. Men det er offentlig sektor som er kjøperen, tenker jeg. Og kanskje driveren av disse prosjekter også. Jeg har lyst til å høre deg litte grann på AI anvendt på industri. Norge har fantastiske SMB-er og egentlig store bedrifter som etter hvert blir mer og mer digitale, men som har sitt kjerneoppdrag i industri eller noe som har med havet å gjøre. Ser du muligheter der?

Klas: Ja, absolutt. AI kommer til å gjennomsyre det meste, og kan ofte effektivisere mye og gi deg veldig gode løsninger og nye løsninger på problemer. Og det kan være alt fra lager til produksjonsprosesser også videre. Det NORA gjør nå når vi snakker om næringsliv. For det første så er NORA interessert i å samarbeide tettere med næringslivet generelt nå, vi vil inkludere dem også i det vi har kalt en NORA startup, men vi bygger også opp en forskerskole med studenter, hvor det skal være næringslivsrelevans og hvor det er interessant å samarbeide med næringsliv på deres problemstillinger også. I tillegg så utlyser EU nå en ordning som heter European Digital Innovation Hubs. Og det er også relativt store prosjekter fra EU hvor NORA er kvalifisert gjennom Innovasjon Norge til å kunne søke. Og nå er NORA gått sammen med de andre store nettverkene i Norge om å bygge en slags nasjonalmekanisme for AI, hvor hensikten er nettopp å hjelpe næringslivet med å ta i bruk kunstig intelligens. Så det er en søknad som går nå i høst, med mange store aktører. Vi har også NTNU, SINTEF er med, Smart Innovation Norway og andre. Så mange av de store aktørene har gått sammen der. Den er det relativt sannsynlig at vi får, for Norge skal ha en slik European Digital Innovation Hub fra EUs side, og i tilfellet vil vi sannsynligvis ha oppstart i midten av 2022. Så da får vi en slik mekanisme i Norge for å hjelpe næringslivet å ta i bruk kunstig intelligens.

Silvija: Kan ikke du fortelle oss litte grann mer om forskningsdrevet innovasjon? Det høres flott men litt komplisert ut, hva er greia?

Klas: Ja, altså, det som kjennetegner kunstig intelligens til forskjell fra kanskje mange andre forskningsfelt er jo at det har veldig ofte gode anvendelsesområder, også ser vi også at det er fryktelig mange gode både oppstartsselskaper og større næringsliv som driver forskningen fremover innenfor feltet. På verdensbasis er det unektelig de store som Google og Amazon og Facebook er kjempeviktige for å drive også forskningsfeltet fremover. Og det der samspillet som vi kan få til gjennom samspill mellom forskere og oppstartsmiljøer, gjør at du kan finne nye innovative måter for å løse problemer, da. Og det kan jo være veldig mye forskjellig som man kan utvikle gjennom et slikt samarbeid, og det er veldig mye forskjellig som oppstartsbedriftene i NORA startup gjør. Så jeg har ikke en sånn fasit på hva som kan gjøres, men det som er viktig for NORA, det er jo å bygge opp det økosystemet. Være den møteplassen og den plattformen hvor forskere som er interessert i innovasjon kan samarbeide med oppstartsselskaper som er interessert i forskningsdrevet innovasjon. Og det betyr at vi må ha et høyt faglig nivå innenfor den grupperingen. For hvis nivået rent faglig sett blir for lavt, så er det ikke så interessant lenger for forskere. De er jo drevet av forskning, av publikasjoner, de er ikke så drevet av næring og økonomi. Så vi må ha et høyt faglig nivå der, også må det være, de må bygge det litt spennende miljøet som de har en del steder i verden, rundt Stanford, Silicon Valley også videre. Så være med å bygge det miljøet i Norge, det er jo kjempespennende. Og det er det vi prøver å få til.

Silvija: Du Klas, det er så mange ting jeg har lyst til å spørre deg om, også har vi cirka fem minutter igjen. Men jeg må spørre deg om artikkelen som du var med på i denne her «Neuroinformatic» om hvordan hjernen lærer. Kan du fortelle det kort, hvordan?

Klas: Ja, det var litt morsomt, da. Det er en artikkel som kom ut tidligere i år, hvor vi bruker kunstig intelligens for å finne spesifikke mønstre i målinger fra hjernen. Og de mønstrene vi leter etter, det er mønstre vi vet er relatert til læring i hjernen. Og der har vi en mekanisme, det er noe som heter Sharp Waves and Ripples, det er et veldig spesifikt mønster. Og det som vi vet skjer også relatert til det her, er at hjernen etter at du har lært noe, så spiller den av den samme, den repeterer sekvensen på en måte i nevronene. Sprer seg et signal som på en måte har samme frekvens. Og måten man har sett det på er typisk i rotteforsøk, så løper rotter i labyrinter- Mores for eksempel i Norge, May-Britt og Edvard Moser, de fikk jo nobelpris for forskning på stedsans, sammen med en som heter John O'Keeffe, og de har jo forsket mye på disse som heter place cells, så du har spesifikke hjerneceller som bare er aktive når du er et spesielt sted. Så når rotta løper i en labyrint, så kan du på en måte se i hjernen et kart over akkurat hvor den løper. Så når den rotta etterpå hviler eller sover, så plutselig begynner den å spille de samme rutene om og om igjen. Det heter replay. Og rundt akkurat hvordan hjernen lærer, altså, en del læringsmekanismer forstår man, men det er veldig mye man ikke forstår. Det man vet er at det er annerledes enn hvordan standardlæring er for kunstige, nevrale nettverk. I kunstige nevrale nettverk er det også bygd opp inspirert av hjernen, med kunstige nevroner som sender signaler også videre, også justerer man de signalene hvis man predikerer noe feil, typisk. Men da sender man et signal gjennom backpropagatien, bakover gjennom hele nettverket, og sånn gjør ikke hjernen det. Så det vi håper på, er jo å bruke kunstig intelligens for å gjenkjenne de læringsmønstrene, så kan vi forhåpentlig vis da etter hvert forstå mer om hvordan hjernen lærer, og så er jo mitt håp og mitt mål kanskje at det igjen kan gå inn i kunstig intelligens og forbedre læringsalgoritmen i kunstig intelligens. Så har du på en måte en god sirkel gående her hvor man bruker kunstig intelligens for å forstå mer om hjernen og hvor det kan gi feedback til å utvikle ny kunstig intelligens. Så det syns jeg er et utrolig spennende felt, det med å ta inspirasjon av hjernen når man bygger kunstige nevrale nettverk.

Silvija: Jeg syns at det er så utrolig viktig også for oss i Lørn. Vi driver og eksperimenterer med ny digital pedagogikk, fordi folk lærer annerledes av å høre på en podcast for eksempel enn å se på video av en samtale. Og det som jeg er fascinert av, er på en måte hvordan klarer du å pakketere informasjon sånn at den er overraskende og spennende på tvers av disse formater, når vi er så veldig visuelt drevet som mennesker? Eller for eksempel, hva fungerer best når du er alene, og hva fungerer best når du er i gruppe? Eller hva fungerer best som bare input, og hva fungerer best når du aktiviserer det? Så utrolig spennende om man kan etter hvert måle litt effekter av dette.

Klas: Ja, der er vi jo også individuelle, og folk lærer på forskjellige måter. Og motivasjon og klare å holde fokus er jo kjempeviktig. Det går veldig mye på det også, hvordan øke motivasjonen og fokus hos den spesifikke personen som skal lære. Og da er jo det med å tilby forskjellige måter å lære på, og kanskje da også utvikle algoritmer som viser deg og kanskje også bevisstgjør hver enkelt mer på hvordan du lærer best, faktisk. Det er jo også veldig spennende innenfor pedagogikk, og der er jo også kunstig intelligens viktig. Og er det ett sted kunstig intelligens virkelig har brutt gjennom, så er det jo på godt og vondt når det gjelder både Google og Facebook og TikTok og hva det måtte være, hva du liker og hva du får opp i din feed er jo spesialtilpasset til deg ved hjelp av kunstig intelligens og algoritmer. Det er positivt på mange måter, men kan også være litt skummelt i og med at det gir ekkokammereffekt hvor du typisk hele tiden blir matet med det som du vil ha, ikke nødvendigvis det som er best for deg eller best for din læring, for eksempel. 

Silvija: Utrolig spennende også i forhold til tverrfaglighet, hvordan tvinger vi folk ut av det faglige ekkokammeret sitt.

Klas: Absolutt.

Silvija: Du Klas, jeg har også lyst til å be deg kommentere litte grann om de mest spennende prosjekter. På den ene siden så snakker vi om AI, jeg prøver alltid å litt sånn ufarliggjøre det og si at det er egentlig bare veldig rask statistikk på litt nye typer data. Men så kommer du med eksempler som AlphaFold og MuZero. Kan ikke du si litt om hva det er? Det er science fiction, egentlig.

Klas: Ja, absolutt. AlphaFold er kjempespennende, kanskje først og fremst fordi det vil, tror jeg, ha en ekstrem nytteverdi. AlphaFold er en algoritme fra DeepMind hvor de har brukt kunstig intelligens-

Silvija: Eid av Google kan vi kanskje legge til.

Klas: Ja absolutt, kjøpt opp av Google og eid av Google nå. Hvor de da bruker kunstig intelligens for å predikere formen på proteiner. Så inputen i algoritmen er en DNA-sekvens som er relativt enkelt å få tak i på det meste nå, også kan man ut ifra en DNA-frekvens, som er et langt molekyl, så krøller det seg til et protein, og det er hvordan det krøller seg som sier noe om hva slags funksjon proteinet har. Og der bruker man nå kunstig intelligens for å kunne predikere hvilken form det proteinet får. Og nå i koronatidene har de fleste sett bilde av korona med disse spikene ut, og det er jo spike proteiner. Og det er klart at formen på spike proteinet, det for eksempel sier noe om hvor lett det binder seg til andre celler, som igjen sier noe om hvor lett det smitter. Så det er ofte der du ser mutasjoner som gjør at du for eksempel får en deltavariant som er mye mer smittsomt. Og kan man da enkelt predikere formen på proteinene, så er det første skritt for å predikere funksjonen til proteinene, og funksjonen til proteinene er på en måte det livet handler om. Så det kommer til å få en ekstrem nytteverdi. Tidligere hadde man brukt avanserte eksperimentelle metoder for å finne formen, som typisk røntgenkrystallografi, som er kjempeavansert og koster kanskje en million kroner og tar kanskje et år før du får formen på ett protein. Mens nå kan man altså trykke enter, og så kommer formen opp, og resultatene er så gode at det konkurrerer med eksperimentene rett og slett. Så det er AlphaFold som kommer til å, tror jeg, ha en stor innvirkning innenfor medisinsk teknologi og utvikling av nye medikamenter også videre. Så nevnte vi MuZero som også er DeepMind. Personlig er jeg ganske inspirert i DeepMind, litt fordi de også tar inspirasjon fra hjernen. Det er Demis Hassabis som leder DeepMind, har også bakgrunn i nevrovitenskap, er opprinnelig hjerneforsker. Men MuZero, de fleste har jo hørt om AlphaZero, altså man hadde en algoritme som først så startet den med AlphaGo, altså algoritme som-

Silvija: Kan jeg avbryte deg et sekund?

Klas: Ja.

Silvija: Jeg sitter og tenker og tenker på om jeg skal si det eller ikke. Jeg har ikke truffet Demis, men jeg har truffet Mustafa, partneren. Og jeg var så skuffet, Klas.

Klas: Å?

Silvija: For dette er dette supergeniet, altså en mann hvor jeg beundrer så vanvittig det han har gjort og skrevet, også treffer du han, og så en ting er at han er bare en gutt i hettegenser, men en annen ting er at han var så forenklet bråkjekk, som veldig mye av Silicon Valley egentlig er. 

Klas: Ja. Og det ser du jo ofte, da. Nå er vi tilbake til intelligens. Det at du er intelligent på ett område betyr ikke at du er det på mange områder. Så det bekrefter jo egentlig bare akkurat det. Ja, men hvert fall verktøyene de har utviklet, uavhengig av deres personlighet, er ganske fantastiske altså. Og den AlphaGo var jo da kunstig intelligens-algoritme som plutselig knuste alle mennesker i go, og det var noe man trodde kom til å ta kanskje ti år lenger tid før man skulle få til, fordi det var et veldig komplekst spill. Og det var opplært på go-partier og spille mot seg selv, også gikk man ett skritt videre da, også lagde man noe som heter AlphaZero. Og den læres kun av seg selv, altså den læres ved å spille partier mot seg selv. Men ikke bare det, det gjorde at man kunne generalisere mellom forskjellige spill. Så samme algoritme kunne da lære både sjakk, go og shogi, som er et slags japansk form for sjakk, og knuste altså all motstand veldig kjapt i alle de tre brettspillene. Og nå, jeg tror det var lille julaften, så kom de med en ny artikkel i Nature om neste versjon som de da kalte MuZero. Og der har de gått enda et skritt videre ved at det som på en måte de hadde av informasjon i algoritmen i AlphaZero var jo reglene på spillene. Men i MuZero er det faktisk ikke regler på spillet heller. Og det gjør at det kan få enda bredere anvendelsesområde, så det spiller for eksempel veldig mange Atari-spill i tillegg, og igjen knuser all motstand overalt. Og det er spennende-

Silvija: Her kommer spillteori egentlig ganske spennende inn her.

Klas: Ja, og absolutt sant også. Du kan jo si at naturen har regler, du har fysiske lover, det er ikke det. Men hvis du ser det er grått på himmelen utenfor, så begynner du ikke å simulere været for å se om du skal ta med deg paraply, på en måte. Det er andre modeller du bygger inne i hjernen din som gir deg ditt beslutningsgrunnlag. Og det at du da frigjør deg fra disse sjakk-reglene, for eksempel, så lærer en jo reglene såklart, det vil automatisk læres av nettverket. For hver gang den går utenfor reglene så taper den jo. Og på samme måte, så kan du lære deg reglene uten å mate det inn på forhånd, og det gjør at du kan bruke samme algoritmen enda bredere til enda flere spill, for å si det sånn, men også til andre ting som kan være enda mer spennende sånn in real life. Så det er det som er model based planning.

Silvija: Ja. Altså, kanskje er politikk et spill, og kanskje er samfunnsstyring et spill, og kanskje er livet et spill. Det blir veldig spennende når vi liksom får mer og mer kraftige modeller og mer og mer fleksibilitet i dem fremover. Jeg har lyst til å avslutte egentlig- nei, jeg skal si bare en ting, og det leser jeg opp dine anbefalinger om bøker, Morten Goodwins «AI – myten om maskinene», og Terry Sejnowski «The Deep Learning Revolution», det er min favorittbok om AI forresten. Også på grunn av han, da. Men jeg syns det er fantastisk, og så er det veldig lurt for folk hvis de ikke har sett filmene «Ex Machina» og «She» å gå og se dem. Men jeg har lyst til å avslutte med ditt sitat. Og hvis vi snakker om at kanskje er livet et spill som kanskje kan simuleres og regnes på etter hvert på måter som vi ikke kan forestille oss foreløpig, så avslutter du nesten med det motsatte hvor du sier at "The mind, sir, is meat".

Klas: Ja, altså det er vanskelig å velge et sitat eller et livsmotto. Det er mange ting man kunne valgt. Men jeg syns det illustrerer en del av samtalen vi har hatt i dag også, at det sitatet det springer ut fra en slags materialistisk eller fysikalisme eller hva det heter. Det er et sitat fra Virginia Woolfs «To the Lighthouse» hvor det blir sagt. Men det handler om at bevissthet, intelligens, og mentale prosesser. Vi er litt tilbake til Francis Crick nå, det er i bunn og grunn, mener jeg, kun en konsekvens av hva som skjer i hjernen, hva som skjer fysisk i nevronene. Så det er litt det standpunktet som frontet der. Også er det en lang debatt, og ikke noe sånn sikkert med to streker under svaret. Men som forsker og som hjerneforsker som jeg har vært også, så er det jo det man tar utgangspunkt i for å forstå hjernen og forstå mentale prosesser, at de kan spores i konkrete vekselvirkninger og dynamikker i hjerneceller, nevroner og samspillet mellom dem.

Silvija: Klas Henning Pettersen, tusen takk for at du var med oss i denne samtalen om forskningsbasert innovasjon rundt kunstig intelligens, og hvordan det påvirker anvendelser av kunstig intelligens. Takk.

Klas: Takk for det Silvija, jeg kommer gjerne tilbake.

Du har nå lyttet til en podcast fra Lørn.Tech - en læringsdugnad om teknologi og samfunn. Nå kan du også få et læringssertifikat for å ha lyttet til denne podcasten, på vårt onlineuniversitet lørn.university