Blade Runner, I-Robot, Ex Machina. Hollywood og filmbransjen har lært oss å frykte den dagen AI-robotene kommer til makta. De egentlige problemstillingene rundt AI og kunstig intelligens er imidlertid hakket mer interessante: Hvem sitter med det etiske ansvaret når en algoritme tar beslutningene? Trenger vi et «algoritmetilsyn»? Og hvilke muligheter skaper teknologien for norske bedrifter?
I LØRN tror vi at alle kan være med på å gjøre seg opp en mening om veien videre – og at det er mye kunnskap å hente i en god samtale. I denne panelsamtalen møter du Klas H. Pettersen (CEO, NORA), Ishita Barua (Forsker, UiO), Inga Strümke (Forsker, NTNU Open AI Lab), Morten Goodwin (Professor, UiA) i uformell “nerdesamtale” med Silvija Seres.
Del 1: Silvija Seres presenterer State of Norwegian Tech
Del 2: Panelsamtale med Inga Strümke og Klas Henning Pettersen: Vil Norge ta egne valg eller følge strømmen?
Del 3: Panelsamtale med Ishita Barua og Morten Goodwin: AI innen medisin og helse
Klas H. Pettersen har siden april 2019 jobbet som daglig leder ved NORA – Norwegian Artificial Intelligence Research Consortium, et samarbeid mellom syv norske universiteter og to forskningsinstitutter innen kunstig intelligens, maskinlæring og robotikk. Han er opprinnelig utdannet sivilingeniør i fysikk fra NTNU, og har en doktorgrad i beregningsnevrovitenskap i 2007 fra NMBU.
Inga Strümke har forsket på bruk av maskinlæring i partikkelfysikk, og jobbet med kunstig intelligens siden hun avsluttet doktorgraden. Gjennom forskningen innså hun hvor utrolig bra, eller potensielt utrolig dårlig, kunstig intelligente løsninger kan fungere, avhengig av bruk og tolkning. Hun har diskutert relativitetsteori, gravitasjonsbølger, kvantefysikk, statistisk modellering og kunstig intelligens i ulike medier, engasjert seg sterkt i den nasjonale AI-debatten, har erfaring som keynote speaker internasjonalt og har holdt TEDx-foredrag om kunstig intelligens. Budskapet hennes er at det er viktig å være med på AI-utviklingen, men samtidig stille høye krav til forståelse og ansvarlig bruk, og alltid med mennesket i sentrum. Inga er i dag forsker ved Norwegian Open AI Lab på NTNU, og har en bistilling som forsker hos SimulaMet.
Ishita Barua er lege og stipendiat ved Oslo universitetssykehus og Universitetet i Oslo. Hun forsker på bruk av kunstig intelligens i medisin og ser blant annet på hvordan man kan bruke AI innen tarmkreftdiagnostikk. Hun har vært gjesteforsker på Harvard Medical School, er varamedlem i Bioteknologirådet og er kåret av NORA til en av topp 50 kvinner i Norge som former faget kunstig intelligens.
Morten Goodwin har utmerket seg som en av våre fremste eksperter på digitalisering og kunstig intelligens. Han er en aktiv forsker, samfunnsdebattant, formidler, og forfatter. Han har mer enn 15 års akademisk erfaring med en doktorgrad, en professortittel, mer enn hundre fagfellevurderte forskningsartikler, og kompetanse fra en rekke store forskningsprosjekter.
Bibliotek
Om LØRN
© 2023 LØRN AS
Velkommen til Lørn.Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.
Silvija Seres: Hei og velkommen til dette det webinaret om kunstig intelligens med Lørn. Jeg er Silvija Seres og gjestene mine i dag er Inga Strûmke og Klas Pettersen. Velkommen begge to.
Inga Strumke: Takk.
Silvija: Vi har snakket om kunstig intelligens, i hvert fall Klas og jeg i litt forskjellig settinger. Det blir veldig fort veldig teoretiske og veldig matematiske diskusjoner. Vi snakket vel egentlig også om hjernen versus nevrale nett og dyp læring og kjemi og så videre. Målet med denne samtalen, Inga og klass, er å gi folk et veldig sånn overordnet bilde av hvorfor kunstig intelligens er relevant og hvordan de kan komme i gang med å både lære seg noe og kanskje mene noe om kunstig intelligens. Og da har vi en halvtime på en god, uformell samtale oss tre imellom. Vi pleier alltid å begynne med å be folk introdusere seg kort, så da kan vi kanskje høre først med Inga og så med Klas. Hvem er dere, og hva er det som knytter dere til tema kunstig intelligens?
Inga: Jeg kommer fra fysikk, teoretisk fysikk og partikkelfysikk, så jeg liker å tenke på hvordan universet fungerer og også liker jeg å tenke på hvordan vi kan bruke datanalyse for å skjønne hvordan ting fungerer. Og det var sånn jeg kom inn i kunstig intelligens. Jeg har drevet mest med maskinlæring, litt sånn god gammeldags AI også. Men der det er penger og oppmerksomhet nå er i maskinlæring. Og nå er forsker på ntnu på Norwegian Open AI lab og underviser, forsker og koser meg.
Silvija: Supert. Og du Klas?
Klas Henning Pettersen: Jeg er og en teoretisk fysiker som bakgrunn. Så har jeg jobbet litt i næringsliv, Accenture. Så startet jeg etter det på en doktorgrad i teoretisk nevrovitenskap,altså vårt biologiske nevrale nettverk. Hjernen som jeg studerte og forska på i mange år. Alltid fulgt kunstig intelligens feltet som mange som forsker på hjernen gjør, og særlig når man driver med teoretisk nevrovitenskap. Og ble mer og mer engasjert inne i kunstig intelligens for det skjedde så veldig mye i feltet de siste ti årene så har det jo virkelig eksplodert. Etter hvert tok jeg overgangen inn i kunstig intelligens jeg også, og er nå daglig leder for NORA som er et samarbeid mellom åtte universiteter, tre høyskoler og fire forskningsinstitutter innenfor kunstig intelligens i Norge.
Silvija: Jeg tror til og med Lørn er medlem av deres grunder barnehage i NORA. Og utrolig kul koblings arena mellom både det praktiske og det teoretiske, forskningsmessige og anvendte innenfor AI kjempespennende prosjekt.
Klas: Som du sier kunstig intelligens er jo veldig åpen for innovasjon, så vi samarbeider også tett med masse oppstartsfirmaer. Hvor vi er fokusert på innovasjon og prøver å lage et økosystem i Norge hvor våre forskere fra universitetene samarbeider også inn mot oppstartsselskaper og innenfor innovasjon.
Silvija: Dere, jeg har en doktorgrad i algoritme optimalisering. Jeg har holdt på med logisk programmering og den gang, nå er det snart 25 år siden, så har man ikke turt å kalle det for kunstig intelligens. For da var det AI vinter, husker jeg. Og da var det bare sånne science fiction freaks som trodde på AI. Og det har skjedd noe veldig dramatisk, jeg vil si kanskje de siste fem år. Hvorfor sier så mange at AI kanskje er den viktigste grunnleggende teknologien i denne transformasjonen av alle bedrifter og samfunnet som vi ser nå? Hvorfor er er AI så hot nå? Kanskje vi kan starte med også hva det er?
Klas: Ja, jeg hopper i det jeg. Den store forskjellen nå kontra tidligere er at nå virker. Nå har vi faktisk produkter stort sett overalt, når man går inn i nettleseren, hvis man er på Facebook, hva du får opp i feeden din. Det er AI algoritmer. Du har det på mobiltelefonen når du googler, hvis du bruker Youtube eller forslag til neste film og så videre. Alt det her er AI. Så det er begynt å fungere og er kommet ut i samfunnet.
Silvija: Jeg bare syns at det er veldig fin inngang i dette her, så jeg oversetter det litt til sånn lego språk. Det er nesten sånn at det som var Signs fiction før har blitt science reality. Og det er i stor grad takket være AI og masse data, masse regnekraft og masse nettverk. Og jeg tenker at folk er ikke bevisste på det. Men det er som du sier hver gang du låser opp telefonen med fingeren din, og den har lært seg fort. Og den lærer seg å kjenne igjen både ditt og andres ansikt. Og det kan kanskje kombinere de bildene vi hører om deep fakes vi hører om masse som vi tenker at det høres veldig komplisert ut. Stor sjanse for at det er noe AI bak disse hverdags verktøyene som vi bruker alle sammen nå.
Klas: Absolutt. Inga har sikkert også mye utfylle med ansiktsgjenkjenning, som du sier bildegjenkjenning er jo et felt som har kommet veldig langt AI de senere år.
Inga: Et annet perspektiv vi kan ta på det er jo at AI er en samlebetegnelse for veldig mange ting, blant annet maskinlæring. Maskinlæring er automatisk dataanalyse og dataanalyse har liksom alltid fungert for oss. Tror aldri i historien noen har sagt at dataanalyse ikke fungerer. Det har vel aldri vært en dataanalyse vinter. Men vi har automatisk dataanalyse blitt en del av kunstig intelligens fordi at maskinlæring har begynt å fungere. Så maskiner analysere data selv. Det er nok en del nok en ekstra boost fra en metode som har begynt å fungere veldig godt, men jeg vet at det er mange der ute som skulle ønske at vi lot være å kalle alt mulig før AI og heller sa hva det var konkret. Nettopp fordi at vi har hatt mange AI vintre. Det er ikke umulig at det kommer en ny igjen fordi at AI virke å være en sånn drøm som vi aldri helt klare å leve opp til. Det må nødvendigvis bli en skuffelse, med mindre det står en terminator her en dag.
Silvija: Jeg tenker at det er et veldig godt eksempel på noe som vi kaller for Amaras lov om teknologi som sier at vi alltid overvurderer teknologien på kort sikt og undervurderer den på lang sikt. Og det kommer sånne helt urealistiske forventninger på hva som skal skje på ett-fem år. Men når vi snur oss tilbake etter 20 år, så er verden ugjenkjennelig, ikke sant? Der er AI et av de store ofrene, eller en av de tingene som det er veldig lett å drømme helt urimelig rundt.
Inga: Jeg tror at AI alltid er det vi ikke forvente at en datamaskin skulle klare. Jeg tror hvis du hadde sendt en smarttelefon tilbake i tid til da feltet ble grunnlagt, og vist det til en av pioneren, så kan det hende at de hadde sagt- jøss finnes kunstig intelligens, men du, hvis folk ser på telefonen sin, så tenkte de ikke at de kommunisere med en intelligent entitet. Det er fra da jeg jeg bare en sånn drøm vi vil dytte foran oss og en samlebetegnelse det.
Silvija: Jeg har lyst til å provosere litt fordi jeg sitter nå og lurer på om kanskje er forskjellen på kunstig intelligens og naturlig intelligens. At hadde du fått en kunstig intelligens til å finne ut av sine rammer så kommer den opp med en eller annen\definisjon til slutt. Spør du tre mennesker om hva kunstig intelligens er, så var det rimelig sikkert at de med deres naturlige intelligens ikke kommer til å bli enige om det. Og vi tre er et godt eksempel på det. For jeg er vel egentlig litt der at jeg skjønner ikke hvorfor folk hisser seg opp på forskjell mellom matematisk modellering, statistikk og kunstig intelligens. For meg er det litt sånn samma det. Masse regnekraft på masse data som finner veldig kule mønstre og så kan den kanskje også finne mønstre vi mennesker ikke kan finne. Men det er ganske mange nyanser her i mellom, på hvordan det systemet er satt opp og hvor generisk det er eller ikke er. Hva tenker du Inga og så Klas?
Inga: Ja, nå skal jeg gjøre som politikere gjør. Jeg kommer til å svare på et annet spørsmål enn det du stilte. Jeg synes det er veldig viktig, og det er det lærer jeg studentene mine nå. Jeg er så heldige å få lov til å undervise et fireårs fag, og der er det veldig mange flinke folk. Jeg er veldig nøye med å fortelle de at vi er nødt til å være veldig nøye med begrepene vi bruker. Hvis vi bare sier at jeg har laget en AI, så er det ingen som skjønner hva du har laget. og jeg tror det er kanskje derfor det klør deg litt at noen sier at matematisk modellering ikke er det samme som AI. Det er fordi AI er en samlebetegnelse og matematisk modellering er en av måtene man kan jobbe innenfor fagfeltet AI på. Så jeg tror at veldig mye uenighet, er sin uenighet fordi at vi ikke enige om begrepene vi bruker.
Klas: Så kan vi fokusere på det som virkelig har eksploderte i det siste som er dyp læring. Og det er jo en type kunstig intelligens som er inspirert av hjernen, hvor man har et kunstig nevralt nettverk, og som Silvija har nevnt flere ganger her så er bakgrunnen for at det fungerer så godt nå er at vi har fått stor regnekraft, klarer å parallelprosessere det her på gpu’er eller spesialiserte databrikker og veldig mye data. Og det her er jo noe som er skjedd bare de siste årene, kanskje fra 2012 noe med AlexNet som var første, spesifikt nevralt nettverk hvor man fikk veldig gode resultater å klarte og parallellprosessere ting.
Silvija: Hvis vi gjør dette her litt enkelt for folk, og så må dere arrestere meg hvis jeg overforenkling forbi det som er nyttig her, så tenker jeg at en av de store definisjons greiene i AI det er dette med generisk versus smal AI. Og jeg tenker at den smale den er anvendt på ett problemområde, type la bilen kjøre selv, eller hjelper radiologen å kjenne igjen kreftceller. Mens generisk AI er denne store drømmen om at datamaskiner skal engang tenke så bra som mennesker.
Inga: Det er vel generell vi kaller det, generell kunstig intelligens. At de skal være i stand til intelligent oppførsel i et generelt miljø. Altså ikke være laget for en spesiell oppgave, men for å kunne tilpasse seg generelle miljø.
Silvija: Og der tenker jeg at den robustheten vi mennesker har med å tilpasse oss generelle miljøer, bunner vel egentlig også litt i vår utrolig rare form for AI. Jeg har aldri skjønt helt hvorfor vi forventer at vi skal klare å bygge dette her inn i noen maskiner, sorry Klas.
Inga: Det er jo veldig spennede for man har jo intelligens begrepet såklart på mennesker og, hvor man og kan være intelligent innefor spesifikke fagområder. Man kan være kjempe god i sjakk, men det viser seg stadig vekk at de beste i sjakk ikke nødvendigvis er intelligente på andre områder i livet. Og så var det vel allerede i 1904 hvis jeg husker riktig at Spearman introduserte det han kalte en g-faktor innenfor intelligens område på mennesker. For det man så var jo at en som var intelligent i et fagområde, det var en korrelasjon. Så ofte er de intelligent også på flere områder i livet da. Og det er den generelle intelligensen som mennesker og har samme at du kan være knall intelligent innenfor et område, men ikke nødvendigvis et annet. Men så snakker man i dagliglivet, særlig om intellignes som litt mer den generelle intelligensen. Og det samme har man jo da innenfor algoritmer. Og har du algortimer som er knallgode på bildegjenkjenning eller å spille sjakk, for eksempel. Men de er ikke generelle enda, vi er langt fra en slags generell kunstig intelligens i fagfeltet kunstig intelligens.
Silvija: En av de tingene som fascinerer meg der, er at det er veldig mange som har lest da Daniel Kahneman og Thinking fast and slow. Og alle disse kognitive bias, altså disse kognitive shortcuts*, hva heter det på norsk?
Inga: Snarveier.
Silvija: Snarveier! Som vi mennesker bruker og som ofte fungerer, men av og til fører til katastrofer. Amos Tversky som har jobbet med han ble spurt om han er bekymret for kunstig intelligens og en verden hvor det blir for mye kunstig intelligens. Og så sier han at nei, det eneste han er bekymret for er naturlig dumhet. Vi mennesker er også av og til litt arrogante i forhold til hvor fantastisk vår egen intelligens er. Hjelp meg bare veldig kort å sortere litt rundt disse begrepene på, hvis vi sier at det fins da.- Hva sa du, Inga? Generell kunstig intelligens og smal kunstig intelligens eller anvendt. Også finnes det forskjellige grader av smarthet til disse, eller forskjellige matematiske metoder som leder til veldig forskjellig effektivitet i kunstig intelligens. Og hvis jeg sier fire kategorier si om jeg har klart å dekke det viktigste. Det ene jeg tenker på er ekspert systemer, så tenker jeg på maskinlæring, så tenker jeg på dyplæring og nevrale nettverk. Og så er det kanskje kanskje noe mer her. Type disse modelleringsystemer eller noe mer som statistikk satt på strøm da.
Inga: Jeg vil putte dyplæring og statistikk satt på strøm inn under maskinlæring, maskinlæring er automatisk statistisk analyse og dyplæring er en måte å gjøre maskinlæring på. Vi skal prøve å få til fire da innenfor kunstig intelligens ville jeg hatt som du sier, ekspert systemr og folkefavoritten er jo clippy i word. Husker dere den der sykt irriterende bindersen? Det er et Expert system, er det rart gikk av moten? Så har vi maskinlæring, så har vi resonnering og formelle system og formell logikk og så videre. Og så vil jeg si at vi har robotikk. Det ville vært liksom mine fire greiner innenfor AI.
Silvija: Vi kommer tilbake til hva de er, men du putter da matematisk modellering og dyplæring inn i maskinlæring. Du hadde en veldig fin definisjon på det Inga du sa det er automatisk statistikk, mønstergjenkjenning og data analyse også også data.
Inga: Data og mål inn, korrelasjonsgjenkjenning ut.
Silvija: korrelasjoner er et vanskelig ord, men kan man si mønstre?
Inga: Ja. Eller så kan man gå å øve, og så kan man lære seg å si korrelasjoner. Og så kan man bygge nøyaktig det begrepet man mener.
Silvija: Så kan man miste middagspartneren sin
Inga: Du får finne noen andre, jeg kan bli med på middag.
Silvija: Da kan vi nerde sammen. Blir så mye bedre etter et glass vin, vetdu.
Inga: Ja, vin og god stemning korrelerer.
Silvija: Hva sier du Klas?
Klas: Jeg er helt enig. Vin og god stemning korrelere ofte, men ikke alltid. Men det er nok en slags korrelasjon der.
Silvija: Det viser også forskjell på naturlig og kunstig intelligens. Jeg vet ikke om maskinene ville synes dette er så veldig morsomt.
Inga: Det er sant. Humor er vanskelig å få frem hos en kunstig intelligens. Jeg er enig med den grov inndeling der da og det som er spesielt igjen med maskinlæring er jo at det typisk lærer da. Og datamengder og prosessorkraft har vært viktig, og disse dyplæring som Inga helt riktig plasserte inn under maskinlæring. Der er det jo virkelig skjedd mye de senere årene og det er jo det du ofte leser om i mediene. Og det er jo også der du har en viss grad av inspirasjon fra hjernen. Hvor man bygger opp et kunstig nevralt nettverk, akkurat som vår hjerne er et nevrale nettverk. Så det er jo det man ofte ser i media nå for tiden.
Silvija: Vi kommer tilbake til Inga om et lite øyeblikk. Jeg har bare lyst å henge meg litt inn i humor som tema, fordi alle vi som har lest disse gamle gode scinence fiction* greiene, så har man altdi en eller annen sånn super intelligent datamaskin som skal prøve å lære seg humor. Og det går så dårlig. Og det har noe med hva humor er, det er vår menneskelige evne til å deilgihte*, til å kose oss med det ulogiske. Når noen slenger inn noe av det motsatte av det som ville vært naturlig å si eller og snakke om, så er det morsomt, ikke sant? Og det er ikke så veldig lett å lære det bort til maskinene, fordi de klarer ikke å se den konteksten hvor tvetydighet plutselig blir morsom.
Inga: Nei. Særlig det er en nøkkelordet der- kose seg. En maskin koser seg jo ikke det. Det var vel også det Kasparov sa da han ganske overraskende for han selv tapte sin kamp mot deep blue for mange, mange år siden, hvor han gikk illsint ut. Han hadde ikke regnet med tap mot en maskin, han var jo egentlig ikke vandt til å tape i det hele tatt. Han tapte jo aldri, egentlig. Så tapte han mot en maskin, og da var kommentarene hans, men nøt deep blue seiren? Det er en del algoritmer nå som faktisk lager noe som mennesker kan gjenkjenne som humor. Noen ganger så blir det veldig feil og veldig teit, men jeg har sett algoritmer som gjør det relativt bra også, i hvert fall hvis du velger ut de som fungerer på en måte. Men det er klart maskinen i seg selv har ikke noe humor den bare etterligner et mønster.
Silvija: Jeg tror at vi mennesker har også en sånn iboende evne til å kose oss over mønstre, altså vi liker å finne mønstre. Og det er kanskje noe av det som driver vår intelligens. Jeg satt i bilen i dag og trengte litt Dire Straits gitt situasjon i verden. Den rytmen som de klarer å dra meg med på, som den gleden over rytmen og mønstrene og så videre. Det tror jeg er en driver i menneskelig intelligens, det er en driver i maskin intelligens også, men som du sier Klas. De skal bare gjøre jobben, ikke nødvendigvis kose seg med jobben. Inga, over til dine fire. Hvis vi holder maskinlæring som det store utenfor. Så hadde du tre andre. Det ene er ekspert systemer, det andre er formelle syntaktiskesystemer og det tredje var robotikk.
Inga: Nå må jeg bare si at det her dro jeg frem nå. Jeg vet ikke om det her gjelder som faktisk den formelle definisjonen på områdene til kunstig intelligens.
Silvija: Vi prøver å hjelpe folk å forstå litt, og så skal vi egentlig bruke resten av tiden på maskinlæring. Og hvorfor det har blitt egentlig relevant for verden og bedrifter. Men men la oss bare tikke av de fire. Hvorfor er robotikk kunstig intelligens?
Inga: Målet med robotikk jeg jo å lage fysiske, autonome systemer, vil jeg si. Så det er jo kanskje mer denne tradisjonelle maskiner skal gjøre jobben for oss tanken. Altså vi mennesker har jo alltid likt å bygge maskiner som skal gjøre den tunge løfting og de farlige oppgavene for oss.
Silvija: Teslaen min er en god robot. Den har masse sensorer og klarer å forholde seg til verden og klare etterhvert å skjønne mer og mer om verden, men i grunnen så gjør den det den er programmert til å gjøre.
Inga: Med det er jo litt maskinlæring inne i Teslaen din, for å gjøre skiltgjenkjenning. For at tesalen din skal klare å skjønne hva den ser på, så brukes det maskinlæring, så det vel kanskje når alle de her forskjellige tilnærmingene kobles sammen at vi faktisk får ut intelligent oppførsel. Det har jo vært diskutert mye i de forskjellige fagmiljøene at kanskje ikke en av de her veiene er veien til intelligens, men at man må sette sammen flere. Vi mennesker kan både lære som du sa fra mønster. Vi kan gjøre mønstergjenkjenning som ville vært maskinlæring, men vi kan og resonnere. Det er vel det som er system 2 i Kahneman sin bok. Vi kan skjønne når vi må sette oss ned og tenke saktere og logisk gjennom ting, så bruker vi jo sånn sett teknikker fra flere områder innen kunstig intelligens. Så jeg vil si at i Teslaen din har vi både robotikk og maskinlæring, minimum.
Klas: Ja, og maskinlæringen der er imponerende og har forandret seg veldig myede siste årene, for der også bygger man dype nevrale nettverk. Endringen som er skjedd underveis i Tesla var at tidligere så ble beslutningene som din bil gjorde, de ble i basert direkte på videostrømmen den fikk inn som bilder da. Men det som er skjedd nå er at i de nye versjonene så lager de, og det er veldig likt hvordan menneskehjernen fungerer. De lager en forenklet modell av virkeligheten. Så du kan se en slags data animasjon av de viktigste tingene som er foran bilen, og så gjør den maskinlæringen og beslutningene på den modellen. Så maskinlæring blir både brukt til å gjenkjenne verden rundt seg og hva som er foran bilen, men også så har du mellom steget hvor du lager en slags mental modell i Teslaen, og det er den forenklede mentale modellen man gjør beslutninger på, egentlig.
Silvija: La oss holde på med Tesla litt til. Min Tesla er hos min far som kjører som er 82år og kjører mine barn veldig mye. Og han er en av de mest intelligente menneskene jeg vet om. Men det er veldig fascinerende å se hvordan dette intelligente mennesker krangler med den intelligente bilen. De er helt uenig. Men denne Teslaen har en model av verden rundt seg, og det er noe spennende datastrukturer og noe generalisering i abstraksjoner som er med i denne modellen. Den lærer om den verden rundt seg som et barn på mange måter. Det jeg har lyst til at dere skal kommentere på er det sånn at den modellen er verden som min Tesla, og kanskje derfor også alle de andre Teslaene og, blir den bedre over tid?
Klas: Det er i hvert fall håpet og tanken er. Og det er jo ikke sånn at en Tesla lærer bare, her lærer alle Teslaen sammen. Så du har potensiellt en voldsom datainnsamling som den kan lære av. Men man ser jo stadig vekk da at ting går litt i rykk og napp ettersom det kommer nye algoritmiske fremskritt og så videre. Og det er jo ikke alltid at ting går i riktig retning heller, men stort sett gjør den det. Hver gang du griper inn og overstyrer autopiloten, så kan jo den filmen i prinsippet bli sendt til Tesla, og så kan de se hva som gikk feil. Og så trener de ekstra på det som gikk feil, for å prøve å tette det hullet. Så det er jo sånn denne teknologien går fremover.
Silvija: Okay og maskinlæringen her dreier seg da om at en finner nye mønstre i de dataene om verden rundt seg, men kanskje også om sine egne data eller hvor er maskinlæring? Bare for å gjenta det en gang til for folk?
Inga: Der vet jeg ikke om jeg skjønte spørsmålet?
Silvija: I eksemplet rundt Tesla. Hva betyr maskinlæring i det eksemplet.
Klas: I hjernen, som i kunstig nevrale nettverk så har du enkelte bestanddeler som man kaller nevroner. De er blitt koblet sammen i et stort nettverk, i hjernen og i kunstig intelligente nevrale nettverk så har du noe som heter synapser, altså sammenknyttninger mellom disse nevronene. Og læring i hjernen, akkurat som i kunstig intelligens, er når disse sammenknyttningene, det er i prinsippet i et kunstig nøytralt nettverk, bare et tall som viser hvor sterkt to sånne nevroner er knyttet sammen. Og når du gjør noe feil eller noe riktig, så kan det gi tilbakemelding til systemet ditt om det var bra eller ikke. Og så kan du forandre disse vektene mellom sånn som signaler flyter lettere eller ved vanskeligere mellom to nevroner. Og det er det som er læringsprosessen hvor man tilbake propagandere gjennom hele nettverket et signal som forandrer disse vektene på synapsene.
Silvija: Og dette skjer i en datamaskin som bor et eller annet sted i bunnen av min Tesla?
Inga: Og det vil være mange maskinlæringsmodeller i en Tesla. Altså, en vil være flink til å tolke det den ser. Og en vil være flink å tolke signalene som kommer fra dekkene for å finne ut om den sklir. Så det vil være mange forskjellige sånne smale kunstig intelligneser som du nevnte tidligere, som er eksperter på sitt område da. Det har ikke noe hensikt i seg selv å lage en enorm maskinlæringsmodell som kan styre en hel bil og tolke alle dataene som kommer fra de forskjellige plassene. Det er jo mye lettere å optimalisere en modell med et lite ansvarsområde.
Silvija: Så litt sånn som mennesker her et gjerne her, er det en eller et hjerne? Jeg vet ikke det engang.
Inga: En hjerne.
Silvija: En hjerne her og en hjerne i magen. Så har Teslaen vår en hjerne i dekkene og en hjerne i kartene sine og så videre.
Inga: Noen ganger tenker jeg at den antropomorfisering kan gå for langt.
Klas: Men vi har mange prosesser i hjernen vår som er mer eller mindre sammenkoblet. Veldig mye er jo også automatisert, ikke sant. Og sånn er det også i roboter. Hvis en robot faller, så er det typisk en forhåndsprogrammert algoritme som reiser den opp igjen. Mens hvis den går rundt og utforsker ting, så er det et helt annet nettverk som styrer hvordan den agerer.Sånn er både både i hjernen og i en kunstige nevralt nettverk hjerne. Og hvis du går til Tesla og avanserte roboter og så videre, så er det flere nettverk og flere moduler som styrer det sammen.
Silvija: Men dere, vi snakket litt om maskinlæring, og vi snakket litt om robotikk nå relatert til noe som folk kan forestille seg. Fins det noe expert systemer og noen formelle syntaktiske systemer som vi kunne hektet på eksemplet? Hvor brukes et ekspert system? Du nevnte den word bindersen.
Inga: Clippy.
Silvija: Clippy ja. I helsevesen, diagnostikk, eller hvor hva er de mest vanlige eksemplene, så folk kan ha et bilde i hodet på de.
Inga: Ja ekspert systemer var vel den mest populære kunstig intelligensen en veldig lang periode,fordi da hadde en ekspert satt seg ned, og liksom hard kodet ekspertisen sin da. Og så kunne noen som ikke var ekspert bruke systemet og få ut ekspertise i andre enden. Så de første chatbotene, jeg tror de fleste chatbotene i verden fremdeles er ekspert systemer, men jeg vet ikke Klas, du har sikkert noen eksempler fra helsevesenet?
Klas: Innenfor helse som du nevner Silvija så hadde du programmer hvor du kunne programere inn blodtrykk over det, samtidig som du har det og det symptomet og det symptomet, så kommer konklusjonene i bunn. Masse input som du legger igjen og avhengig av de inputene så går det nedover et slags beslutningstre. Og så ender du i en beslutning på hva du skal gjøre, og det kan du kalle kunstig intelligens. Vanligvis så tenker man på intelligens at man bør lære og bli klokere med tiden. Men det er klart man kan tenke seg at man har en slags omnipotent kunstig intelligens som bare kan alt, og som er perfekt og som er kjempe intelligent. Og da har man helt klart kunstig intelligens, så en intelligens må ikke lære, men det er som jeg sier, i de senere årene at disse lærende systemene. Som dyp læring og så videre, har jo virkeligtatt over i de senere årene.
Silvija: Hvis jeg prøver å overforenkle nå, la oss si et sjakkspill. Så hvis jeg hadde programmert dette sjakkspillet til å vite hva som er lovlige trekk, og kanskje også hva som er lure trekk hvis man tenker to-tre steg frem da. Ut ifra hvert så er det en slags ekspert system. Men hvis den klarer å lære utav sine egne spill og utvide repertoaret sitt, så begynner vi å bevege oss mot maskinlæring.
Inga: Så den første du nevnte var jo Stockfish, som var den beste sjakk datamaskinen frem til 2017. Og så kom Alphazero og tok over og det var en maskinlæringsmodell som hadde lært seg å bli grise god i sjakk av å spille mot seg selv. Og er fremdeles ubeseiret.
Silvija: Ja. Og to andre eksempler. Denne Deep Blue som vant over Kasparov, var det ekspert system eller?
Inga: Ja, det var en bragd av søkealgoritmer og ha smarte måte å sette sammen ekspert systemer på og hardware og i det hele tatt med. Det var ingen maskinlæring der.
Silvija: Og det var den samme maskinen mer eller mindre som vant over disse gutta Jepoardy og det også virket som super intelligent, men det var også bare masse masse, masse regler?
Inga: IBM watson?
Silvija: Ja.
Klas: Jeg vet ikke hvordan den fungerer, men utviklingen innen sjakkcomputere er jo akkurat som dere sier, og det er også spennende at de første versjonene var på en måte hardkodet, og brukte bruteforce* på å regne seg frem over alle mulige varianter. Også er det masse tabeller, i sluttspill så skal du spille sånn og sånn. Og jeg tror den første maskinen der hadde vel også alle Kasparovs partier, som den på matte visste hvordan Kasparov pleide å spille og så videre for den skulle jo møte ham. Mens etter hvert så er de godt over, som Inga sier Alphazero bruker opplærings teknikker, men den har også noe som kalles for monte carlo research. Hvor den søker seg fremover i varianter også videre. Men den er også to nevrale nettverk, noe som heter policy network og value network. Hvor han vurderer stillingen og kan søke veldig effektivt. Det er jo det som er den egentlige hensikten.
Silvija: Dere nå må inga gå og eksaminere folk. Men inga, hvis jeg kan låne deg ett minutt til. Vi har egentlig ikke kommet inn i deigen ordentlig, for vi er kommet til å beskrive noen gode eksempler på maskinlæring, men dette her er nå relevant for alle bedrifter, og det er noen veldig spennende dilemmaer også. Du har nevnt for oss, eller du og Klas har nevnt temaer som forklarbarhet og algoritmetilsyn som relevante for fremtiden. Kan dere si noe om det veldig kort?
Inga: Kan vi ikke heller få komme tilbake? Nei, men du har rett. SSB sin statistikk fra i fjor viste jo at en av ti norske bedrifter bruke kunstig intelligens på en eller annen måte. Det er sinnssykt mye,tenk på alle bedriftene i Norge. En av ti bruker kunstig intelligens. Jeg har gått i bresjen virkelig for et algoritmetilsyn før, fordi at jeg tror det ville ha gjort oss en tjeneste i Norge. Det ville ha gitt oss større grunn til å stole på kunstig intelligent systemer på akkurat samme måte som vi gjør andre revisjonener og har et mattilsyn og så videre. Og det ville hjelpe oss å gjøre de avklaringene vi trenger i Norge på hva er lov og hva er lurt, det vil gi oss en anledning til å diskutere standarder, standard fremgangsmåte og faktisk også til å bygge kompetanse selv. For jeg er litt bekymret på hvor mye basiskunnskap og kompetanse vi kommer til å ha på kunstig intelligens fremover i Norge, fordi trenden er å kjøpe systemer i stedet for å utvikle dem selv. Og det er bra. Det er lurt, det vanvittig dyrt og det vanvittige karbonavtrykk og utvikle store maskinlæringsmodeller. Så hadde jeg vært konsulent for en bedrift, hadde alltid anbefalt dem å kjøpe et system. Men hadde jeg vært politikere i Norge, så hadde jeg alltid bedt folk om å faktisk utvikle systemene selv, sånn at vi får lit egenkompetanse. Veldig mange aspekter der. Jeg kommer veldig gjerne tilbake å prate om det også.
Silvija: Avslutningsvis Klas, si to setninger om forklarbarhet. Og så lover vi å komme tilbake til dette her blant annet i Master class som du skal gå i dybden på det på. Hvorfor skal folk bry seg om forklarbarhet?
Inga: Det her er utrolig spennende og utrolig viktig, og det er ikke alltid det er like lett å forstå hvorfor en algoritme gjør en bestemt beslutning. Og som menneske så vil man gjerne forstå beslutningen og spesifikt hvis det brukes innenfor NAV-system eller et eller annet som har stor påvirkning på livet ditt. Så vil vi ikke bare få the computer says no*. At du bare får et avslag, du vil ha en god forklaring, og det skal du også ha. Og derfor så må vi ha forklarbar kunstig intelligens i mange områder. Og så har Inga og jeg diskuterte før om man må ha det i alle områder eller ikke. Og det er en spennende diskusjonen da uten et klart fasitsvar.
Silvija: Veldig bra, tusen takk for en god prat om kunstig intelligens og fremtidige muligheter, eller i hvert fall nåtidens dilemmaer. Takk!
Du har nå lyttet til en podcast fra Lørn.Tech – en læringsdugnad om teknologi og samfunn. Nå kan du også få et læring sertifikat for å ha lyttet til denne podcasten på vårt online universitet Lørn.University.
Velkommen til Lørn.Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.
Silvija: Hei og velkommen til dette andre panelet i Lørn Ai deep dive webinaret. Med oss nå har vi Ishita Barua og Morten Goodwin, og de er mine personlige helter på formidling rundt AI og for forskning og anvendte muligheter for Aii Norge. Og jeg gleder meg veldig til å høre litt mer, både praktisk og anvendt på helseområdet om hvorfor er AI relevant for oss? Før vi gjør det, så håper jeg vi kan høre hvem dere er og hvorfor dere syns tematikken er spennende, og da tar vi samme rekkefølgen som vi ser navnene i headingen, og da er det Ishita først og så Morten. Velkommen.
Ishita: Tusen hjertelig takk. Jeg heter da Ishita Barua. Jeg er lege og stipendiat ved Oslo universitetssykehus og Universitet i Oslo. Jeg forsker på bruk av kunstig intelligens innenfor tarmkreftscreening og koloskopi som er en form for tarmkikkert undersøkelse inne i tykktarmen. Der man leter etter forstadier til tarmkreft eller faktisk tarmkreft svulst. Og det er jo bare en av måtene å bruke Ai på innenfor helsevesenet. Det finnes og vil etter hvert utvikles enda flere former for å utnytte dette ekstremt sterke verktøyet kan man jo kalle og supplere hos leger. Og så er det jo sånn at innenfor denne forskningen er det fortsatt veldig prematurt det er ikke veldig mange sykehus som har tatt dette i bruk. Egentlig ingen, det er mest på forskningsstadiet foreløpig. Så det vi ser frem til er egentlig at flere leger i tiden fremover, de neste par årene kanskje får oppleve å ta dette i bruk og gjøre jobben sin enda bedre.
Morten: Så hyggelig. Jeg kjenner jo Ishita fra før jeg er Morten Goodwin, professor ved Universitet i Agder og Oslo-Met, og har litt tentakler andre steder også. Men jobber med kunstig intelligens, men fra et informatikk ståsted så jeg lager disse dataprogrammene, jeg lager disse dype algoritmene som det ofte kalles. Og mange av de områdene jeg jobber er utenfor helse, men mange av de er innenfor helse også. Blant annet så jobber vi med å predikere tilstedeværelse av Alzheimer fra en MRI bilder. Ligger det an til at denne personen får Alzheimer eller en annen kognitiv utfordring kanskje? Vi jobber med hudsykdommer sammen med et firma som etter Askin som da skal oppdage forskjellige sykdommer, enten det er type akne som utvikler seg over tid, det er sår som kanskje ikke gror som det skal, eller det er mer alvorlige sykdommer som kreft og så videre. Som man bruker kunstig intelligens til å hjelpe legene. Fordi det Ishita sier om å hjelpe legene tror jeg er nøkkelen. Og så holder jeg på med et firma som heter Aiveo, hvor vi da jobber med aldersdemens og kunstig intelligens. Så tanken der er å hjelpe folk som har en demenssykdom, for eksempel Alzheimer og få en litt bedre hverdag, få en bedre kobling med de rundt dem. Kan man kommunisere med en person som er på vei til å miste taleevnen, for eksempel på grunn av demens? Så helt enig i det Ishita sier, dette er verktøy som kan hjelpe leger.
Silvija: Dette er en interessant samtaler, både for det er folk som jobber i medisin, folk som jobber med utvikling av teknologi for medisinsk bruk eller velferds bruk for den saks skyld, men også for alle de andre blant oss som har behov for disse tjenestene og kommer etter hvert til å ha noen av legene våre, i hvert fall i lomma vår i telefonen vår, for eksempel. Det verktøyet som du nevnte Morten Ask Me. Er det hva du sa?
Morten: Askin, ja.
Silvija: Askin.
Morten: Det står skin, for hud. Så artificial skin, kanskje.
Silvija: Jeg har faktisk blitt anbefalt å ta det i bruk, nylig i et apotek hvor apotekeren sa at dette var veldig nyttig hvis du bare lurer på om det var noe eksem greier og sånn. Det er så det er så krevende å få tid hos spesialister og så videre. Så det er ikke det at det skal erstatte legen, men av og til kan det bare hjelpe deg å bestemme deg om dette er noe du må gå videre med eller ikke. Og sånn blir det mer og mer av fremover.
Morten: Helt enig. Askin appen er et veldig godt eksempel. Der sitter det leger, selvfølgelig med god kompetanse, dermatologer, hudleger. Som får informasjon, får et bilde fra en bruker og lurer på er dette et eksem som jeg bør behandle eller noe vanlig? Utvikler den seg over tid som den skal, eller fungerer medisinen type? Også er vi ganske sikre på og vi har sett masse eksempler på at når du putter kunstig intelligens på toppen av dette, så får legene mer informasjon, mer innsikt og bedre forståelse av det som skjer. Så som du sier på ingen måte en lege, egentlig, men det er mer et verktøy som gjør at de får litt bedre måte å jobbe på, sånn at de kan ta en bedre avgjørelse og kanskje litt raskere avgjørelse også. En av de tingene som visstnok er vanlig, har legende fortalt meg, er at det bare se det litt an er et vanlig svar, da over tid. Kanskje pasienter tenker at de vil gjerne ha noe mer. Mens en av de litt sånn tricky tingene her, dette er en sykdom som utvikler seg såret blir litt større, eksemet blir det større, og å bare se det litt an, kan det da være noe som man kan gjøre delvis automatisk. Ta et bilde hver dag, for eksempel uten at man trenger medisinsk konsultasjon hele tiden. Og da kan man se, blir for eksempel såret litt mindre hver dag, og da funker det som det skal da.
Silvija: jeg har lyst til å kommentere bare veldig fort før vi før vi slipper inn Ishita. Og så håper jeg egentlig at dere to kan utveksle de beste erfaringene dere har. Men det ene jeg har lyst til å si Morten er at medisin er et utrolig potent område for å anvende AI og så vil AI påvirke alle aspektene av våre liv. Så det er veldig spennende for folk om de tenker overføringsverdi av det vi snakker om her, fra medisin til mye annet. Og så vil jeg også si at det dere nevnte begge to om aldersdemens og andre aldersrelaterte, mentale, kroniske sykdommer. Dette kommer kanskje til å være et av våre største folk i helseproblemer når vi lever så ekstremt lenge som vi gjør fremover. Sånn at dette her er også veldig, veldig viktig for å effektivisere samfunnet vårt fremover for å kunne finansiere helse.
Morten: Helt enig. Og aldersdemens er også utrolig spennende. Det er jo skumle sykdommer, Alzheimer og disse andre, og man mister koblingen med og man mister følelsen med sin mor eller sin far eller sin onkel eller hva det er. Men så vet man at disse har det bra eller har det ikke bra, gjør litt rare ting, de går ut uten jakke på og midt på natten, for eksempel. Og det er mye sånn ting som er aldersdemente har utfordringer med, som kunstig intelligens kan hjelpe til. Så alternativet er jo ofte å sende folk på sykehjem og aldershjem og sånt. Ofte så må man det, men her kan man da kanskje få teknologi til å hjelpe både de som har den demenssykdommen og få en bedre hverdag, men vel så mye folk som er i nærheten og tenker hvordan har mamma hatt det i dag? Har hun hatt det bra? Eller har hun ikke hatt det bra? Klarer jeg å snakke litt med henne på en måte som er litt vanskelig ellers. Og den typen kjærlighet som kunstig intelligens kan hjelpe litt til med. Det tror jeg har god styrke. Poenget er ikke teknologien, selv om jeg er teknologi nerd og ikke har gjort noen annet hele livet, så er jo ikke det poenget. Poenget er, her skal vi få det bedre for disse demente eller de som har sykdom, eller de som da eventuelt har forstadiet til tarmkreft. Er du enige Ishita?
Ishita: Jo jeg er helt enig. Det var jo også sånn det startet for min del, selv om jeg alltid har likt realfagene veldig godt, sånn at det kunne også like gjerne vært at jeg hadde gått inn i matte eller naturfag, biologi, eller noe annet. Men det ble medisin, og med det så betyr det at det det var, selv om det er en interesse der for naturvitenskapelige metoder, så er det litt en annen måte å jobbe på innenfor medisin. Det er mye mer empirisk, evidensbasert, og en annen tilnærming for at det er menneske i sentrum. Som gjør at for eksempel når du står der og undersøker en pasient eller skal utrede pasienten, du skal finne ut hvorfor vedkommende har de og de symptomene, hvordan du kan hjelpe pasienten med å oppnå smertefrihet eller at du finner ut hvorfor noe er galt, hvorfor noen har vondt. Så er det en helt annen måte å tenke på, og det er der kunstig intelligens kan komme inn som en veldig, veldig nyttig og potent verktøy som vi har diskutert her nå. Jeg har fortalt denne historien her flere ganger. Så til de av lytterne som har hørt den før så beklager jeg, men den er veldig illustrerende for hvordan man starter med kunstig intelligens når man er lege og har en helt annen bakgrunn. Og står der som en ganske fersk, ferdig turnuslege som skal begynne rett på spesialiserings biten. Jeg hadde valgt meg inn i koloskopi og se på dette her med tarmkikkert undersøkelser og gjøre koloskopier. Og det jeg ble veldig fort klar over, som jeg selvfølgelig skjønte gjennom hele turnustiden, er at du er og helt prisgitt dine egne evner, din egen fagkunnskap og erfaring, sånn at hvis du har lite erfaring, så er du desto mer avhengig av gode kollegaer rundt deg. Og så er det til syvende og sist du som likevel må ta noen selvstendige valg. Det er ikke alltid du har en kollega i umiddelbar nærhet. Du kan også ha en dårlig dag. Du kan være sliten, du kan være trøtt. I motsetning til roboter så er vi på en måte mennesker av kjøtt og bein, sånn at det er litt annerledes for vår del. Og når du gjør undersøkelser, så blir du veldig bevisst på at her må du være topp fokusert. Du må være nesten som en idrettsutøver. Det er menneskeliv det er snakk om. Sånn at i opplæringen av disse undersøkelsene tenkte jeg litt på at det herregud, hvis jeg blunker, det er nok. Det er selvfølgelig ikke så små marginer, alltid, men det kan være. Og da når du undersøker tykktarmen og ser etter forstadier til tarmkreft. Dette er ørsmå forandringer, det er ikke alltid man ser dem med det blotte øye, men som oftes så gjør man det. Man skal lete etter disse, man er ganske uerfaren. Da er du prisgitt å ha en god veileder bak deg, det er det ene. Du står ikke alene og gjør disse tingene i starten, men på et eller annet tidspunkt så skal du bli selvstendig. Sånn at du må være veldig bevisst på både dine egne begrensninger rett og slett. Da slår det deg og veldig ofte. Finnes det noen verktøy som kan gjøre den jobben enten bedre enn deg, eller at du blir flinkere til å gjøre jobben? Så det var sånn dette med kunstig intelligens, for meg, startet denne interessen. Vi har faktisk verktøy som kan gjøre oss flinkere. Som tidligere nevnt, det gjelder ikke bare innenfor koloskopi, men typisk ting som som tar for seg billeddiagnostikk hvor det blotte øye ikke nødvendigvis være det aller beste verktøyet, men at du har maskiner, du har kunstig intelligens som både ser bedre, men også kan hjelpe deg med å skille mellom farlige forstadier. Det var en veldig sånn hands on måte å komme inn i denne verdenen på for en som er lege og som egentlig ikke har noen teknisk bakgrunn. Det tror jeg kanskje blir måten veldig mange andre vil komme inn på det her og.
Morten: Vi har jo forskjellig inngangsvinkel, min er jo mer teknisk, lage algoritmer og så videre. Og når jeg trener opp den kunstige klienten som vi ofte gjør, så deler jeg dataen i to. Jeg tar en del og trener dataprogrammet opp og påpasser at det funker. Også tar jeg en annen og tester det. Og så er jeg egentlig ferdig jeg, da er det slutt med min algoritme. Enten det er for å oppdage hudsykdommer eller prediksjon av Alzheimer og så videre, og så publisere jeg artikkelen og så videre. Men jeg vet at du vil gjerne ha ett steg til, vil du ikke det Ishita? Hva som er hva som mangler i min verden?
Ishita: Det jeg tenker ofte er litt av, kanskje til og med et kommunikasjonsproblem mellom teknologer og klinikere er at å teste ut en modell, en maskinlærings modell på et ferdig innsamlet datamateriale. Det er på en måte det som er det vanligste, disse retrospektive studiene. Hvor du har et datasett, du har kanskje journaler, du har tilgang på ekte pasientjournaler, og så har du en maskinlærings modell som for eksempel kan finne frem til allergier hos pasientene å lese mange tusenvis-millioner av journaler på en måte som selvfølgelig menneskelige leger ikke kan. Vi verken kommer til å klare det på den tiden eller huske det som står der eller finne frem. Det er en konkurranse vi taper veldig lett. Så hvis du har en maskinlærings modell som kunne gjort den jobben, så ville det typisk sett blitt testet ut på disse retrospektive dataene, som allerede er samlet inn. Det du da får, veldig ofte er et resultat som er litt kunstig i den forstand at dette er ikke sånn det kommer til å gjøres. Det er ikke sånn det vil brukes nødvendigvis i klinikken. Og det er heller ikke da testet i en ekte klinisk setting, fordi den tar ikke inn ytre faktorer som når legene er innblandet i dette her. Til sammenligning så kan du si at hvis du hadde brukt en sånn maskin læringsmodell på nye pasienter som blir inkludert, og nye journaler, for eksempel i en setting hvor det er legene selv som bruker denne maskinlærings modellen, så vil du ikke nødvendigvis se det samme resultat. Og det er det de få studiene som er gjort, som kalles av prospektive, de er ikke er samlet inn allerede, men det foregår i sanntid. Så ser du at resultatene spriker mye mer, sånn at ideelt sett så hadde jeg sett for meg at man gjør både de studier som allerede gjøres nå de retrospektive, men at de etterfølges av mer kliniske studier hvor ekte leger er med og faktisk bruker disse maskinlærings modellene. Jeg tror ikke dette her skyldes brukerfeil alene. Jeg tror det skyldes ytre faktorer vi ikke helt har forstått. For eksempel, min egen erfaring er at jeg kan ta en maskinlæring modell i en etasje av et sykehus, gå ned en etasje å ikke få det samme resultatet. Så den generaliserbarheten er ikke testet ut godt nok uten at man har noen god forklaring på hvorfor det skjer. Til sammenligning så vil ikke en lege miste ferdighetene sine på vei ned den trappa fra en etasje til en annen. Jeg tror at det å teste ut ting i ekte kliniske situasjoner med ekte pasienter er helt essensielt. Jeg tror dette her er blitt snakket så mye om nå at det er også noe vi kommer til å se. Litt av problemet er jo egentlig at det at det må satses på, det må allokeres ressurser, og det tar lang, lang tid å gjøre sånne studier. Det er grunnen til at vi har, hvis du sammenligner med legemiddel studier, så tar det, før i hvertfall før pandemien så tok det 10-15 år og lage vaksiner. Vi har ikke 10-15 år på oss til å finne ut av om en maskinlærings modell fungerer eller ikke, da er den utdatert.
Morten: Jeg helt enig i at man må ha et klinisk studie etterpå. Når man trener opp disse algoritmene, selv om man er metodisk korrekt og deler dataen i to og så videre, så blir man allikevel veldig ekspert på akkurat det datasettet. Og hvis det er, la oss si 100 pasienter, så er du ekspert på akkurat de, og da kan man tweake og få disse algoritmene til å bli veldig god, men på akkurat den type ting. Selv om alt er riktig, så kan det være utfordring der. Men det er ikke alltid det heller er tilfelle. Som jeg nevnte tidligere så jobber vi litt med prediksjon av Alzheimer, og der har vi gått gjennom en rekke publiserte studier, men på et kjent datasett som heter ADME som er et sånt amerikansk datasett for alzheimer pasienter. Og har funnet ut det at det er enormt mye metodiske svakheter, selv på informatikk metodikk biten, altså type. Man kan predikere tilstedeværelse av Alzheimer med 99 % nøyaktighet mange år frem i tid som er helt totalt urealistisk å gjøre. Og da ser vi at det er veldig lett å slurve bittelitt med studiene ved teknologi biten som gjør at man virker magisk veldig, veldig, veldig, veldig bra. Det er ikke så lett å merke når vi sitter å leker med de dataen hele tiden også plutselig fungerer det helt voldsomt bra, nå er det på tide å publisere. Og da er jeg veldig glad for at det sitter noen og gjør disse studiene etterpå. Og med nye pasienter og finner ut ting. Så det ene er de metodiske utfordringene, og det andre er at man finner gjerne statistiske sammenhenger som ikke nødvendigvis er en sammenheng. Når det gjelder alzheimers så vil alder være en sånn ting, men det kan være veldig mye annet. Det kan være størrelsen på skallen for eksempel, som ikke har noe med hjernen å gjøre, men som likevel er bare ved tilfeldigheter at noen har litt større skalle, litt mindre skalle. Så mye sånt som kommer som jeg tenker vi informatikere og dataloger bør være litt flinkere på å tenke, er det virkelig sånn at disse dataene er så bra?
Ishita: Veldig enig i det, Morten. Jeg får i hvert fall spørsmål om det, typisk studenter som ikke studerer medisin, men men informatikk eller dataprogrammering. Hvor de på en måte skal lære mer om hvordan vi bruker AI innenfor helse, så spør de seg ofte. Men hvorfor er det så farlig om legene blir erstattet? Hvorfor er ikke det bare bra? Hvis de ikke kan gjøre jobben like bra, hvorfor kan de ikke bare erstattes? Og da er det en forståelse for at hva er bedre, og det å se etter sammenhenger som du var inne på. Teoretisk sett så kan man jo se for seg at man samler inn data gjennom omtrent en overvåkingsmekanisme, samler inn alt mulig av data. Og så lar man et kunstig intelligent system finne sammenhenger som vi mennesker ikke ser. Vil det da være reelle sammenhenger? Og er det egentlig viktig for oss? Innenfor medisin, så har det veldig liten verdi å prøve å avdekke bare helt vilkårlig datasett å bare prøve å se sammenhenger hvis ikke du har en liten hunch om hvor sammenhengen sitter.
Morten: Men, hvorfor gir det ikke mening å finne sammenhenger av store data?
Ishita: Jeg tror at da blir du ledet til å for det første så vil du se veldig mange muligheter for sammenhenger som kommer til å vise seg å ikke ha noe sammenheng. Så du bruker tiden din dårlig. Det er det ene. Det vil være helt uendelig antall muligheter, sånn at hvis du heller systematisk velger deg ut noen variabler som er mer sannsynlig vil ha en sammenheng, så gir det litt mer mening. Så poenget er å Spisse det inn. Hva er mer sannsynlig? Hvilke variabler, Hvilke outcomes eller utfall er det som er relevante? Hvis ikke så vil du få en sammenheng hvor det er helt vilkårlige ting som tas med. Si at du har en overvåking av hva folk gjør i en husstand, at man får registrert hva folk spiser når de later vannet, når de legger seg. Alle den type metrics vil bli registrert. Plutselig så får du ut i den andre enden at det kanskje er en sammenheng mellom de som får kreft og de som spiser blåbær hver mandag, bare for å ta noe helt søkt. Den sammenhengen er ikke nødvendigvis reell. Vi kan undersøke den, men det kommer til å komme veldig, veldig mange forslag av den typen der. Da er det bedre å finne ut i forkant å gjøre litt mer forberedelse av hvilke variabler er det som mest sannsynlig har noe å si. Og dette her er jo fordi mulighetene er uendelig og at datakapasiteten er uendelig. Så betyr det at vår oppmerksomhet om hva vi bruker tid på kan ledes inn i veldig, veldig mye. Så ja, på sikt, hvis man klarer å spisse ned til å se på hvilke variabler som er viktig. Så ja, teoretisk sett så kan du bli bedre. Men per i dag så er vi ikke der. Vi må bruke fokus på de fenomenene som kalles for eksempel da overdiagnostikk, overbehandling. Som er egentlig et fenomen om behandling som gir liten eller ingen effekt på en sykdom som man prøver å behandle. Det er en enkel definisjon av overdiagnostikk og overbehandling, og i noen tilfeller så kan det da være slik at sykdommen den ville gått over av seg selv, eller at nytten av behandling er mindre enn de ulempene det medfører for pasienten. Så den type hensyn at man ikke skaper merarbeid for legene, for eksempel radiologer som skal bruke AI verktøy for å finne lettere frem til beinbrudd eller bein kreft, for eksempel. Men så er ikke verktøyet fininnstilt nok til at det faktisk reduserer arbeidsmengden i stedet for så har den bare økt, den type ting. Det er akkurat det samme at vi må fokusere arbeidet vårt, selv om vi teoretisk sett kunne samlet inn alt mulig av data, bare lett etter sammenhenger. De kan bli vilkårlige.
Morten: Siden kunstig intelligens er problematisk, så kommer den sannsynligvis ofte. Så vil det også være falske positiver, og jeg vet at dere leger har en god forståelse for hva det er. Men som lek person når Apple Watch min sier hjerteproblem type, så er det lett å bli litt skremt, ikke sant? Jeg tenker at i tillegg til det finner du bare statistiske sammenhenger som ikke er reelle eller ikke kausale, der det ikke er en årsakssammenheng. Så vil du da også få denne mangelen på forståelse av falske positiver og falske negativer. Sykdom som ikke er sykdom, ikke sykdom som er sykdom. Som jeg synes kan være litt skummelt hvis vi da begyner å måle alt mulig rart i kroppen.
Ishita: Helt riktig som du sier, det er jo en sykeliggjøring det også, at du måler alt mulig rart. På medisinstudiet så lærte vi at hvis du bare leter godt nok, så finner du sykdom hos alle, og det går litt inn på det der. At noe kan tilsynelatende være litt avvikende, for eksempel i en blodprøve, så trenger det ikke å ha noe å si senere. Så det å være god på og måtte skille ut falske positive og falske negative så ikke de leder til mer sykdom eller sykdomsfølelse som egentlig ikke er reell. Det det også viktig for det videre arbeidet med kunstig intelligens.
Morten: Men dette fordrer jo data, ikke sant? Og jeg har fått tilgang til noe data som er på internett eller noe sånt som jeg håper er kvalitetssikret. Og så bruker jeg kunstig intelligens på toppen av dette for å predikere en sykdom eller finne en utvikling av sykdom eller noe sånn. Så det jeg sliter med i hverdagen er å få tak i nok data for å trene opp mine kunstig intelligens. Så jeg har til og med vært tilbudt data fra andre land, fra Kina og flere steder, for det det er der dataene er tilgjengelig. Så i min ideelle verden så ville det vært lettere for meg som informatiker og få tilgang til litt av dine data Ishita og andres data på sykehuset. Men i dag så er det litt tricky. Hvordan ville du gått fram hvis du hadde en idé om å dele data bedre?
Ishita: Nei, det er jo en utfordring, jeg er helt jeg helt enig med deg i det. At den tilgangen til data for forskere innenfor alle fagfelt, den er veldig smal og den er altfor kronglete. Og så forstår jeg hvorfor, dette er sensitive personopplysninger, men det kontroversielle med det er jo at vi har veldig lite hemninger med å dele disse samme type dataene med en Apple Watch, mens når det er et sykehus som skal få dem så er det helt andre mekanismer som slår inn som gjør at det ikke er like enkelt å dele. Og så tror jeg et springende punkt i dette her er at folk villig deler sine egne data med wearables, altså disse at Apple watchene og diverse andre duppeditter, men opplever at de får en rask avkastning. De deler data fordi de får vite noe om seg selv der og da, mens når de deler noe med institusjoner, så ser de kanskje aldri noe til det. Hvem er det som husker å lese på studien som kommer om to-tre år hvor de selv var med å bidra, men det er anonymisert. De ser ikke sitt eget bidrag. Det ligger ingen umiddelbar avkastning i det personlig, men jeg tror at det det er en motivasjonsfaktor der og. Så selv om vi klarer å dele data og alt med GDPR løses er det likevel motivasjonen til å dele data med offentlig institusjoner som er helt annerledes og en helt annen motivasjonen kreves der enn det det er for den personlige, hvor du bare selv ser. Dette er blodtrykket mitt hver dag, det er en veldig intuitiv forståelse og en veldig hands on gevinst for en selv. Det er ikke stor-forskning. Det kommer ikke til å bli noe Multicenter studiet ut av det nødvendigisvis, men det gir deg veldig, veldig mye tilfredsstillelse å følge med på. Jeg tror vi må finne mekanismer for både hvordan vi rekrutterer pasienter og deltagere inn i studier. Hva slags motivasjon skal ligge der? Det er ikke sikkert at det finnes noe god løsning på det, det er ikke sånn umiddelbart at jeg tenker at man skal tilby noe gaver. Man må finne gode insentiver for det, men man må i hvert fall se på hvordan man får rekruttert, og så se på hvordan skal forskere på i ulike fagfelt, ulike institusjoner få delt dataene. Sånn at man slipper å måtte ty til data fra andre parter hvor man ikke har helt kontroll på hvor dataene kommer fra, for eksempel andre land.
Morten: Et initiativ da som er i ferd med å starte opp, er noe som kommer fra Forskningsrådet som heter infrastruktur. Og dere har vi sammen med Universitet i Oslo og flere andre fått penger til Norwegian Ai Cloud. Og det er ment for at leger skal komme litt nærmere kunstig intelligens og andre samfunnsaktører egentlig. Sånn at man kan dele personsensitiv data hvis dette blir suksess. At du som lege kan for eksempel hive på noen tarmkreft-bilder med navn og alder og så videre. Trene opp en kunstig intelligens i denne skyen og få informasjon tilbake, uten at du nødvendigvis trenger å tenke på det personsensitiv på det. Men andre veien også, hvis du har noe data som du har lyst til å dele med andre som kan være anonymisert og så videre, så kan man laste de opp, og så kan alle i hele denne clouden få tilgang. For dagens cloud er jo ofte amerikansk basert og er litt vanskelig å bruke, hvertfall for sånne veldig sensitiv data som dette her er. Vi må jo få legene til å komme nærmere den kunstige grensen, for det er jo verktøy for dem, eller for dere. Og dette er en måte å hoppe litt i riktig retning. Og der har Forskningsrådet vært veldig spandable, og det setter vi veldig pris på, Så de må nevnes når de kan. Så heller en skyløsning, for det er litt som bilkjøring, det er ikke sånn at vi burde gi alle leger en doktorgrad innen kunstig intelligens eller fem års studie på informatikk for å kunne bruke kunstig intelligens. De må allikevel skjønne at det finnes sannsynlighet for at den kommer med falske positiver, at den er så god som de dataene den blir trent med, akkurat de tingene du sier. Så kanskje denne Norwegian Ai Cloud kan være en liten måte for å få dere leger enda mer interesserte i kunstig intelligens.
Ishita: Jeg er helt enig i det. Jeg også deler det synet at det er ikke sånn at man skal ta en utdannelse nødvendigvis, og det er hvor anvendelig det er i ens egen kliniske praksis og daglig virke som spiller en rolle. Jeg sier ikke at alle trenger å være med på å utvikle algoritmer eller være med og bidra til at notasjonen for eksempel. Finne de riktige datamaterialene, vurdere hva skal inn og hva er ikke egnet. Men det jeg tror man kan begynne med er å ha en fremoverlent holdning i klinikkene blant de som skal kjøpe inn. Det finnes allerede verktøy som er CE merket, altså det er godkjent for bruk på sykehus. Man kan begynne der, men det krever også at man har gått igjennom retningslinjene for hvordan det tas inn. Og det er ikke helt på plass og det igjen, akkurat som med legemidler som blir vurdert ut i fra kliniske studier så må man begynne der. I påvente av de, så har man jo allerede noe som er klarert. Hva må skaffe seg litt erfaring med hvordan dette fungerer på norske sykehus eller i allmennlegekontoret. At man tar i bruk noe som er veldokumentert i den grad det finnes, og at man prøver det. Og så tenker jeg at man skaffer seg noen erfaringer som gjør at man får et lite forsprang og en sånn en edruelig teknologioptimisme blant de som skal bruke det de neste par årene. Og så er jeg helt enig med deg at neste steg også er å få leger til å engasjere seg mer i utviklingen av algoritmer. Men det er ikke nødvendigvis for alle. Man kan begynne med og bare rett og slett bruke de verktøyene som allerede finnes i dag.
Morten: Både i helse og i andre fagfelt, så er jeg helt avhengig av at jeg snakker med noen som kan fagfeltet. Sånn som jeg snakker med deg nå Ishita, så vet jeg at du kan lege-verden, ikke sant? Og bare at jeg hopper på en kunstig intelligens for å løse noe hud eller noe tarmsykdommer og så videre kan kanskje funke, men det er jo i det samarbeidet som hvertfall jeg ser mye av styrken til det norske systemet og informatikk systemet og så videre. Og da tenker jeg at det kan være en god oppsummering. Vi trenger data fra hverandre, vi trenger å dele data når det gir mening, og vi trenger kanskje ikke vær så redde for den kunstige intelligensen for dette veldig, veldig gode verktøy som kan hjelpe alle pasienter, men også alle leger og hvert fall litt på sikt. Så har jeg fått den æren av å til og med takke av på vegne av Lørn. Så tipper jeg at du kan finne noe mer Lørn materiale på Lørn sin nettside og så videre. Det var kjempehyggelig å snakke med deg Ishita.
Silvija: Takk i like måte, Morten.
Morten: Da snakkes vi.
Du har nå lyttet til en podcast fra Lørn.Tech – en læringsdugnad om teknologi og samfunn. Nå kan du også få et læring sertifikat for å ha lyttet til denne podcasten på vårt online universitet Lørn.University.
