Velkommen til LØRN.Tech - en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.

Silvija Seres: Hei og velkommen til LØRN og podcast serien som vi lager sammen med NKI. Serien samler lærerik og inspirerende personer og samtaler innen fagområdene som NKI underviser i. I dag skal jeg Silvija Seres fra Lørn snakke med Anders Haakenstad fra NKI og Anne Siri Bekkelund fra Teknologirådet om fremtidens helse og omsorgstjenester. Og i denne andre samtalen skal vi fokusere på nye arbeidsformer, og da kanskje også spesifikt samarbeid mellom mennesker og maskiner. Anders Har du lyst til å serve denne ballen og tenke på arbeids formmessig, hva er det som blir mest annerledes?

Anders Haakenstad: Det tror jeg er kanskje litt det vi akkurat snakket om i den forrige samtalen vår. At ikke man nødvendigvis blir erstattet av teknologi, men man må kunne anvende slik at man blir en slags hybrid mellom teknologi og en person som utfører det. Så det å ha kunnskapen og evnen til å lære seg ny teknologi og vite hva det gir og hva som kan være potensielle feilkilder med det tror jeg er det som blir fremtiden. Det er veldig fort gjort å tenke at teknologien ser veldig avansert ut, og bare stole blindt på at det finnes ingen feil her. Men det gjør det nok i aller høyeste grad, selv om noe koster veldig mye. Og vi er kommet veldig langt, så det å kjenne til det og alle som benytter redskapene er kjent med det tror blir en veldig viktig del av helse rollen i fremtiden.

Silvija: Hva tenker du Anne Siri? 

Anne Siri Bekkelund: Jeg tenker at noe av det som det som kommer til å skje er jo at tid, sted og rom blir litt annerledes. For å få utnyttet alle de mulighetene og for at vi skal jobbe sammen og med teknologi på en god måte, så må man sannsynligvis endre litt hvordan en del tjenester er organisert. Og som du nevnte så vidt Silvija, så handler det jo om at når systemer, maskiner kan hjelpe oss, så kan noen andre ta over oppgaven. Som vi var inne på i forrige samtale, jeg som sitter hjemme kan kanskje gjøre en del målinger og følge med på en del ting selv så jeg får kanskje et ansvar som pasient. En sykepleier kan kanskje gjøre ting som tidligere var utført av en lege. En mer allmennlege på for eksempel fastlegekontoret kan kanskje gjøre noe annet som det tidligere måtte en spesialist for. Sånn at her flyttes oppgaver, og i tillegg er det en mulig trend som følge av dette at flere type prosesser smelter sammen. Utredning, diagnose og behandling smelter sammen. Det kan kanskje skje på samme tid og på samme sted. Pasienten møter opp en gang, får en utredning og en diagnose. For eksempel av en kreftsvulst eller noe sånt, for det går mye fortere å diagnostisere den. Og "smack" så gjennomfører du operasjonen i samme vending. Det er en kjempe fordel for pasienter.

Silvija: Jeg skjønner effektiviteten.

Anne Siri: Det er effektivt, men også veldig bra for en pasient som slipper å gå å vente og lure. Både vente på svar og vente på å få plass til behandling og så videre, men det klart for at det skal kunne skje i praksis som må helsetjenester omorganiseres ganske kraftig, og yrkesgrupper som ikke har vært vant til å jobbe sammen tidligere må kanskje gjøre det. Dette er noe som man har eksperimentert med på Oslo universitetssykehus vet jeg. At radiologer har jobbet sammen med de på kirurgisk avdeling. Og da må du tenke hele flyten gjennom sykehusene. Og det er jo en ganske stor greie å begynn å forandre på. Men det er noe det som skjer når maskiner og systemer kommer inn i bildet og kan gjøre en del oppgaver kjappere og enklere. Men for at du skal få utnytta det, så må du da kanskje flytte oppgaver rundt og bytte om på hvordan ting er organisert.

Silvija: Vi snakket også om dette her med forskyvning av rolle til pasient. Det jeg er redd for er at vi driver og googler alle sammen alt mulig rart og overbelaster helsevesenet. Hvordan skal folk klare å prioritere? Og hvordan skal de klare å guide oss med denne her friheten vår. Er er det noe som burde automatiseres? Organiseres annerledes?

Anne Siri: Det er jo en veldig reell fare, og det gjelder nesten alle sånne nye systemer, og særlig diagnoser eller systemer som skal oppdage risiko og sånn som du tar i bruk. Enten det er nye verktøy hos fastlegen din, eller at det er ting du gjør selv, er jo at de sier fra heller en gang for mye enn en gang for lite. Man er redd for å gå glipp av noe, for det ville være dårlig omdømme også videre. Men da er jo selvfølgelig faren at folk begynner å gå til legen for alt mulig rart. Og dermed det som da skulle være besparende for helsevesenet, blir da heller en belastning fordi folk bruker det for mye. Så det er en veldig reell fare, og det gjelder nesten alle disse verktøyene. Kanskje særlig dem som du er inne på, sånn hjemme utstyrer egen overvåking. Så hvordan man skal håndtere det? For utstyret og løsninger som kommer fra det offentlige, som man har kontroll på gjennom offentlig helsetjeneste. Så må du på en måte se på hvert enkelt system. Hvor ofte skal det si i fra også videre. For privat utstyr som vi bare skaffer oss helt på egen hånd kan jo på en måte ikke helsetjenesten gjøre så mye med. Der må vi heller bevissthet og folkeopplysning, tror jeg. Og selvfølgelig de selskapene som driver med sånt utstyr må lære seg det ansvaret bevisst. .

Anders: Kan det også være et problem - en ting er at vi kan samle mer informasjon hjemme og anskaffe det ved å lese på nettet, eller hvis vi har en smartklokke eller et annet apparat som måler det. Men den ledende teknologien gjør jo at man kan finne ting som man kanskje ellers aldri burde ha funnet. Og det kan man jo si at i noen tilfeller vil det være veldig bra. Det kan redde noen, men i noen tilfeller særlig innenfor dette med kreft som jeg har vært med i et veldig stort forskningsprosjekt i, så tenkte jeg at det var problematisk at der kom helt friske kvinner inn. Det er ikke sikkert de noen gang ever hadde visst at de hadde brystkreft, for eksempel da. Med mindre de gikk inn til screening. Og så fant de det som en annen del av en annen undersøkelse da, som i utgangspunktet følte seg som friske. Og det ser man jo i kreft statistikken og, at det er jo veldig de tidlige stadiene man finner det i. Og det gjør jo det at hvis man leiter, så finne man jo da, og ved at man får så god teknologi at man kan måle så mye, så kan det nesten bli sånn at man overbelaster helsevesenet fordi at man finner så mange ting som man kan måle og se på endringer på at det rett og slett kan ende opp i flere diagnoser som ikke nødvendigvis hadde blitt et problem.

Anne Siri: Ja, og dette er jo helt klart parallellen til de tradisjonelle brede screening programmene som man jo diskuterer om. Ja, du finner kanskje noen flere potensielt farlige tilfeller og og noen ganger noen tilfeller som reelt er farlig og som du aldri burde funnet ellers. Men det fører også til at noen blir behandlet unødvendig for en tilstand som ikke ville ha utviklet seg til noe verre. Og behandling er farlig. Sånn generelt, det øker jo alltid risikoen. Så unødvendig behandling skal man ikke drive med. Det er et dilemma. Men der kan jo også teknologien hjelpe på andre måter, for eksempel. Apropos screening programmer og den type ting, så kan det jo hjelpe til å faktisk velge ut høyrisikogrupper fordi de kan analysere store mengder data, finne mønstre, finne ut hvem er det vi bør kalle inn for å treffe mer presis, sånn at du ikke kaller inn for mange unødvendig. Så der kan du på en måte også lage andre systemer som kan som kan hjelpe deg å sortere da. Så der kan det virke på begge sider.

Silvija: Dere, jeg har lyst å snakke litt om roboter. Blant annet i dette programmet som jeg snakket med Norsk Sykepleierforbund, men også i et annet program med hjelpepleiere. Så har vi sett at omsorgstjenesten kan bruke noen av de sosiale robotene, blant annet Faro som er denne robotselen hos demente folk for å roe dem ned. De hadde veldig god effekt på å roe ned folk i bytte mellom omsorgsarbeidere. Og jeg var i utgangspunktet skeptisk til bruken av sosiale roboter. Men så viser det seg de har gode effekter. Det var også effekter av VR, for eksempel hvor du putter folk i et sånt virtuelt isbad når du skal bytte forbrenninga bandasje og det visstnok minsker subjektiv smerteopplevelse. Og så er det noe i meg som sier at det er mye bedre når et menneske gjør dette enn at jeg kjøper meg fri. Eller at det er liksom en sånn billig løsning å bruke teknologien. Hvordan tenker vi på det? Eller kommer dette til å bli en kulturendring hvor vi kommer bare til å bli glade for all den teknologiske hjelpen vi kan få, og så prioritere mennesker til det bare mennesker kan gjøre?

Anders: Hvis jeg skal si noe der, så er det forskjell på intensjoner og resultat. Selvfølgelig har vi en intensjon om at alle skal få menneskelig kontakt og menneskelig hjelp. Og det hadde vært det ideelle. En annen ting er om det faktisk er mulig, sånn at spørsmålet er ikke om man skal ha menneske eller robot, men om det er en så god erstatning man kan gjøre da. Sånn at hvis det viser seg at det har dokumentert effekt at det har en gevinst å bruke roboter. Hvis alternativet da er å være i en kø eller ikke få det, så vil jo jeg da si at det er en kjempe vinning da. Men hvis det skal 100% erstattes, så er min første tanke uten at jeg har noe data på det at det å fjerne det menneskelige aspektet helt bort vil antageligvis gå utover opplevelsen av kvaliteten.

Anne Siri: Det er jo litt sånn her at det beste må ikke bli det godes fiende, er det ikke det vi sier? Så der tenker jeg at man må være litt pragmatisk og se som Anders sier på forskningen og om det fungerer faktisk. Du er nødt til å følge veldig nøye med på om det faktisk har den effekten, at ikke du bare "luller"  deg inn i en tro på at dette er sikkert bra. Og så er det egentlig ikke det, eller at det kan ha negative sideeffekter. Så man må være ganske nøye når man gjør det. Det er jo litt sånn etiske dilemmaer der, og særlig tror jeg det er viktig etter hvert som det kan bli vanskelig å skille mellom om du snakker nå med en maskin eller et menneske. For eksempel i fjern løsninger, chatbots og sånt har jo blitt såpass god at veldig mange lar seg allerede lure. De klarer ikke å skille nødvendigvis mellom om det er et menneske i den andre enden eller ikke. Og det tenker jeg er noe sånn grunnleggende etisk. Jeg synes man må vite hva det er man samhandler med. Det er jo klart at for demente personer som du trekker frem er det jo ekstra etiske dilemmaer der. Jeg vet ikke om det er en flåsete sammenligning, men vi gir jo barna våre kosedyr.

Silvija: Vi gir dem ipader også, og jeg tenker av og til om både smokk og ipad, nobelpris til dem som fant dem opp når du sitter i en lang biltur. 

Anne Siri: Men for eksempel at kosekluten roer ned barnet ditt når den skal overnatte hos noen den ikke har overnattet hos før, det er ingen som ser på det som et etisk dilemma fordi egentlig burde jeg vært der å roe ned barnet. Tilbake til at du bør tenke nøye gjennom hva det er og om det er en unnskyldning for å kutte ned på bemanning for eksempel også sjekker du ikke helt hvordan det gikk, og da er du mer over i det problematiske landskapet. 

Anders: Jeg synes det var veldig interessant det du sa der med dette med botter og sånn, fordi en ting er at det er ikke det vi omgås til vanlig, men at det sitter boter bak en skjerm og at det er vanskelig å skille på om du kommuniserer med et menneske eller en robot. Jeg var faktisk på et foredrag her for bare et par uker siden med NKI og da var det noen som holdt på med virtuelle og alt mulig tech og metaverse, og der snakket det om et studie rundt informasjon på covid hvor de sa at med Twitter profiler så var det 40-60% av all informasjon som kom om covid på Twitter var fra botter. Og det kan jo da være en enorm mulighet for å spre propaganda informasjon, også har vi egentlig ikke peiling på hvor det kommer fra så lenge det ser proft nok ut og godt nok kamuflert som et menneske ville gjort. Og det tenker jeg er et problem. 

Anne Siri: Men samtidig så skal man ikke underkjenne. Så for eksempel så kjenner jeg dette fra mental helse feltet, at for en del grupper - det er jo allerede et eksperiment fra 60-tallet med en veldig enkel chatbot som heter Eliza. Alle som snakket med den eller skrev med den visste at det var et dataprogram. Og dette var blant annet krigsveteraner som brukte den og snakket med den, og de likte at det ikke var et menneske. For de følte at de kunne være ærligere og mer åpne selv om det var en utrolig enkel chatbot. Så for noen grupper så kan det faktisk være helt greit at de ikke snakker med et menneske, men jeg tror de skal vite at det gjelder definitivt ikke alle. Det er noen grupper også synes jeg definitivt at man skal vite hvem det er som er i den andre enden eller ikke.

Silvija: La oss bare ta et eksempel med type demente personer og ensomhets problemet. Og skulle man da utsette dem for en sånn robot med stemme som de bli trygge på, og som å høre på deres historie og samme spørsmål 50 ganger om dagen uten å bli utålmodig. Og er det bra eller ikke bra? Og jeg tror at vi går i en tid hvor, hvis jeg skal oppsummere litt jeg har hørt dere si hittil, er at vi er nødt til å lære å bruke den teknologien på en sånn positiv og  opportunistisk måte. Vi har et ansvar og gjør oss kjent med den og samtidig gjøre våre etiske vurderinger. Og at den samtalen som de som jobber i helse har mellom seg og med resten av samfunnet, blir en veldig viktig del av hvordan vår fremtidig helse kommer til å ta i bruk denne teknologien og de maskinene. Jeg vet ikke Anne Siri eller Anders om dere vil kommentere. Kan det bli for mye teknologi? 

Anne Siri: Jeg har hvert fall et innspill, og det er at vi kan risikere at vi stoler litt for mye på teknologien fordi den virker så smart. Og da er det kanskje for mye teknologi, fordi den virker så intelligent eller at du har hørt så mye positivt, så stoler du kanskje for mye på teknologien, og da da er det åpenbart for mye teknologi. Og som vi var inne på tidligere. Det er også for mye teknologi hvis det fører til at vi blir veldig, veldig bekymret for vår egen helse hele tiden, eller at du får den type over behandlings problematikk. Og når en for eksempel en lege eller en sykepleier møter en pasient, så er det utrolig mange ting som dette menneske kan oppfatte og vurdere som en maskin aldri vil være i stand til. Og hvordan de små, subtile tegnene henger sammen, og dette læres og trenes jo helsepersonell oppi. Og de trener også opp en egen intuisjon på det. Så lukt, temperatur, men også sammenheng med kroppsspråk og sånt som er veldig vanskelig for maskiner å fange opp i noe særlig grad. Og hvis du da erstatter maskiner med det, så fanger de kanskje opp andre ting. Kanskje mer sånn tekniske målinger og sånn, men de kan også gå glipp av en del informasjon, og da er det også blitt for mye teknologi, kan du si.

Anders: Ja, jeg er helt enig. Jeg tenker alt til sitt formål. Det er ikke noe som er nødvendig bare dårlig eller bare bra. Og så lenge man bruker det riktig, for eksempel dette med å finne informasjon av en lege. La oss si det er en sjelden pasient som har en sjelden tilstand, og han vil vite om det er noen andre som har vært borti dette før. Hvis du da har en robot eller teknologi som kan søke gjennom hele internett på 2,5 minutter og se om det finnes noe lignende case av det. Og da kunne få verdifull informasjon, så vil jeg si det er kjempebra. Men det finnes jo x antall områder som du snakker om og hvor det kan bli for mye. Det blir kan bli et problem også. Alt til sitt formål er en liten klisjé.

Silvija: Veldig bra. Alt til sitt formål. Men klokken går veldig fort i utviklingen, og vi skal snakke i neste samtale om hvordan kan man være med på den innovasjon og utviklingen og hvordan man kan også styre den, kanskje fra samfunnets eller regulerings perspektiv. Tusen takk så langt.

Du har nå lyttet til en podcast fra LØRN.Tech - en læringsdugnad om teknologi og samfunn. Nå kan du også få et læring sertifikat for å ha lyttet til denne podcasten på vårt online universitet LØRN.University