Velkommen til Lørn.Tech – en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.

Silvija Seres: Hei og velkommen til Lørn! Tema i dag er Lørnsoc, mitt navn er Silvija Seres og min gjest heter Jill Walker Rettberg som er professor i digital kultur ved Universitetet i Bergen. Velkommen Jill!

Jill Walker Rettberg: Takk skal du ha!

Silvija: Vi skal snakke om et utrolig spennende felt, som du er professor i. Det dreier seg om hvordan digitalisering og mennesker møtes.

Jill: Ja det stemmer. 

Silvija: Det er et område som kommer mer og mer opp på agendaen og i diverse avisartikler og man leser om algoritmer og etikk, om data og demokrati, og masse. Vi er egentlig ganske kunnskapsløse om all den forskningen som allerede har blitt gjort, for all denne utviklingen har faktisk ikke skjedd i vakuum. Vi gleder oss masse til å lære mer om digital kultur da, men før vi gjør det kan du si veldig kort: hvem er du? Og hvor kommer du fra?

Jill: Jeg er en 49 år gammel Bergenser med aner fra Australia. Professor i digital kultur fra universitetet i Bergen. Jeg har tre barn, og jeg elsker å forske på ny teknologi. 

Silvija: Litt sånn personlig: de barna dine, påvirker de hva du forsker på?

Jill: Ja, de gjør jo det! Jeg skrev en artikkel om Tik Tok og ny måter å bruke håndbevegelser på i forhold til Emojis. Rett og slett fordi barna begynte å bruke Tik Tok, og viste meg hvordan det virket. Man lærer jo veldig mye om hvordan barn bruker nye medier. 

Silvija: Ja, og hvordan de på en måte finner noen sånne «short cuts» da, også sier jeg «nei, sånn kan du ikke gjøre!», men jo se det funker. Det er ganske interessant. 

Jill: Samtidig, så får jeg streng beskjed av barna mine om å ikke fortelle vennene deres om alt det skumle som kan skje på Youtube. Litt redd for at de skal bli ekstremister av å se på Youtube, fordi dette har jeg sett mange forskningsartikler om. 

Silvija: Ja. Men du, digital kultur: hva betyr det?

Jill: Altså, vi ser på det digitale, altså på teknologien, men fra et humanistisk perspektiv. Vi er interessert i å se hvordan folk bruker teknologien for å uttrykke seg, hvordan vi bruker det estetisk, hvordan vi bruker det for å finne ut av identieten vår. Men også etiske spørsmål. Hva skjer når man innfører nye teknologier? Ansiktsovervåkning i hjemmene våre for eksempel. Hva gjør det med oss rent menneskelig og kulturelt? Vi er interessert i å se på historiske skift, men også på det helt nye. Det er jo det som virkelig er gøy da.

Silvija: Jeg syns det er så spennende, og så veldig vanskelig, jeg tenkte på dette med budding effect. Han som oppfant gressklipperen, altså hvor viktig oppfinnelse var det egentlig? Hva gjorde det med oss mennesker? Hva gjorde det med samfunnene våre? Det var i utgangspunktet kanskje ikke så farlig, men så skapte det fotballindustrien, ikke sant? Og sånn er det også med bilen, hvordan det endret oss mennesker, og samfunnene våres. Sånn tenker jeg også med mobiltelefon! Vi tenker at vi ringer med den, men vi gjør jo alt mulig med den! Det er jo plattformen vår for å leve våre sosiale liv på. Men vi tenker ikke over konsekvensene av dette i måten vi er sammen på?

Jill: Du nevnte bilen, altså hva gjør selvkjørende biler, altså hvordan de kommer til å endre byen. Vi kommer ikke til å trenge veiene på samme måte, vi kommer ikke til å trenge parkering, hva gjør vi med parkeringshusene? For eksempel. Altså hvis du har selvkjørende biler, så blir det jo etterhvert ganske tåpelig å ha mennesker som kjører biler. Sikkerhetsproblem. Men hvem styrer da disse nettverkene av selvkjørende biler som snakker med hverandre? Er det vits i å tillate menneskene å krysse en bilvei uten lov? Det er jo veldig mye som kan skje ut ifra det. Mye av det vi forsøker å gjøre i digital kultur er å prøve å ikke forutse alt, men å tenke gjennom hva det gjør med oss, sant?

Silvija: Jeg syns det er veldig interessant, særlig med perspektiv på barn. Nå er det 12 år siden Iphone kom. Det vil si at alle mine fire barn var født med en telefon i hånden, og de kan bruke den ganske kompetent fra en alder av 2-4. Altså, de tenker annerledes om kommunikasjon, om behovet for forberedelse før man går ut ifra huset. Jeg husker når man begynte å bruke Emojis i meldingene våre, når messenger virkelig slo an. Jeg var så irritert på alle disse venninnene mine som begynte med så infantile smil på smil på smil ikke sant? Jeg tapte den altså. Jeg sa «det holder, med kolon parentes vær så snill? Dere har bedre språk enn det!» men altså, den satt. Barna mine elsker emojis, og det er en annen måte å snakke på. Men hvordan kan man fremskrive det? Hvordan kan man forutse det? Hvordan kan man forstå hvor det går?

Jill: Jeg måtte jo se på hvordan fortiden, altså hvordan har talespråket og skriftspråket utviklet seg? Så for eksempel har jeg lest kjempe spennende forskning som sammenliknet Instagram bilder med hvordan folk brukte postkort på begynnelsen av 1900- tallet. Visste du at da gikk folk, postbudet kom fire ganger om dagen, så hvis du ser på baksiden av disse gamle postkortene så står det for eksempel «Ja, du får kanskje ikke dette postkortet før jeg er hjemme til middag, men det er fantastisk utsikt», også leser du avisartikler med folk som klager på at turistene ikke engang ser på utsikten, men løper for å kjøpe postkort for å sende hjem. Av og til postkortet frem før de gjør det sant? Jeg tror man kan lære ganske mye av å se tilbake, i tillegg til å se på hva vi har nå. 

Silvija: Men samtidig så tenker jeg på det ekstreme dokumentasjonsbehovet vi har nå. Altså, jeg var veldig glad i å ta bilder helt til jeg følte meg litt sliten av at alle andre tok bilder hele tiden. Og jeg er også såpass gammel at jeg må innrømme at jeg er litt sint på konserter. Jeg tenker «ta bort de lysende greine, det ødelegger opplevelsen min av å være her». Men det går ikke an å skru klokken tilbake heller?

Jill: Nei, og det jeg forsker på nå er hvordan disse nye visuelle teknologiene, altså filtre på bilder og deepfakes, og ansiktsgjenkjenning, hvordan det påvirker oss. Og da blir jo det med å ta bilder noe mye mer enn bare det å dokumentere det. Altså for ti år siden så tok alle selfies hele tiden og postet det på Facebook. Nå, jeg vet ikke om du så sist uke i New York Times så sto det om Clearview, et nytt selskap, og de har bare skrapt millioner av bilder fra Facebook. Sannsynligvis dine bilder og mine bilder, uten lov selvfølgelig, og nå brukes de av politiet i forskjellige amerikanske byer for instant ansiktsgjenkjenning. Så de tar overvåkningsbilder, også blir det skannet gjennom alle bilder folk har lastet opp på Facebook, også finner de personen ganske kjapt. Det var kanskje ikke det du tenkte at konsertbildene dine skulle brukes til. 

Silvija: Nei, og ikke barnebildene heller. Jeg tror det her har med at vi har begynt å forstå hva alt dette kan til brukes til. I forrige uke var jeg på, og for et par måneder siden, på en presentasjon fra et veldig spennende selskap fra Gjøvik som heter Mobi. Som driver å kjenner igjen bilder og fotografier av mennesker som er blitt morpha, altså hvis noen tar ditt bilde, og sitt passbilde, så kan de etterhvert morphe et bilde som blir så bra at ansiktsgjenkjenningsverktøy, hvis ikke de bruker mobi- teknologi, biometri, vil si at ja dette er Jill- ok ja helt ok. Da er det et større problem at de bildene av deg og meg og ungene våre ligger der ute. For plutselig kan andre begynne å påstå at de er dem, ikke sant? Hva vil dette endre i forhold til vår evne til å dokumentere identitet?

Jill: Jeg tror vi kommer til å stole mindre på bilder. Det tror jeg nesten er uunngåelig. Samtidig som du har teknologier som prøver å finne tilbake til det som er det sanne bildet, ikke sant. Det jeg tror er at det kommer til å endre måten vi er i stand til å forstå verden på. Hvis vi ser langt tilbake i historien, når Galileo hadde et teleskop og skjønte hvordan perspektiv fungerte slik at de kunne se et tredimensjonalt rom og beskrive det i et todimensjonalt bilde. Det var slik Galileo var i stand til å se at månen er rund, den er der ute. Da var da vi virkelig fikk vitenskapelig metode, gjennom teknologien med glasslinse med det som egentlig er en algoritme sant? Et lineært perspektiv. Så det gjorde en enorm omveltning på hvordan vi var i stand til å se verden. Og når vi fikk fotografiet på 1800- tallet, plutselig får du låst tiden og du får sett ting på en helt annen måte. Jeg tror at den teknologien vi er i ferd med å bruke i dag også kommer til å endre hvordan vi forstår ting. 

Silvija: Og hvordan vi er. 

Jill: Ja, ikke minst. 

Silvija: Men noe annet personlig: hvordan ble du interessert i dette?

Jill: Pappa var programmerer, så vi hadde datamaskin tidlig. Jeg spilte mye dataspill, og mamma og pappa hadde mye science fiction bøker, så jeg leste litt science fiction bøker. Da jeg senere var sånn «nei, jeg skal ikke bli noe sånt, jeg skal studere litteratur» tenkte jeg, men så fikk jeg tilgang til internett og det var noe som het hypertekst, det var jo på 90- tallet sant? Det hørtes så fantastisk ut at jeg bare måtte utforske det, så da ble det det jeg endte opp med. 

Silvija: Så utrolig spennende! Vi lever i et hyperraskt, altomfattende samfunnseksperiment egentlig?

Jill: Altså, det man gjør med satellittbilder som kan se nesten hva som helst på kloden, det er jo som å leve i en science- fiction roman. 

Silvija: Altså, vi har jo nesten ingen hemmeligheter. Det er så mye data at det tyter ut av ørene våre, vi forstår mindre og ser helheten mindre enn før. Jeg er veldig fascinert av blant annet en som heter Nicholas Carr, som har skrevet spennende provokasjoner, hvor den ene heter «Utopia is creepy». Han skriver om hvorfor vi har en jobb, vi jobber ikke bare fordi vi må, det har med identiet og gjøre også videre. Han har også skrevet «The Shallows» og «Is Google making us stupid?».  Det er spennende på den måten at nå kan man finne ut alt på mindre enn tre minutter, men den evnen til å tenke dypt og hardt, og slite med en problemstilling holder vi på å miste. Det påvirker vår kreative evne kanskje?

Jill: Jeg tror vi, på den ene siden så har Nicholas Carr, altså han fremhever jo ikke alt det kreative folk gjør. Altså niåringen min, når han låner telefonen min så lager han en eller annen bildekollasjer på Snapchat, eller Tik Tok videoene til elleveåringen min er ganske kreative de og, eller diverse tegneprogrammer. Altså Mindcraft verden, det er enormt mye kreativt som skjer på internett. Også tror jeg også vi trekkes mot de vanskelige spørsmålene. Jeg tror det er derfor vi har science fiction, «Black Mirror», altså de skumle dystopiske filmene som er så populære for tiden, fordi vi kjenner at dette er ting vi må tenke gjennom. Og en måte å gjøre det på er å lese en roman eller se en skummel «Black Mirror» episode og virkelig kjenne det på kroppen, ikke sant?

Silvija: Kan du si litt om de prosjektene du jobber med nå?

Jill: Ja, altså nå leder jeg et stort forskningsprosjekt med penger som skal forske med dette på maskinsinn da. Ting som ansiktsgjenkjenning i hjemmet, og hvordan det påvirker oss. Så da leder jeg et team med tre PhDer, en post- dok (post doktorgrad), vi utforsker hvordan disse teknologien blir presentert i Science Fiction, i dataspill, og vi sjekker hvordan kulturen på en måte speiler teknologien tilbake. Så det er kjempe spennende!

Silvija: Ser vi veldig forskjellig på dem? Fra forskjellige deler av verden?

Jill: Vi har ikke klart å se de linjene enda, men det er noen ting du kan se i østlige filmer så ser det ut som overvåkningssystem er veldig skjult. Det er overalt, men man kan ikke se det. Mens i vestlige filmer så er det kanskje tydeligere. Men det vi ser er vel at det blir tatt mer og mer inn at, altså du kan se sånne pranks- filmer på Netflix hvor det er masse klisje aktig ansiktsgjenkjennings opplegg. Så på noen måter er sånn ansiktsgjenkjenning i ferd med å bli en klisje, sånn veldig gjenkjenbart, mens på andre måten så fremstilles det fremdeles som noe ganske skummelt, og som noe vi burde være ganske redde for. 

Silvija: Jeg sitter og tenker på velferdsrobotikk og Japan, fordi der har jeg lest at de er animister. Så de aksepterer i veldig mye større grad at det er roboter som tar seg av velferdsoppgaver, og de har et demografisk problem ved at de har veldig mange eldre. Det kan være et kulturelt problem ved at det er veldig mange forskjellige kulturer da, som gjør de mer i stand til å ta i bruk samme teknologi effektivt. 

Jill: Mhm, og gjerne forstå det på litt forskjellige måter også. Jeg vet noen «native american» forskere som ser på roboter som nesten levende, de kaller det for «kin», altså slektninger, sant? Det er en ganske spennende måte å tenke på. Det er ikke sikkert at roboten blir en skummel motstander, men heller en hjelper. 

Silvija: Ja, ikke sant? Den lille vennen. Vi har snakket om kontroverser med clearview, men jeg tror det fremmer heller en bredere kontrovers med at vi tar i bruk de nye teknologiene ved at de er nye, kreative, spennende til en type behov og tjeneste. Det vi glemmer er at de dataene disse samler kan bli brukt til veldig mye mer, og vil bli brukt til veldig mye mer. Dette er en problemstilling som jeg også tenker står bak de forsøkene som er blitt gjort på å regulere. Det er kjempe vanskelig. 

Jill: Det clearview gjorde var ganske klart ikke lov altså. Det er både imot Facebook sine «terms of service», men det er også imot GDPR, altså jeg håper de får den syv million dollars boten som GDPR truer med. Det er jo ikke noe vits i å ha lovreguleringer dersom de ikke blir fulgt opp. Vanskelig å gjøre dette sant? Hvis det har blitt gjort en gang så kommer det til å bli gjort igjen. Kanskje med mindre man virkelig slår ned på det, hvis man er i stand til å gjøre det. 

Silvija: En ting er at de kanskje må betale syv millioner dollar i bot, men det er også mulig at den avtalen de kan få med forskjellige politier er verdt veldig mye mer enn det. Så hvordan vet vi: altså hva er det egentlig verdt? Hvor mange penger er blitt urimelig tatt fra samfunnet her? Men i hvertfall så må vi tenke nytt rundt dette med regulering, og det klarer vi ikke uten den type arbeid som du gjør. Å prøve å forstå hva som skjer, hvor fort det skjer, og hvordan skal vi tenke på det som skjer?

Jill: Det er veldig mange som forsker på disse spørsmålene, det er jo utrolig mye som skjer i forhold til dette. Men teknologien går så rasende fort at det å få reguleringer på plass tar tid. 

Silvija: Du jobber da med dette maskin- sinn prosjektet, med å forstå ansiktsgjenkjenning i forskjellige kulturelle settinger. Du nevner også et nederlandsk prosjekt som også jobber med ansiktsgjenkjenning som inspirasjon, hva er det?

Jill: Ja, de jobber med DNA- fenotypen. Altså at man tar DNA også generer man bilde av ansiktet til personen som DNA-et tilhører. 

Silvija: Er det et kunstprosjekt eller?

Jill: Altså det finnes kunstprosjekter om dette, dette brukes av politiet for å finne kriminelle. De har brukt det i Kina som et reklameprosjekt, hvor de har tatt DNA fra sigarettstumper som er blitt kastet på gaten istedenfor i søpla, også laget ansikt av hvordan disse personene ser ut og hengt opp store WANTED- poster rundt omkring som en slags trussel da. Men det Nederlandske prosjektet forsker på hvordan dette blir en slags frenologi. Altså, at man før i tiden måler hodeskallen også tenker man at «Å, mennesker fra Afrika er ikke like smarte som mennesker fra andre steder», fordi måten man generer disse bildene på er egentlig en måte å generere den etniske identiteten til disse personene. Det blir egentlig en veldig sånn, altså plutselig så kommer rase- spørsmålet inn igjen med nye teknologier. Det er ganske mye spennende arbeid gjort på dette med diskriminering og rase, fordi maskiner er veldig i stand til å prøve å se forskjell på folk. 

Silvija: Dette er diskutert mye. Vi har jo snakket mye om dette med selvkjørende biler, og hva bør de gjøre osv? Så det var et nytt spørsmål, men det er også et gammelt spørsmål, men det er altså tydeligvis ekstremt godt gjennomdiskutert spørsmål. Du nevner to konferanser «Fairness, accountability and transparancy» som er den ene, den andre «AI: ethics and society». 

Jill: Ja, det er en rekke konferanser som jobber med dette med etikk og ny teknologi. Men det er jo ikke nok allikevel, fordi det er jo tusenvis av konferanser som ikke tar det opp i det hele tatt, hvor teknologier blir utviklet uten at man tar hensyn. Algoritmer som skal gjenkjenne følelsene dine ved å studere ansiktsuttrykk. Så det er det store psykologiske studier som viser at det ikke er en direkte sammenheng mellom ansiktsuttrykk og følelser. Men allikevel så utvikler man nye teknologier og pusher den ideen om at «hvis man smiler akkurat sånn så vet jeg hvordan han føler det». Det er veldig lett å selge nye teknologier som man påstår gjør noe, også gjør den jo egentlig ikke det. 

Silvija: Spesielt hvis man påstår at dette kan du tjene penger på? Da vet du hva kundene dine føler. 

Jill: Sant?

Silvija: Jill, du må være den mest spennende personen å spørre dette om: hva tror du er den mest nyttige kunnskapen for fremtiden?

Jill: Jeg tror alle må vite litt om hvordan teknologi virker, men vi må også huske på å ha et humanistisk blikk, også tenke på samfunnet og ikke bare hva som er mulig å utvikle men hva som faktisk er bra for oss.

Silvija: Vi må vite hvordan teknologien virker og hvordan mennesker virker, og hvordan de virker sammen. Det er vanskelig nok spørsmål dersom man bare starter med mennesket!

Jill: Jaja, det er masse å ta av! Vi trenger mer forskning på dette. 

Silvija: Du, jeg liker også å spørre folk om det er noen fordeler med å jobbe med det du jobber med fra Norge? Jeg er så lei av å høre at alt er så mye bedre i Silicone Valley. Vanligvis så er svaret at vi har så mye tillit, at det gjør alt så mye bedre. Det er jeg for så vidt enig i, men i forhold til den akademiske siden av jobben din; er det noen fordeler, er det noen gammel forskning vi er kjempe gode på som du kan bygge på?

Jill: Mhm, altså jeg var så heldig at min doktorgradsveileder Espen Våseth var liksom en av de som på 90- tallet virkelig startet studiet av hypertekst som han kalte det. Han er veldig fremstående dataspill forsker. Så vi har absolutt vært med på starten på å se på digital kultur. Det andre jeg tenker er at jeg har vært i USA og jobbet en del også, her i Norge og Europa så har vi en satsing på å også bruke humanistisk kunnskap for å forstå teknologi. Vi integrerer humanisme i teknologiprosjekter, og det tror jeg er utrolig smart. I USA er det vanskelig for humanister å få forskningsstøtte. Ikke at det er lett i Norge, men det er i hvertfall en vilje til å støtte hvordan humanisme og samfunnsfag kan bidra til teknologiutvikling. Og det tenker jeg er kjempe bra. 

Silvija: Men, vi må bli bedre på tverrfaglighet. På tvers av siloer. Kanskje anerkjenne, altså vi har snakket mye om tverrfaglighet, men før man begynner å få ekstra poeng da som forsker for å faktisk ha tatt seg bryet til å jobbe med en forsker fra et annet felt som man kanskje ikke forstår så mye av i utgangspunktet også videre, vi belønner ikke tverrfaglighet. 

Jill: Det er ganske krevende også. Man snakker ganske sjeldent forskjellige språk. Når jeg snakker med informatikere så gjør de jo helt fantastiske ting. Men de er som regel bare interessert i hvordan algoritmen kan bli mest effektiv, mens jeg er interessert i konsekvenser på et helt annet nivå. Så vi snakker godt sammen, men...

Silvija: Men forskjellige språk? Eller forskjellige referanserammer?

Jill: Ja, vi kan forstå hverandre. Men derfra å finne forskning som kan bygge på hverandre, det er ikke bare lett. 

Silvija: Nei, jeg skjønner det veldig godt. Så jeg tenker likevel at du er i en kryssfaglig felt, og da tenker jeg det er veldig spennende. Jeg spurte deg om du har noe anbefalt lesestoff, og jeg digger svaret ditt, fordi du sier: «les bøker om hvorfor kunstig intelligens ikke funker». 

Jill: Ja, og det er så viktig. Og det er mange gode bøker om det. 

Silvija: Du nevner et dikt på Youtube?

Jill: Jeg syns det er så fin. Joy Buolamwini, hun er MIT forsker som begynte å forske på ansiktsgjenkjenning fordi hun hadde en Xbox hun skulle spille med, og den har kamera, sant? Den må først gjenkjenne ansiktet ditt, også kan du spille. Men den gjenkjente aldri ansiktet hennes, den så henne rett og slett ikke som menneske. Etterhvert så skjønte hun at den så hennes hvite kollegaer, men ikke hun selv som er svart. Så da gjorde hun en forskning på ansiktsgjenkjenningsprogram fra Microsoft og andre kjente selskaper, og da fant hun at langt oppe i 99% gjenkjenning på hvite menn, litt dårligere på hvite kvinner, litt dårligere på svarte menn, også var den nede i 60% gjenkjennelse på svarte kvinner. 

Silvija: Er det mangel på data? Eller at vi ikke klarer å lese av det som er mindre kontrast?

Jill: Mye av det handler om at de ikke har stort nok mangfold i datasettet sitt. Sant? Dette har de forbedret mye, men hun har en Youtube video «AI: aint I a woman?», den er virkelig rørende å se på. Den er bare noen minutter lang, men man skjønner at dette betyr noe. Dette gjør noe med mennesker. 

Silvija: Det er veldig mange spennende ting her som jeg ikke har hørt om eller lest om! «Weapons of mass destruction» syns jeg er kjempe fin. Men du nevner også «How big data increases inequality and threatens democracy” og “technically wrong”. 

Jill: Den «technically wrong” er nok særlig å anbefale fordi den er bade ganske generell, men også veldig engasjerende skrevet. Vi bruker den for studenter på førsteåret, de liker den. 

Silvija: «Toxic tech», det er veldig spennende. Dette må vi lese. Jill, har du et lite sitat vi kan hekte på deg?

Jill: Ja, altså det som er viktigst for meg er at vi skal tenke på å lage teknologi som er bra for oss. Det vil jeg. 

Silvija: Og det er opp til oss! Veldig flott, den skal jeg skrive opp. Hvis folk skal huske en ting fra denne lange samtalen, eller denne brede samtalen faktisk. Hva vil du at det skal være?

Jill: Jeg vil at vi skal tenke mer på hva teknologien vi gjør faktisk gjør med verden og med enkeltmennesker. At vi skal tenke gjennom det. 

Silvija: Tenk på konsekvenser rett og slett. Jill Walker Rettberg, professor ved digital kultur ved Universitetet i Bergen, tusen takk for at du har vært med oss i Lørn idag, og lært oss masse inspirerende og engasjerende om hvordan mennesker og teknologi kan og bør jobbe sammen, tusen takk!

Jill: Tusen takk!

Du har lyttet til en podcast fra Lørn.Tech - en læringsdugnad om teknologi og samfunn. Følg oss i sosiale medier og på våre nettsider Lørn.tech.