#602: Digitalisering og mennesker - LØRN.TECH

Tema: LØRNSOC

#602: Digitalisering og mennesker

Expørt: Jill Walker Rettberg

Professor i digital kultur

fra Universitetet i Bergen

Med lørner Silvija Seres

Hvordan blir Jill inspirert av barna sine til å forske på nye medium som Tik Tok og emojier? Og hva gjør det med oss at vi nå blir født med en smarttelefon i hånden fremfor ski på beina? I denne episoden av #LØRN snakker Silvija med professor i digital kultur ved universitetet i Bergen, Jill Walker Rettberg, om hvordan digitalisering og mennesker møtes.

Noen kjappe med ekspørt Jill Walker Rettberg

Navn?
Jill Walker Rettberg 

Tittel og selskap?
Professor i digital kultur, Universitetet i Bergen 

Utdanning og hobby?
Doktorgrad i humanistisk informatikk. 
Hobby: for tiden syns jeg det er veldig gøy å være med ungene mine på Eventyrspill og Trolldomsakademiet – jeg hadde aldri spilt laivrollespill før men det er kjempegøy! På Trolldomsakademiet spiller jeg Professor Filomena, et 500-år gammelt spøkelse og forhenværende rektor som er bestyrtet over hvor lemfeldig undervisningen er nå til dags. Gøy å få lov til å være hysterisk og absurd professor og gjøre alt det man ikke kan gjøre som fornuftig professor på et seriøst universitet. 

 

SoMe tagger og linker?
@jilltxt på Twitter osv, http://jilltxt.net er bloggen min (har hatt forskningsblogg siden oktober 2000 – oj, snart 20-års jubileum!)
Machine vision-prosjektet har webside her: https://www.uib.no/en/machinevision og sosiale medier her
Bruk gjerne vår nye piktogram for en av teknologiene vi studerer, billedgenerering i nevrale nettverk, i visuell markedsføring: https://twitter.com/machvisionERC/status/1219580357231726592 

 

Hvem er du, og hvordan ble du interessert i innovasjon?
Jeg heter Jill Walker Rettberg, og er professor i digital kultur ved Universitetet i Bergen. Jeg vokste opp på 70- og 80-tallet, med en far som var programmerer, så lærte tidlig litt BASIC og å spille dataspill. Som student studerte jeg litteraturvitenskap og kunsthistorie, men så oppdaget jeg internettet, og at det var folk som forsket på hypertekst litteratur og digital kunst, og da var nok framtiden min bestemt! Det var ikke mye gehør for dette på litteraturvitenskap, men heldigvis fantes det et nytt fag som het humanistisk informatikk hvor jeg fikk masse støtte. Nå er faget omdøpt til digital kultur, og vi har over hundre studenter på første-årsemne – det er nesten for populært! Men det er jo gøy. 

 

Hva er det viktigste dere gjør på jobben?
Forskning og undervisning. Jeg leder et stort forskningsprosjekt nå, så har lite undervisning, men jeg veileder mange doktorgradsstipendiater, og leder forskergruppen. Det er veldig viktig for meg å bygge opp et godt og kollaborativt miljø for unge forskere – vi trenger nye tanker og nye idéer. 

 

Hva fokuserer du på innen teknologi/innovasjon?
Nå leder jeg et stort EU-finansiert forskningsprosjekt om hvordan maskinsyn påvirker oss som mennesker. Med maskinsyn mener jeg nye digitale visuelle teknologier som ansiktsgjenkjenning, deepfakes, selfiefiltre, satelittovervåkning og droner. Det vi fokuserer på er hverdagsbruken – som når du får smartdørklokke med kamera som varsler hele nabolaget når den ser et ansikt som ikke er kjent. 

 

Hvorfor er det spennende?
Fordi det skjer så fort! For ti år siden var det ingen vanlige mennesker som dronefilmet skiturene sine eller hadde telefon som gjenkjenner ansiktet ditt. Med nevrale nettverk har maskinsyn eksplodert bare på noen få år, og det endrer kulturen vår veldig fort. Det er jo helt oppslukende å jobbe med et felt hvor det skjer nye ting hver eneste dag. 

 

Hva synes du er de mest interessante kontroverser?
Det er jo det etiske: er dette bra for oss? Hvem er det bra for? Jo mer jeg jobber med dette, jo mer skremt blir jeg over mulighetene. Det er så mange måter maskinsyn kan misbrukes på. Sist uke sprakk nyheten om Clearview, en startup som skrapte millioner av bilder av vanlige mennesker fra Facebook og alle mulige andre steder på web. Dine og mine selfier og bilder andre har tatt av oss er helt sikkert med i datasettet. De selger dette til politiet i USA som så kan 

 

Dine egne relevante prosjekter siste året?
Machine Vision-prosjektet. Vi skal også lage laivrollespill hvor folk får spilt ut situasjoner hvor de må ta etiske valg om ny teknologi – det tror jeg blir gøy! Jeg ble inspirert av Trolldomsakademiet, hvor jeg traff fantastiske mennesker som er eksperter i å utvikle rollespill og bruke dramapedagogikk for læring av forskjellige slag. Jeg er veldig spent på laiv-prosjektet – målet er å utvikle en stor heldagslaiv pluss et opplegg for 3-4-timers laiver som kan gjennomføres i forbindelse med konferanser og workshops, eller kanskje for politikere og beslutningstakere i det offentlige og i næringslivet. Ofte er det de som IKKE er eksperter på algoritmer som bestemmer hvordan de blir brukt. 

 

Dine andre favoritteksempler på lignende prosjekter, internasjonalt og nasjonalt?
I Nederland forsker Amade M’Charek på hvordan man nå genererer bilder av ansikter til mistenkte i kriminalsaker basert på DNA-funn – men det viser seg av bildene er ganske omtrentlige, og at de bygger på virkelige utdaterte idéer om rase. Det er mange konferanser osv om etikk og AI, som f.eks. https://fatconference.org (Fairness, Accountablity, and Transparency), eller Artificial Intelligence, Ethics, and Society (https://www.aies-conference.com/2020/). 

 

Hva tror du er relevant kunnskap for fremtiden?
Vi trenger humanister som skjønner teknologi, og teknologer som skjønner kultur og samfunn. Vi trenger ikke bare folk som kan programmere og utvikle nye systemer og nye teknologier, men vi trenger folk som skjønner hva slags innvirkning det vil ha på samfunnet. ALLE trenger mer trening i etiske dilemmaer om teknologi. Skal jeg installere smart-dørklokke med ansiktsgjenkjenning som deler data med skyen? Hva  kan være bra med det? Hva kan gå galt? Hvem tjener på det, og hvem kan få det verre? Noe av det handler om mangfold – f.eks. måtte det en svart kvinnelig forsker til (Joy Buolamwini) for å få mer mangfold i datasettene IBM og Microsoft brukte, slik at ansiktsgjenkjenningsalgoritmene deres faktisk gjenkjente svarte kvinner og ikke bare hvite menn. Hun oppdaget problemet fordi kameraen på xboxen hennes ikke gjenkjente henne som et menneske, slik at hun ikke kunne spille spill. Så vi trenger mangfold, men også kunnskap og skepsis og fantasi for å tenke på mulige konsekvenser. 

Jeg tror noe av grunnen til at science fiction filmer og serier har blitt så populære er at vi kjenner på at vi TRENGER å øve opp vår etiske kompetanse. Det å se en film hvor noe går veldig galt er en måte vi gjør dette på. 

 

Anbefalt lesing/seing om ditt felt?
Les bøker om hvordan kunstig intelligens IKKE funker. Se forskeren Joy Buolamwinis emosjonelle YouTube dikt om hvordan ansiktsgjenkjenning feiler når den skal gjenkjenne svarte kvinner: https://www.youtube.com/watch?v=QxuyfWoVV98 Les Cathy O’Neil’s bok Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, eller Ruha Benjamin sin bok Race After Technology, Eller les en bok vi har på pensum for førsteårsstudentene våre som lærer webdesign: Sara Wachter-Boettchers bok Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech. 

 

Viktigste poeng fra vår samtale?
Tenk deg om før du installerer hjemmeovervåkningskamer

Dette lørner du:

Digitale kulturforskjeller 
Digital kommunikasjon 
Fortiden som prediksjon av fremtid 
Kreativitet
Forskning 

Anbefalt litteratur:

Black mirror på Netflix
Les bøker om hvordan kunstig intellegens IKKE funker. Her er det mange gode bøker
weapons of mass destruction
ow big data threatens 
technology wrong 

Refleksjon

Tenk deg dette dilemmaet: Skal jeg installere smart-dørklokke med ansiktsgjenkjenning som deler data med skyen? Hva  kan være bra med det? Hva kan gå galt? Hvem tjener på det, og hvem kan få det verre?

Search name, company, subject or keyword