LØRN Case #C0622
Biometriske data
Hva er biometri? Og vil vi ha tillit til pass i framtiden? I denne episoden av #LØRN snakker Silvija med gründer og daglig leder i Mobai, Brage Strand, om den økende bruken av biometri vi ser i dag, f.eks til å låse opp en telefon, og hvordan vi må sikre at dette forblir er en trygg prosess? Denne episoden er laget i samarbeid med Gjøvik kommune.

Brage Strand

Gründer og daglig leder

Mobai

"Sikkerhetstrusler vil øke i fremtiden biometri vil brukes i større grad for å skape trygghet og da må vi gjøre tiltak for å ha tillit til informasjon som bilde"

Dette er LØRN Cases

En LØRN CASE er en kort og praktisk, lett og morsom, innovasjonshistorie. Den er fortalt på 30 minutter, er samtalebasert, og virker like bra som podkast, video eller tekst. Lytt og lær der det passer deg best! Vi dekker 15 tematiske områder om teknologi, innovasjon og ledelse, og 10 perspektiver som gründer, forsker etc. På denne siden kan du lytte, se eller lese gratis, men vi anbefaler deg å registrere deg, slik at vi kan lage personaliserte læringsstier for nettopp deg. 

Vi vil gjerne hjelpe deg komme i gang og fortsette å drive med livslang læring.

En LØRN CASE er en kort og praktisk, lett og morsom, innovasjonshistorie. Den er fortalt på 30 minutter, er samtalebasert, og virker like bra som podkast, video eller tekst. Lytt og lær der det passer deg best! Vi dekker 15 tematiske områder om teknologi, innovasjon og ledelse, og 10 perspektiver som gründer, forsker etc. På denne siden kan du lytte, se eller lese gratis, men vi anbefaler deg å registrere deg, slik at vi kan lage personaliserte læringsstier for nettopp deg. Vi vil gjerne hjelpe deg komme i gang og fortsette å drive med livslang læring.

Vis

Velg ditt format

Varighet: 34 min

Ta quiz og få læringsbevis

Du må være medlem for å ta quiz

Ferdig med quiz?

Besvar refleksjonsoppgave

Du må være medlem for å gjøre refleksjonsoppgave.

Hvem er du, og hvordan ble du interessert i innovasjon eller din teknologi?

Alltid vært veldig nysgjerrig, en nerd, lærevillig og er godt over gjennomsnittet endringsvillig og opptatt av forbedringer.

Hva er hovedproblemet du forsøker å løse på jobben din?

Skape tillit om at en person har identiteten den utgir seg for å ha.

Hva er ditt hovedprosjekt nå?

Mobai AS – selskapet jeg bygger sammen med Martin Stokkenes, Raghavendra Ramachandra, Kiran Raja, Christoph Bush og Guoqiang Li – Fremragende forskere innen biometri, ai og bildeanalyse fra den. Et voksende problem er at vi i mindre grad kan ha tillit til bilder.

Hvorfor er det spennende?

Ønsker å unngå situasjoner hvor noen kan utgi seg for å være noen andre.

Hva synes du er interessante dilemmaer innen fagområdet ditt?

Personvern og etisk bruk av biometri. Samt nudges og bias i algoritmer på et micronivå, som kan ha macro-effekter. Noen tanker: Ansiktsgjenkjenning / biometri er typisk framstilt som et rødt flagg i personvern-sammenheng selv om biometri gir en gyldig mulighet til å bevise at du er du og unngå identitetstyveri, nettopp ta vare på personvernet ditt. En mer digital og automatisert verden innebærer systematisk evaluering og påvirkning: det er rom for feil og uheldige effekter eller onde hensikter. Samtidig kan vi påvirkes i en god retning, men hvem definerer hva som er riktig retning? Et bilde blir biometrisk informasjon med en gang det brukes til identifisering, og da er det per definisjon sensitive person-opplysninger. Dette må vi som selskap forholde oss til og sikre informasjonen ekstra. Er du død; skal noen kunne bruke fingeren din til å åpne en telefon? Er det OK hvis politiet gjør det? Mange interessante etiske diskusjoner.

Hvem inspirerer deg, internasjonalt og nasjonalt?

Mest inspirert av hverdagshelter.

Hva gjør vi unikt godt i Norge, relater til ditt fagfelt?

Gi litt skryt til norske myndigheter. Gode prosesser for en forankring og dialog! Selv om ting kan ta litt tid. Norske myndigheter og politiet gjør gode valg i biometrisfæren! Gjør at vi for eksempel har en pass-utstedelses hvor politiet har kontroll på bildene, noe som ikke er tilfelle i resten av verden.

Hva tror du er relevant kunnskap for fremtiden?

Kommer an på tidsperspektivet; alt relatert til utvikling av IT-løsninger (utvikling, UX og tjenestedesign, AI, dataprosessering). Tror mange kan bli overrasket over hvor mange beslutninger som kan automatiseres eller gjøres bedre av en maskin.

Et yndlingssitat vi kan hekte på deg?

What is important is seldom urgent and what is urgent is seldom important - Dwight D. Eisenhower.

Viktigste poeng fra vår samtale?

Sikkerhetstrusler vil øke, biometri vil brukes i større grad for å skape trygghet, må gjøre tiltak for å ha tillitt til informasjon som bilde, video, lyd og biometriske data.

Hvem er du, og hvordan ble du interessert i innovasjon eller din teknologi?

Alltid vært veldig nysgjerrig, en nerd, lærevillig og er godt over gjennomsnittet endringsvillig og opptatt av forbedringer.

Hva er hovedproblemet du forsøker å løse på jobben din?

Skape tillit om at en person har identiteten den utgir seg for å ha.

Hva er ditt hovedprosjekt nå?

Mobai AS – selskapet jeg bygger sammen med Martin Stokkenes, Raghavendra Ramachandra, Kiran Raja, Christoph Bush og Guoqiang Li – Fremragende forskere innen biometri, ai og bildeanalyse fra den. Et voksende problem er at vi i mindre grad kan ha tillit til bilder.

Hvorfor er det spennende?

Ønsker å unngå situasjoner hvor noen kan utgi seg for å være noen andre.

Hva synes du er interessante dilemmaer innen fagområdet ditt?

Personvern og etisk bruk av biometri. Samt nudges og bias i algoritmer på et micronivå, som kan ha macro-effekter. Noen tanker: Ansiktsgjenkjenning / biometri er typisk framstilt som et rødt flagg i personvern-sammenheng selv om biometri gir en gyldig mulighet til å bevise at du er du og unngå identitetstyveri, nettopp ta vare på personvernet ditt. En mer digital og automatisert verden innebærer systematisk evaluering og påvirkning: det er rom for feil og uheldige effekter eller onde hensikter. Samtidig kan vi påvirkes i en god retning, men hvem definerer hva som er riktig retning? Et bilde blir biometrisk informasjon med en gang det brukes til identifisering, og da er det per definisjon sensitive person-opplysninger. Dette må vi som selskap forholde oss til og sikre informasjonen ekstra. Er du død; skal noen kunne bruke fingeren din til å åpne en telefon? Er det OK hvis politiet gjør det? Mange interessante etiske diskusjoner.

Hvem inspirerer deg, internasjonalt og nasjonalt?

Mest inspirert av hverdagshelter.

Hva gjør vi unikt godt i Norge, relater til ditt fagfelt?

Gi litt skryt til norske myndigheter. Gode prosesser for en forankring og dialog! Selv om ting kan ta litt tid. Norske myndigheter og politiet gjør gode valg i biometrisfæren! Gjør at vi for eksempel har en pass-utstedelses hvor politiet har kontroll på bildene, noe som ikke er tilfelle i resten av verden.

Hva tror du er relevant kunnskap for fremtiden?

Kommer an på tidsperspektivet; alt relatert til utvikling av IT-løsninger (utvikling, UX og tjenestedesign, AI, dataprosessering). Tror mange kan bli overrasket over hvor mange beslutninger som kan automatiseres eller gjøres bedre av en maskin.

Et yndlingssitat vi kan hekte på deg?

What is important is seldom urgent and what is urgent is seldom important - Dwight D. Eisenhower.

Viktigste poeng fra vår samtale?

Sikkerhetstrusler vil øke, biometri vil brukes i større grad for å skape trygghet, må gjøre tiltak for å ha tillitt til informasjon som bilde, video, lyd og biometriske data.

Vis mer
Tema: Innovasjon i offentlig sektor
Organisasjon: Mobai
Perspektiv: Gründerskap
Dato: 200309
Sted: INNLANDET
Vert: Silvija Seres

Dette er hva du vil lære:


Biometriske data Face Morphing AnsiktsgjenkjenningAlgoritmer Identitetstyveri Personvern

Mer læring:

-Selfie Biometrics - Advances and challenges - Advances in Computer Vision and Pattern Recognition", av Ajita Rattani, Reza Derakhshani og Arun Ross -Slår et slag for skjønnlitteratur for å forstå endringer: bøker med en helt annen innfallsvinkel og perspektiv som får deg til å stille spørsmål om hvorfor ting er som de er -Fan av en serie fra Raymond E Feist Magician som på mange måter er typisk fantasy-bok som Ringenes Herre - ikke litterære verk, men noen interessante innfall om sivilisasjoner som er helt annerledes enn våre -Leser nå Hyperion som er en Sci-fi-verden i framtiden og veldig annerledes perspektiver.</br >

Del denne Casen

Din neste LØRNing

Din neste LØRNing

Din neste LØRNing

Flere caser i samme tema

#C0037
Innovasjon i offentlig sektor

Dan Sørensen

Senioradvokat

Selmer

#C0036
Innovasjon i offentlig sektor

Malcolm Langford

Professor

UiO

#C0035
Innovasjon i offentlig sektor

Merete Nygaard

Grunder

Lawbotics

Lytt #C0622

Tekst for Case #C0622

Velkommen til Lørn Tech- en læringsdugnad om teknologi og samfunn med Silvija Seres og venner.

 

Silvija Seres: Hei, og velkommen til Lørn i samarbeid med Gjøvik kommune. Navnet mitt er Silvija Seres og tema i dag er cyber security, blandt ganske mange andre ting. Gjesten min er Brage Strand, som er daglig leder i selskapet Mobai, velkommen. 

 

Brage Strand: Takk.

 

Silvija: Brage, jeg skal komme klar og ut med en gang og si at jeg forelska meg for et halvt år siden. Jeg hørte foredraget ditt på Raufoss i Prøysenhuset. Det var en sånn innovasjons-dag for Innlandet og du snakket om biometri i cyber security, sikkerhets-bruk på en måte som jeg ikke trodde noen kunne snakke om i Norge. Vi bruker etterhvert bilder, våre iriser, ansikter, fingeravtrykk og mange andre ting, egentlig, som biometriske data for å identifisere oss. Og dette brukes i mye større grad enn folk er egentlig bevisste over. Og det er veldig mange som finner måter å jukse med dette her på, og det å ha et lite selskap basert på forskning og utvikling fra Norge, som jobber med dette her, kanskje best i verden, er utrolig spennende. Jeg tror ikke det er noen andre enn kanskje kinesere som gjør det dere gjør. 

 

Brage: Det er veldig, veldig gøy. 

 

Silvija: Fortell litt, hva er Mobai? Men før det, si to ord om hvem er Brage og hvorfor driver Brage med Mobai?

 

Brage: Ja, hvem er Brage. Jeg er en ung mann, ekstremt nysgjerrig og glad i endringer. Så nå har jeg funnet ut at det er på tide å starte et selskap og bygge noe sammen med verdensledende forskere. så det motiverer meg veldig, å ta den teknologien ut i verden. 

 

Silvija: Men du gikk indøk på entreprenørskolen på NTNU.

 

Brage: Det stemmer.

 

Silvija: Og det gjorde du her på Gjøvik?

 

Brage: Nei, i Trondheim.

 

Silvija: Men du er fra området, du er en gårdsgutt fra Elverum

 

Brage: Yes, det stemmer

 

Silvija: Og da må man tilbake?

 

Brage: Da må man tilbake, så akkurat nå bor jeg på Lillehammer, for jeg har samboer som har hele slekten sin litt nord i Gudbrandsdalen.

 

Silvija: Og det går greit?

 

Brage: Det går greit. Så da har vi funnet ut at Lillehammer er sånn passe midt i mellom.

 

Silvija: Ja. Så er du litt sånn nerde-antennelig. For du sier at første gang du var på The Gathering, som er også en lokal, globalt fenomen, så var du så oppslukt at du glemte mat og søvn. 

 

Brage: Det stemmer. Jeg husker ikke hvor gammel jeg var. Kanskje sånn 13-14. Så gikk det vel kanskje 30 timer, så måtte mamma hente meg fordi da var all energien borte. Jeg hadde glemt å spise, glemt å sove. Jeg hadde vært oppslukt i denne datamaskinen og folk rundt meg det siste døgnet. 

 

Silvija: Og Brage, en som er litt sånn selv, så håper jeg du har en som fortsatt tvinger deg til å sove og spise nå som du er entreprenør. 

 

Brage: Ja, jeg får noen nudges innimellom, så det er veldig bra, og det trengs. 

 

Silvija: Det trengs når det man gjør er så veldig spennende. Dere er kjempegode på NTNU og kanskje spesielt på Gjøvik på dette med cyber security. Men dere har funnet en nisje, fortell litte gran om den nisjen og hvordan det resulterte i et selskap. 

 

Brage: Vi er en spin off av den norske biometri laben som ligger her på NTNU på Gjøvik.

 

Silvija: Hva er biometri, hvis vi stopper der.

 

Brage: Veldig bra, biometri er egenskaper eller adferd, som identifiserer deg, som kan være måten du går på, den er relativt unikt.

 

Silvija: Så hvis du filmer meg og noen analyserer den videoen, så kan de si at dette er Silvija, for hun bøyer innover?

 

Brage: Ja. Eller det kan være fingeravtrykket, som er typisk sånn som man tradisjonelt tenker med biometri, som er unikt for deg. iris, ansikt. To tvillinger for eksempel kan ha ganske likt ansikt, men irisen vil typisk være forskjellig, for du får noen tilfeldige prosesser i hvordan irisen blir laget. Og da kan du identifisere og skille tvillinger. 

 

Silvija: Tre raske. Det ene er; kan biometri dreie seg om ikke-visuelle sider? Stemme, hvor fort du taster, men også psykologiske aspekter? Eller ville ikke det blitt kalt biometri lenger?

 

Brage: Hvis du kan måle det i en adferd, så ville det blitt kunnet kalt biometri.

 

Silvija: Så det Cambridge Analytica har drevet med baserer seg på noe form for psykologisk biometri da?

 

Brage: Ja, det tror jeg du kunne sagt. Eller hvert fall finne biometri-forskere som ville sagt at de kunne spesialisert seg på det temaet, da. 

 

Silvija: Spørsmål nummer to. Jeg har lest at ikke bare er det folk som prøver å lure med alle disse ansiktsgjenkjennings-algoritmer og så videre, men det finnes også en helt ny fashion brand, hvor du etterhvert kan kjøpe t-skjorter som forvirrer disse kameraene ved å ha ansikter på seg. Er dette noe som er litt morsomt og funker for noen som virkelig kan det? 

 

Brage: Det der er jo uhyre relevant. Det vi hører veldig ofte er at man er redd for at ansiktet ens er stjålet. Og det er en helt reel risiko, hvis du skal bruke det i masse-overvåkning, som for eksempel skjer i Kina. Og da er det helt nyttig verktøy, hvis du ønsker å være anonym. Hvis du er menneskerettighetsforkjemper, så kan du bruke ulike svakheter i de algoritmene, som egentlig sier at dette er ikke et ansikt, eller dette er ikke et menneske. 

 

Silvija: Det er ikke løst skjegg og briller, men det er noe klær du kan ha på deg.

 

Brage: Det er en annen skandale som ikke er så veldig kjent. Det er noe som heter Clearview, som er i USA, og det de har gjort er at de samler inn bildene som ligger på Facebook, samler inn offentlig og tilgjengelig informasjon og selger det til myndigheter. Blant annet Amerikanske myndigheter. Når jeg drar til USA, så har de egentlig alt det materiale de kan for å identifisere meg. Så har vi annen forskning med hvordan kan jeg da gi Facebook-bildene jeg laster opp … så kan jeg ha en generator, som jeg mater bildene mine inn til, som legger igjen bittesmå piksler i de bildene slik at ansiktsgjenkjenningen ikke skjønner at dette er et ansikt. så vil dette være et kappløp, da. 

 

Silvija: Det tredje spørsmålet er, forklar oss litte gran om hvordan ansiktsgjenkjenning fungerer. Hvis det er kanskje den viktigste måten vi skal bruke biometri på. Hva gjør man?

 

Brage: Du har tradisjonell ansiktsgjenkjenning, og da gjør du det du kaller features extract, det vil si at du identifiserer ulike punkter i ansiktet. Hvor bredt er det mellom øynene, lengden til nesebor, munnvik, slike type elementer. Handler mye om geometrien i ansiktet. Tradisjonelt er det gjort mye ansiktsgjenkjenning basert på det.

 

Silvija: Og dette funker på tvers av alder og på tvers av hårfarger og frisyrer og skjegg og sånt. Nettop fordi det er ben-konstruksjonen i ansiktet som er unik og det man prøver å huske.

 

Brage: Ja. Også er det et eget fagfelt hvor aldring påvirker biometri-dataene og, da. Så har du det som kanskje er i nyere tid, den deep learning og virkelig maskinlæringsbiten, som du gjerne kombinerer med features extract løsningene. Deep learning mekanismene ser på de samme punktene i stor grad når de identifiserer noen, så er de kanskje enda flinkere til å fjerne støy. Type skjegg for eksempel, hvordan håndtere det med og uten skjegg, med og uten briller. Det er deep learning blitt gode på. 

 

Silvija: For ikke så lenge siden så jeg noen bilder hvor man fremskrev prinsesse Diana, hadde hun levd nå, hvordan ville hun sett ut nå. Det er ganske fascinerende , og det brukes sikkert veldig mye i filmindustrien, også. Det er ikke bare fysisk sminke, det er også digital sminke, på disse filmene vi ser på. 

 

Brage: Og det er nok sjokkerende mange, i alle fall i asiatiske land, som manipulerer for eksempel passfotoet sitt for å se penere ut. Så du bruker snapchat-filter, så sender du inn passfotoet ditt med det snapchat-filteret. Det er en utfordring når du skal bruke passet ditt senere som et id-dokument, for da vil vi få et usikkerhetsmoment, som egentlig er det filteret. og du vil gjerne få lavere score når du sammenligner med den personen som har det passet. Du har faktisk gjort en manipulasjon mot deg selv. 

 

Silvija: Det er veldig interessant, fordi folk tenker at, har de bildet mitt så har de bildet mitt og det er meg og hva kan vi diskutere der. Det er der jeg syns at dere ble så kjempespennende. For det skjer utrolige mye manipulasjon og det er veldig mange veldig tilgjengelige verktøy, som gjør at man kan både kjenne igjen det reelle ansiktet bak sminke, der har du vist et eksempel, hvor denne sminkeartisten sminket seg selv til det ugjenkjennelige og til å blei helt lik en av hovedpersonene i Game of Thrones. Og det bildet legger vi ved her, og det kan dere kjenne igjen, er den samme personen, selv om jeg ikke kan det med mine menneskelige bilde-intelligens. Som er kanskje det vi mennesker er best på. Og det andre jeg vil du skal fortelle om er disse andre eksempler, hvor det motsatte skjer. Hvor du tar to forskjellige personer, de kan se veldig forskjellige ut, så morfer du dem til et mellom-ansikt, et kombinert ansikt, som jeg egentlig som menneske til slutt ikke kan se ikke er et ekte ansikt. 

 

Brage: Der har du på en måte to områder. På det første eksempelet ditt er det et angrep mot kamera, du prøver å utgi deg for å være noen andre, og der er masse ulike type angrep du kan gjøre. Vise et bilde eller gjøre slike type sminkeangrep. Akkurat som alle andre systemer, så kan biometri hacks. Det er ikke sikkert telefonen er supersikker selv om den kan låses opp med ansiktet ditt. Kanskje noen greier å lure det. 

 

Silvija: Der har dere et eksempel, hvor det er en av dere som låser opp telefonen til kjæreste med bilde av kjæreste. 

 

Brage: Da er det rett og slett et stillbilde på en annen mobil som låser opp telefonen. Så er det veldig mye som påvirker akkurat dette, du kan ha mer hardware-sensorer, eller bedre algoritmer som kan oppdage angrep. Det er kjempeviktig i en verden hvor noen kan stjele ansiktet ditt og gå på Facebook, at du da må skjønne når noen prøver å reprodusere ansiktet ditt, som for eksempel med sminke eller med et bildeangrep.

 

Silvija: Det kan være viktig i sikkerhetssituasjoner, men også etterhvert finansielle situasjoner. Hvis du begynner med Amazon Go og noen begynner å betale med ansiktet ditt.

 

Brage: Ja, veldig, veldig relevant. Vi ser en enorm vekst i biometri-løsninger, rett og slett fordi det er så enkelt og det tilfører en annensikkerhets-dimemnsjon enn passord eller slik som bank-id. Du får en mer trygghet,; det er Brage, faktisk. Men da må du håndtere de angrepene du også kan få mot slike systemer. Det andre type eksempelet, dette med face morfing, det handler egentlig om angrep mot et id-dokument eller den dataen du sammenligner med. Hvis du tenker deg et pass, lager et passbilde, som vil være gjenkjennelig for to personer. La oss si at jeg og en av kollegaene mine lager et pass, som begge vi to kan bruke, fordi bildet i det passet har den egenskapen at det ligner på begge oss to. Og der er det gjort masse forskning på at du vil lure mennesker og ikke minst vil du lure ansiktsgjenkjenning algoritmer. 

 

Silvija: Jeg husker da du viste disse bildene, og de skal vi også vise i materiale til podkasten. Det mellombildet, der tenker du at her var han litt yngre, eller her var han veldig mye i sola. Så tenker du at, jaja, vi endrer oss.

 

Brage: Det kan være en person som kommer med litt mer gråere skjegg enn han hadde på bildet, og så er det egentlig det man tenker over. Ellers ser det ut som det er den samme personen. Men så er det egentlig to ansikter i bildet. Det som er fascinerende er at jo bedre en ansiktsgjenkjennelse-algoritme er, jo mer sårbar er du til slike type angrep. For da klarer du faktisk å matche det til to personer lettere enn hvis du er en dårlig ansiktsgjenkjennelse-algoritme. 

 

Silvija: Så jobber dere med en algoritme som skal oppdage at dette er et manipulert bilde.

 

Brage: Ja. I Norge går vi til politikontoret for å ta passbilder, og det er kjempeviktig, for pass er et så kritisk dokument at du må være veldig trygg på at det er bra.

 

Silvija: At det ikke er et manipulert bilde.

 

Brage: Yes, men i England, i Tyskland, i USA, så er det du som bruker som gir inn det bildet. Du sender det inn på nett, du printer ut og sender inn per post, og da er det en kjempe sårbarhet i hele pass-systemet slik som vi kjenner, at du kan få pass som terroriser kan reise med.

 

Silvija: Fordi hvis en terrorist kombinerer sitt ansikt med ditt, så vil de når de er på vei inn til Tyskland eller Canada fort være identifisert som Brage, og Brage er ok. 

 

Brage: Du har tilfeller hvor du har helt lovlig innbyggere i et eller annet land, som kanskje har en slakting i et annet land også går de inn og fornyer passet sitt, så har de manipulert det bildet de legger ved den pass-søknaden, slik at begge personene kam bruke det. Så sender de passer per post tilbake til Afganistan eller Syria, så har man et helt gyldig pass hvor den biometriske dataen er manipulert. 

 

Silvija: Da kommer man gjennom systemer.

 

Brage: Ja. Dette er et fryktelig vanskelig fagfelt, og det er egentlig nå man ser at denne problemstillingen hadde vi ikke før. Det var ikke så mange verktøy for å generere ansikt, men nå når disse verktøyene kommer så må vi håndtere slike problemstillinger som kommer i pass-systemet. 

 

Silvija: Kan du si på en forståelig måte hva man bruker for å oppdage at dette er et manipulert bilde?

 

Brage: Man jobber egentlig litt på samme måte som et menneske ville gjort. Du prøver å gjenkjenne ulike elementer i et bilde, som flagger for at her er det en manipulasjon. Du finner spor etter at du har to iriser, du finner det man kaller ghosting, hvor du egentlig ser at det er to bilder som er forsøkt slått sammen. Da ville vi flagget det. Det er vanskeligere å gjøre dette hvis du bare har passbildet, men hvis du har passbildet og et bilde du har tatt selv, med et kamera du stoler på, for eksempel på grensekontrollen, så kan du gjøre mer sammenligninger med passbildet og det bildet du tok nå som du vet er ikke manipulert. Da blir det egentlig en slags ansiktsgjenkjenning , hvor du gjør en sammenlignings-analyse. 

 

Silvija: Da ser du endringer i det manipulerte bilde, som du vet ikke kan ha noe med aldring å gjøre.

 

Brage: Jeg snakket om disse featurene, faktene i et ansikt, det blir å prøve å identifisere det og så lage en slags maskinlæringsregelsett, en slags algoritme som sier at dette er et rødt flagg, det må vi se nærmere på i en manuell prosess. Systemet mener at dette er en høy risiko for morf, fordi algoritmene har den og den scoren. 

 

Silvija: Brage, jeg skjønner sikkerhetsproblematikken, men litt sånn personvernproblematikken, det blir umulig å skjule seg fremover. 

 

Brage: Jeg syns det er en utrolig fascinerende problemstilling og jeg tror det er en del forskjell på biometriske data. Ansikt er jo ganske fritt tilgjengelig, og da er det så viktig med angreps-deteksjon nettop for å vite at når vi ser et ansikt så er det et ekte ansikt, ikke noen som prøver å utgi seg for å være noen andre. Det er kjempeviktig personvern-dimensjon. Så er det de sånn mer ikke så tilgjengelig biometriske dataene, DNA, fingeravtrykk, der er det veldig viktig at de når de nettop har den egenskapen at de ikke er tilgjengelig, at man da gjør tiltak for å da sikre de dataene. Jeg føler at når man snakker om personvern og biometri, så henger det veldig, veldig tett sammen og at biometri-løsninger som er laget på en god måte er med også på å beskytte et personvern, for det gir deg en anledning til å si at du er du. Du er ikke noen andre og det er ingen som utgir seg for å være deg. 

 

Silvija: Du nevner tre ganger i løpet av en paragraf her om hvor viktig tillit er. Tillit til til at en person har identitet som de utgir seg for å være, vi må ha tillit til bilder, vi må ha tillit til passe fremtiden. Og jeg tror det kommer til å være kjempeviktig. vår identitet kan være forsvarlig på et eller annet vis, både fordi det er nødvendig, for de gode tjenestene og fordi det ikke skal misbrukes av de andre.

 

Brage: Og du har deep fakes, er det opptaket av Erna Solberg ekte? Det er en helt reel problemstilling, det er egentlig den samme problemstillingen som vi ser om du skal prøve å logge deg på et system hvor du bruker stemmen eller ansiktet. Så blir samme problemstillingen, er dette her ekte menneske og er du den du utgir deg for å være. Kan du stole på informasjonen, kan du stole på den som sier dette. 

 

Silvija: Jeg synes det er så mange paradokser i tillegg til de dilemmaene vi snakket om angående personvern. I noen av de største styrene hvor jeg satt insisterte på at jeg skulle bruke håndskreven signatur og sendte papir med bud på tvers av landegrenser, i en slik tid, det er litt outdatet

 

Brage: Jeg er fan av digital signatur, for å si det sånn. Veldig mye av dette handler om prosessen rundt og helheten i systemet. 

 

Silvija: Jeg tenker at vi kan være fans av gode signaturer, men vi må også huske at signaturene blir mye mer enn et navn, det blir etterhvert biologiske signaturer også . Der er det veldig spennende når du vi begynner å bruke AI for å jobbe med dette her så må vi huske at det er enda flere dilemmaer, de dukker opp fra alle kanter og alle hjørner. Datasett er ofte ganske smale. Hvite menn, det blir vi veldig gode på. Vi blir veldig dårlig på sorte menn for eksempel, slik som vi har lært gjennom noen eksperimenter. Eller damer…

 

Brage: Så synes jeg det er ganske fascinerende også i biometrien, at du har jo forskjellige egenskaper. Det at du har en mørk hudfarge, det betyr kanskje noe ved hvordan du kan identifisere den personen uavhengig av datasettet. Ta en veldig interessant problemstilling vi har, hvor vi prøver å se blodgjennomstrømningen i et ansikt. Hvis du har et helt vanlig kamera uten infrarødt lys, så vil du ha bedre forutsetninger til å kunne gjøre det på lysere hud enn på mørk hud. Og slike egenskaper er det bare. Ta sminke for eksempel. Vi ønsker å oppdage sminkeangrep, skal vi gjøre det vanskeligere for kvinner med sminke å logge seg på et ansikts-system, nettop fordi vi er redd for sminke-angrep? Det er helt reelle problemstillinger. Hva er riktig svar? Vi må lage både sikre og brukervennlige prosesser for alle. 

 

Silvija: Jeg tenker at vi ikke har noe annet valg enn å på en måte model through. Jobbe og lære, så ser vi underveis hvilke relevante problemstillinger som oppstår. Det største problemet blir kanskje å få jussen til å henge med. 

 

Brage: Sånn personlig er jeg fascinert av alle disse dilemmaene, og jeg er litt bekymret for at du får mikro baiser(?) som kanskje ikke vil være så synlig for så mange. Jeg er redd for at det vil få store system-effekter. Type at du har noen feil i et system, men du greier aldri å endre på det, for du skjønner aldri at det er en feil. Så jeg tror åpenhet rundt hvordan disse tingene funger, hvilke utfordringer vi reelt vil se, det er veldig, veldig viktig. 

 

Silvija: Litt om analyse-mulighetene. Vi har jo vært forskrekket over social credits og sånt i Kina, men det er så mye man kan analysere seg frem til. Det kan være nødvendige verktøy til velferdssytemtet vårt, det kan si noe om helsa til folk, ved å se på ansiktet demmes. Hvem skal få lov til å gjøre det og hva skal det brukes til.

 

Brage: All biometriske data er jo per definisjon sensitive personopplysninger og særlig iris og øyet er det jo ganske mye forskning på som går på å identifisere ulike sykdommer. Hvis du er i et system som faktisk gjør pålogging med ansikt og kanskje har iris-informasjon, så sitter du egentlig på en mulighet til å kanskje kunne si noe om helsesituasjonen til alle brukerene dine. Da må du ha et bevisst forhold til det som systemleverandør rett og slett. 

 

Silvija: Jeg tenker både å løse disse dilemmaene og sikre personvern, så er det som du sier, vi må rett og slett gjøre for å forstå de største utfordringene, så må vi foreslå noen løsninger, så må vi se og lære og justere. 

 

Brage: Det at jussen skal henge med, la oss ta ansikt. Det ligger jo på Facebook. Alle bildene våre ligger på Facebook, men der er de ikke regnet som sensitive personopplysninger eller biometriske data før de blir brukt til identifisering. Da mener jeg at det er kjempeviktig at du får aktører sånn som oss, som er opptatt av personvern og sikker bruk av biometri, som faktisk bygger løsninger som er gode. Det er du helt avhengig av, for vil du ha slike aktører som Clearview, som jeg har snakket om tidligere, som bare samler inn disse dataene som helt klart går på bekostning av våre personvern. Alle land som kjøper data av de vil antageligvis ha informasjon om de aller fleste norske brukere av Facebook. 

 

Silvija: Jeg tenker at vi må vende oss til en tid vi går inn i hvor jeg tror det er generell gjennomsiktighet absolutely anywhere. Det som jeg håper på er at vi bor i et land hvor myndigheten bruker dette for vårt felles beste.

 

Brage: Hvis vi går på noe helt annet, hvis vi går til telefonen min og ser hvor mye data som samles til ulike app-leverandører, så vet de utrolig mye allerede, og jeg har allerede akseptert det. Så er spørsmålet, er de min tillit verdig? 

 

Silvija: Ja, ikke sant. Så er det kanskje slik at du ikke har noe valg enn å akseptere heller. Det er ikke alltid så lett å melde seg av alt heller. Jeg spurte deg om ditt viktigste prosjekt det siste året, og du sier at det er et stort oppussingsprosjekt med kjæresten, så kan vi kanskje legge til Mobai, da. Jeg har lyst å spørre deg om navnet. 

 

Brage: Mobai, var i utgangspunktet et prosjektnavn som vi hadde i starten før det ble et selskap, så har det blitt sittende. Men det er en blanding av mobil, autentisering, AI, mobilautentisering, som bare har blitt Mobai. 

 

Silvija: Det høres kult ut, og det er lett å huske også. 

 

Brage: Det er en by i Sierra Leone, så jeg skal finne ut om det har en spesiell betydning i Sierra Leone. 

 

Silvija: Ha ha, bra. Jeg spurte også hvem som inspirerer deg, og du sier at det er hverdagshelter, men du hadde lyst å gi litt ekstra skryt til norske myndigheter. Som kanskje en konkurransefordel for en start up fra å være i Norge. forklar det. 

 

Brage: Jeg synes hvert fall på biometri-området, så er min opplevelse at man gjør veldig gode valg i Norge. Man hører i podkasten din at du snakker mye om tillit i det norske samfunnet og jeg tror at en del av de prosessene man har for å både få med seg forankere, brukere og hensyn, men også forstå harde krav, det gjør at man får ganske gode valg. Nettop slik at man faktisk får til fysisk oppmøte på pass-kontoret og tar bilde, for det ser man at er helt systemkritisk. I andre land sliter man rett og slett med å få til det, for du har foto-lobbyer, du har folk som vil printe selv, de er blitt helt vandt med det, det er helt umulig å snu når det først har fått det på en app og en gjør-det-selv service. Det at man har en god prosess til å få fram løsninger, det er man flinke på. Det har vært mye støy rundt om man skal ha øre i pass, for eksempel. Nå er jeg ikke helt oppdatert på siste situasjon, men jeg er helt overbevist om at det er en prosess hvor alle blir hørt og hvor man får fram de viktigste kravene til hvorfor man trenger eventuelt øret i et pass. 

 

Silvija: Veldig bra. Hva tror du er relevant kunnskap for fremtiden?

 

Brage: På kort sikt så er det definitivt alt av programmerings-kunnskap. Jeg jobbet i et energiselskap før, der syns jeg det var ofte gøy å utfordre hvor mye kan egentlig automatiseres eller hvilken beslutning kan bli tatt av en maskin. 

 

Silvija: Du skjønner bedre når du har kodet litt.

 

Brage: Ja, jeg tror på kort sikt at man  blir overrasket over hvor mange beslutninger som kan bli tatt av en maskin. Så er det mer en slags kost/nytte-vurdering, at det kanskje er for dyrt til å få det til, så man reelt sett kunne fått nytte av det i dag og fått erstattet ganske mange menneskelige beslutninger med maskinelle beslutninger. All kunnskap innen det fagfeltet, rundt AI, tjenestedesign til ren systemutvikling, det er the place to be. 

 

Silvija: Kan hende at vi blir reddet nettop av sånn kost/nytte-analyse der det faktisk er greit nok å la folka fortsette med det de gjør, men der er det også et annet perspektiv du sier er veldig viktig, med menneskelig relasjon. Det er noen jobber hvor det er viktigere del av jobben enn andre jobber. 

 

Brage: Ja, på veldig lang sikt så er det en dimensjon du sliter å konkurrere med som en maskin. Det er også et fascinerende fagfelt, for jeg har inntrykk av at det er akseptanse for roboter i noen land, men ikke i andre land, det er også fascinerende i seg selv.

 

Silvija: Velferds-robotikk er veldig langt fremme, mens jeg blir ganske fort utålmodig med chatboten hvis den sender meg tilbake samme loop tilbake for tredje gang, da vil jeg ha et menneske der. 

 

Brage: Jeg liker jo å ringe, rett og slett for at jeg ringer gjerne når jeg er på farten, og da får jeg ikke gjort noe annet. Da vet jeg at jeg kommer helt i mål, eller så stopper jeg opp kanskje i et eller annet skjema hvor det var noe som manglet. 

 

Silvija: Enig. Hvor skal vi lese litt mer om biometrics?

 

Brage: Det er jo forskerne som er helt fantastisk på teamet som er helt super biometrics ekspertene, så de har gitt meg en leseliste og det er en som heter Selfie Biometrics, de ser på computer vision og ulike problemstillinger rundt det å ta bilde av deg selv eller ta bilde av din egen geometri og bruke det til å sammenligne. Så der er det Rattani og Derakhshani og Ross som har skrevet den. Jeg har ikke kommet meg gjennom den, så jeg vet ikke om den er bra, men hvis man er litt nysgjerrig på biometri-feltet, så tror jeg den kan være et bra sted å starte. 

 

Silvija: Og skjønnlitteratur nevner du, du er en science fiction fan og tenker at vi må lese gammel science fiction mye mer enn det vi gjør. Kanskje ny science fiction også, du har en som du synes er litt morsom å følge. 

 

Brage: Ja, akkurat nå så leser jeg en som heter Hyperion, den er ikke veldig ny, men den syns eg er kjempebra. 

 

Silvija: Alternative verdener med alternative samfunn.

 

Brage: Ja, det er sånne fremtidscenarioer, så har du masse tidsakser som går i forskjellige retninger, en helt annerledes verden. Så er det en som jeg er veldig fan av som heter Raymond Feist, som er mer fantasy univers, masse bøker, ikke kjempebra språk, men jeg synes han er flink til å ha noen sånne paradokser og noen helt annerledes verdener. Så du har en verden hvor på en måte ryktet ditt betyr alt, så hvis du greier å ydmyke noen så må du egentlig ta selvmord. Det høres jo helt surrealistisk ut, så det synes jeg er fascinerende. Så har du en annen verden hvor alle barna egentlig blir kastet ut, så er det de som overlever, de overlever, så når de blir 15 eller 18 så har du vist at du er verdig til å overleve. Gjerne en prosess hvor de voksne jakter på deg for å sjekke at du er god nok. Så lenge du er barn, så må du gjemme deg og egentlig overleve.

 

Silvija: Det finnes sikkert en del grunnleggende spørsmål om hvorfor gjør vi det slik som vi gjør det.

 

Brage: Ja, det tror jeg er viktig når man jobber med teknologi. Det er ikke utprøvd nødvendigvis i et bruksscenario, og det å på en måte ha evnen til å stille spørsmål til hvorfor er det slik …

 

Silvija: … Og kanskje hva det kommer til å endre

 

Brage: Ja, hvorfor gjør vi det slik som vi gjør det i dag, hvis du har denne muligheten, hva er det den betyr. Vi snakket litt om å koble av, ikke fordype seg i noen ting, da synes jeg det er nyttig med skjønnlitteraturen som er helt annerledes. Jo mer annerledes enn virkeligheten, jo mer fascinerende. 

 

Silvija: Det er fascinerende. Jeg har egentlig begynt å grave meg ned i gamle klassikere også i science fiction, og det er ganske spennende hvor mange viktige spørsmål som vi driver å diskuterer i aviser i dag, de stilte vi for både 30 og 50 år siden. Det er god lesing. Har du et lite sitat vi kan hekte på deg?

 

Brage: Jeg tror jeg vil ta “What is important is seldom urgent and what is urgent is seldom important”. Det er en slik prioriterings-matrise, som egentlig handler om å bruke tid på det som er viktig, og det er ofte ikke det som haster mest. Den bruker jeg ganske aktivt i hverdagen min. Det kalles ofte en heisen mallen matrise etter en amerikansk president. 

 

Silvija: Det er veldig fint. Brage, vi har snakket om mye forskjellig, hvis du må velge én ting som du vil at folk skal huske, hva vil du velge?

 

Brage: Det er å være bevisst på sin egen identitet og faktisk bruke løsninger som tar vare på din identitet. Jeg tror identitetstyveri, sikkerhet rundt pålogging, risikoene der vil bare øke og jeg tror biometri vil være en viktig del av å avdempe de risikoene. Også er det det å finne de riktige og gode biometri-løsningene. 

 

Silvija: Veldig spennende, Brage Strand, som er gründer av selskapet Mobai, tusen takk for at du var med oss i Lørn og inspirerte både her og forøvrig angående den økende viktigheten av biometri i veldig mange sider av livene våre.

 

Brage: Tusen takk

 

Silvija: Takk til dere som lyttet.

 

Du har lyttet til en podkast fra lørn.tech - en læringsdugnad om teknologi og samfunn. Følg oss på sosiale medier og på våre nettsider lørn.tech

 

Quiz for Case #C0622

Du må være Medlem for å dokumentere din læring med å ta quiz 

Allerede Medlem? Logg inn her:

2

C0622 BIOTECH Biometriske data - med Brage Strand

1 / 3

Hva er biometri?

2 / 3

Hva er et kamera-angrep?

3 / 3

Hva kan være problematisk når man har mange verktøy til å generere ansikt?

Your score is

The average score is 100%

Du må være Medlem for å kunne skrive svar på refleksjonsspørsmål

Allerede Medlem? Logg inn her: