LØRN case C0069 -

Catharina Nes

Leder

Datatilsynet

Big Data og personvern

I denne episoden av #LØRN snakker Heidi Nordby Lunde med fagdirektør i Datatilsynet, Catharina Nes, om?hvilke muligheter Big Data Analysis gir for å forstå samfunnet bedre, og hvilke utfordringer denne type innsamling og analyse kan ha for personvernet. De diskuterer både hvordan Big Data Analysis kan utfordre den enkeltes rettigheter og friheter, og potensielt skade demokratier, men også de enorme mulighetene til å bruke analyseteknikken til positive formål i næringslivet og storsamfunnet.
LØRN case C0069 -

Catharina Nes

Leder

Datatilsynet

Big Data og personvern

I denne episoden av #LØRN snakker Heidi Nordby Lunde med fagdirektør i Datatilsynet, Catharina Nes, om?hvilke muligheter Big Data Analysis gir for å forstå samfunnet bedre, og hvilke utfordringer denne type innsamling og analyse kan ha for personvernet. De diskuterer både hvordan Big Data Analysis kan utfordre den enkeltes rettigheter og friheter, og potensielt skade demokratier, men også de enorme mulighetene til å bruke analyseteknikken til positive formål i næringslivet og storsamfunnet.
Facebook
Twitter
LinkedIn
Email

16 min

Choose your preferred format

HL: Hei, du lytter til Lørn.tech. Jeg er Heidi Nordby Lunde, stortingsrepresentant for Høyre, og i dag lurer jeg på alt som har med big data, stordata og personvern å gjøre. Gjesten min er Cathrarine Nes som er fagdriektør i Datatilsynet. Hva er stordata?

CN: Det ligger litt i navnet. Det er store data. Det er derfor Datatilsynet er veldig interessert i stordata. Det handler om å bruke data på nye måter, ta data og kombinerer ulike type data og prøve å lære mest mulig av disse dataene. Se nye sammenhenger, lære nye ting om samfunnet og om enkeltindivider. Kanskje prøve å forutsi hva som kan skje i framtida ved å studere de dataene.

HL: Alle sier “hvor kommer det fra?”. Jeg er så vant til å forholde meg til en database, der har du navn, telefonnummer og alt sånn, men plutselig kan disse bli kalt stordata. Er det da mer

informasjon om personer? Eller er det satt sammen på andre måter?

CN: Det finnes tekniske definisjoner av hva stordata er, men enkelt forklart så er det det at det er mye data, men også at det er nye typer data. Du har disse dataene som ligger i registerdata, men også nye type data som kan analyseres som Youtube-klipp, likes på Facebook, alle mulige nye type datakilder kombinert med de mer tradisjonelle dataene som ligger rundt omkring i virksomhetenes databaser.

HL: Hvorfor er Datatilsynet opptatt av dette utover det at det heter data. Dere skal ha et tilsyn med hvordan vi bruker det?

CN: Vi er opptatt av det fordi jo mer data man har, jo mer kunnskap får man av folk. Jo mer kunnskap man får av folk, jo mer makt får man. For Datatilsynet som er opptatt av personvern, så er det å ha balansen. At det ikke finnes virksomheter og myndigheter der ute som vet alt om oss. Det er en del dilemmaer med stordata fordi de gir mulighet til å få veldig omfattende og dyrt innsikt om enkeltindivider.

HL: Jeg er forsåvidt veldig opptatt av personvern, men samtidig er jeg opptatt av at teknologi skal få lov til å bli brukt til det teknologi er godt til. Hvilken muligheter kan stordata gi oss som er positive i utgangspunktet?

CN: Det er mye bruk av stordata som ikke nødvendigvis har noe utfordringer for personvernet. For det første så handler mye av stordata ikke om personopplysninger. Det kan være værdata, YR, type tjenester som bygges på data som ikke har noe med personopplysninger å gjøre. Med stordata kan man også bruke anonymiserte data, aggregerte data. Man kan lage utrolig mye bra analyse ved å knytte den lenken opp til mennesket og lære om samfunnet på et overordnet nivå. Det kan man gjøre i mange ulike type sektorer.

HL: En av sektorene kan være helsesektor. Hvis man har mye data om meg som person, mine vaner og, kanskje aller mest i helsemessig forstand, uvaner. Man kunne ta tilpasse programmer, hjelp og legemidler til meg, burde ikke det vært bra?

CN: Derfor er det ikke at personvern setter en stopper for big data analyse. Det er å finne det rommet hvor man kan bruke big data analyse på en måte som fremmer og er bra for samfunnet og for enkeltmennesket. En viktig ting er at vi skjønner hvordan data blir brukt. Hvis man lager nye type helseapplikasjoner, at vi kan samtykke til hvordan data blir brukt, at vi forstår hvordan det samles inn og at vi skjønner konsekvensen av den bruken av disse dataene. Det handler om god informasjon til folk, at det er gjennomsiktige løsninger og at man ikke blir overrasket over hvordan data blir brukt. Men stordata har en del utfordringer knyttet til det, at det ofte kan være litt lite gjennomsiktig bruk av data og vanskelig å forstå hvordan det brukes.

HL: Hvis du for eksempel kan skreddersy et helse opplegg for meg ut fra ting som jeg har gitt eller ting som helsesystemene vet om meg, hvilken utfordringer kan det ligge i at myndighetene har tilgang på den type informasjon? Eller private konserner? De som sitter på disse dataene generelt.

CN: Akkurat innenfor helsesektoren så er det en del hensyn knyttet til sikkerhet. Jo mer data man samler inn, jo større vil utfordringene til å beholde dataene på en sikker måte bli. Som innbygger og bruker av helsetjenester så vil det være viktig at vi har tillit til at disse dataene oppbevares på en trygg måte. Nå dreier ikke det seg om big data nødvendigvis, men i Helse Sør-Øst saken så så man at det ikke alltid blir gjort gode nok risikovurderinger i forkant når man begynner å utlevere data og la andre aktører sitte på helse dataene våres.

HL: Du nevnte at det ikke bare er data som er knyttet opp til deg som menneske. Det er andre type data også. Når blir det et problem?

CN: Et eksempel som har vært mye brukt i året som har gått og som illustrerer noe av dette med uforutsigbarheten knyttet til databruk er Cambrigde analytica saken. Hvor helt vanlige folk tok personlighetstester på nett og ikke kunne vite at de dataene de la igjen der senere kunne ende opp i politiske kampanjer, brexit kampanjen, Trump kampanjen og til politisk påvirkning. Der var det typisk big data bruk. Data samlet inn til personlighetstesting ble krysskoblet og korrelert med data som var samlet inn av Facebook og koblet sammen for å lære mer om hvordan mennesker reagerer på budskap og ut fra hvilken personlighet de har. Den saken viste at når man bryter med folks forventninger om hvordan data blir brukt så bryter det også med tilliten. Det får direkte konsekvenser for bunnlinjen for et selskap. Private aktører ser nok dette mer direkte enn offentlige myndigheter kanskje. Fordi virksomheter må hele tiden forholde seg til å ivareta tilliten til de der ute. Hvis de bruker data på en måte som ikke er tillitsvekkende og bruker data på måter folk ikke forventer, så reduserer du tillit og folk på sikt er kanskje mindre villig til å gi fra seg data. Dette er vi også opptatt av når vi snakker om myndigheters bruk av dette. For det er viktig for myndighetene framover at skal vi digitalisere nye type tjenester innen skole, helse, NAV og skatt, så er vi avhengige at vi som innbyggere føler at vi kan gi fra oss data og tillit til hvordan de dataene brukes.

HL: Er vi som brukere i dag litt naive når vi bruker de morsomme testene på Facebook? For vi svarer jo på “er du villig til å gi fra deg all dataen til vennene dine? Alle bildene i databasen din?” bare for å ta den morsomme testen.

CN: Det tror jeg folk har gjort i årevis. Hvilken katt er du? Hvilken hund er du? Hvilken hund er naboen din? Uten å ha forståelse for at dette fôrer en industri med dataene. Jeg tror Cambridge Analytica saken var en vekker, om ikke for majoriteten av befolkningen, for ganske mange som fikk øynene opp for den kommersielle verdien som ligger i data. At man kanskje tenker jeg seg om en ekstra gang. Det betyr ikke at man ikke skal ta sånne tester, men at man har hvertfall en forståelse for det gjenbruket av dataen og verdien som ligger i det.

HL: Er det mulig å lure systemet? Begynne å klikke på ting jeg ikke liker for å se om jeg ødelegger for hvem de tror jeg er og så dukker det opp andre annonser?

CN: Jeg har skifta til mann på Facebook og det var fordi jeg var utrolig lei av å få reklame for silikon og botox. Jeg synes det var provoserende at jeg som kvinne skulle bli utsatt for det. Så jeg skifta til mann og fikk reklame for kano og turer i Alaska. Det synes jeg var bedre.

HL: Er det ikke skremmende at hvis man nå tror at stordata skal gi oss masse gode løsninger som er veldig individbaserte, så sitter det sånne som oss som leker med å bytte identitet og lure systemet.

CN: Vi har et prinsipp i personvernet som sier at beslutninger skal treffes på korrekte data. Det er for at det skal bli riktig beslutninger. Vi ser innenfor dette med kredittvurdering. I Norge som har kredittvurderingsselskapene jobbet på konsesjon, det er viktig for oss om vi får lån og kan kjøpe leilighet, men nå vokser det fram nye type selskaper som vurderer kredittverdighet på nye type måter ved å samle inn data spor. Hva vi handler på nett, hvem våre venner er på Facebook, alle mulige dataer som vi legger igjen på nett og regner vår kredittverdighet ut fra det. Da kommer spørsmålet, hvor gode er den dataen? Hvor riktige er de besluteningen? De kan ta beslutninger for oss på gal data.

HL: I tidligere tider så var det å fylle ut et skjema til banken om hvilket lån man har og noen spesifikke opplysninger. Relativt lite informasjon om oss som mennesker. Men vil ikke det å ha tilgang på så stor data gi bedre bilde og derfor bedre beslutninger for banken?

CN: Det er et viktig perspektiv. Det er det kredittvurderingsselskapene sier også. De sier at de kan vurdere kredittverdigheten til folk som tidligere ikke har fått muligheten til å bli vurdert fordi de kanskje av ulike grunner ikke ligger i registere, at de har levd liv som har gjort at de kanskje har dårlig data i de tradisjonelle registrene. De sier at ved deres bruk av data så trekker de flere inn i den vanlige regulære økonomien og at flere kan få lån. Det er den siden også. Ved å bruke data på nye måter så kan det også bli positivt ved at det kan hjelpe folk.

HL: Det er positive og negative deler. Fra et regulators synspunkt så ønsker man at man skal prøve å regulere sånn at man får bruk for alle de positive sidene og underminere de negative sidene. Hva tenker Datatilsynet om hvordan det er mulig? Er det nasjonalt eller internasjonalt spørsmål? Hva kan gjøres for at vi ivaretar brukerens interesse?

CN: Det er viktig for oss at ting skal være etterprøvbarhet. Besltunigner skal være etterprøvbare. Nå har vi fått ny personvernforordning. Den er lik i hele EU-området. Det er ikke så mye spillerom nasjonalt lenger. Det er samme reglene. Allikevel så er det nasjonalt spillerom for hvordan myndigheter kan bruke big data. Nå skal det settes opp en personvernkommisjon og regjeringen var ute etter innspill til mandater. Et av våre innspill var at personvernkommisjonen nettopp bør se på hvordan myndighetene kan gå og bruke big data på en måte som er personvern vennlig. Der er det et mye større spillerom for myndighetene enn det er for private virksomheter som må følge GDPR.

HL: Norge er et teknologiorientert land og veldig mange av innbyggerne har tilgang på teknologi, internett, bruker duppeditter i alle mulige sammenhenger. Har Norge noe naturlig fortrinn når det gjelder regulering og bruk av stordata?

CN: Det første jeg tenker på er at Norge er et tillitssamfunn. Det er en stor fordel når du skal bygge denne type løsninger. Vi er deler villig med data. Med vår samfunnsmodell så synes også vi det er riktig at data kan brukes på en måte for å kanskje utjevne forskjell i befolkning, hjelpe opp sårbare grupper, bruke data på en måte som kan skape et inkluderende samfunn. Tillit til at myndighetene bruker data på en god måte. Innen bank, forsikring og andre bransjer som ønsker å bruke data på nye måter så har man kunder som er interessert i å kanskje sette på seg sensor armbånd for å få nye type forsikringsløsninger. En åpenhet for å teste ut nye forretningsmodeller basert på data.

HL: Hvis noen som hører på er interessert i å lære mer om personvern og stordata, hvor burde man gå for å lese? Kanskje utover Datatilsynet.no.

CN: Man skriver mange bra rapporter i Datatilsynet. Sist om kunstig intelligens og personvern og problemene knyttet til det, og mulighetene selvfølgelig knyttet til AI. En bok skrevet av Franck Pascal som heter “the black box Society” som jeg synes er veldig spennende. Det handler om utfordringene knyttet til at mange beslutninger tas inn i det man kaller svarte bokser. Alt fra finans, børs trade og hvordan det førte til kollaps av bankvesenet for noen år siden til hvordan black box løsninger flytter inn til nye samfunnsområder og hvordan de gjør det lite etterprøvbart og gjennomsiktig for befolkningen.

HL: Hørtes ut som en spennende bok. Jeg håper folk leser boken og lytter videre på Lørn.tech. Takk, Catharina Nes, fra Datatilsynet.



Hvem er du, og hvordan ble du interessert i big data?

Jeg er samfunnsviter og har jobbet med utredning og analysearbeid i Datatilsynet i ti år. Som samfunnsviter ble jeg tidlig interessert i big data, fordi jeg synes det er fascinerende hvilke muligheter big data-analyse gir for å forstå samfunnet bedre. Som ansatt i Datatilsynet ser jeg de store utfordringene denne type innsamling og analyse kan ha å si for personvernet.

Hva gjør dere på jobben?

I Datatilsynet har vi jobbet med denne tematikken siden 2012. Vi var blant de første myndighetsorganene internasjonalt som publiserte en rapport om problemstillinger knyttet til big data – dette gjorde vi før Obama kom med sin rapport, og andre store land som Storbritannia og Frankrike kom med sine. I dag jobber vi med problemstillinger knyttet til stordata som ombud, men også som forvaltningsorgan, og vi har hatt de første stordatasakene til behandling.


Hva er egentlig big data?

Fra vårt perspektiv er stordata noe som setter grunnleggende personvernprinsipper under press. Stordata kan brukes til mange gode formål, men hvis man samler inn og bruker opplysninger på en måte som er utenfor enkeltindividets kontroll, kan stordataanalyse utfordre den enkeltes rettigheter og friheter, og til syvende og sist skade demokratiet.

Hvorfor er det så spennende?

Stordata er spennende fordi det ligger enorme muligheter til å bruke analyseteknikken til svært positive formål, men samtidig har teknologien også utfordringer og potensielt negative aspekter. Myndigheter og virksomheter må gjøre utfordrende avveininger mellom ulike hensyn. Hvordan kan vi bruke stordata på en måte som er til det beste for mennesket? Dette er en spennende problemstilling.

Ditt beste eksempel på big data?

Mitt beste eksempel er Facebook og Cambridge Analytica-skandalen. Den viser at når selskaper benytter stordata på en måte som bryter med folks forventninger om hvordan deres personopplysninger brukes, er resultatet tap av både tillit og penger.

Har du andre gode eksempler på big data, internasjonalt og nasjonalt?

Bruken i Kina er interessant, og selvfølgelig den bruken av stordata som foregår innen markedsføring og adtech-industrien der Google og Facebook er de store aktørene. Det er også interessant å se hvordan Skatt, NAV og Tolletaten utvikler systemer for stordataanalyse.

Er det noe vi gjør her i Norge som er unikt?

Mitt inntrykk er at norske virksomheter er opptatt av tillit, og at de derfor er opptatt av å bruke stordata på en måte som ivaretar hensynet til kundenes personvern.

Har du et favorittsitat om big data?

«With big data comes big responsibilities» – Kate Crawford.

Catharina Nes
Leder
Datatilsynet
CASE ID: C0069
TEMA: AI AND BIG DATA TECHNOLOGY
DATE : 181019
DURATION : 16 min
YOU WILL LØRN ABOUT:
Big Data (Stordata) Datatilsynet Personvern Analyse
QUOTE
"Stordata kan brukes til mange gode formål, men hvis man samler inn og bruker opplysninger på en måte som er utenfor enkeltindividets kontroll, kan stordata-analyse utfordre den enkeltes rettigheter og friheter, og til syvende og sist skade demokratiet."
More Cases in topic of AI AND BIG DATA TECHNOLOGY
#C0045
AI AND BIG DATA TECHNOLOGY
Digitale tvillinger

Michael Link

Forsker

Kongsberg

#C0044
AI AND BIG DATA TECHNOLOGY
Big Data og geometrisk modellering

Heidi Dahl

Forsker

Sintef

#C0043
AI AND BIG DATA TECHNOLOGY
Slik kan Big Data predikere fremtiden

Sverre Kjenne

Leder

BaneNor