Velkommen til Lørn.Tech. En læringsdugnad om teknologi og samfunn med Silvija Seres og venner.  

Silvija Seres: Hei og velkommen til Lørn bokbad. Jeg er Silvija Seres og gjesten min i dag er Eirik Løkke som har skrevet boka personvern etter Snowden i den digitale tidsalder. Velkommen.

Eirik Løkke: Takk

Silvija: Eirik, vi har lekt sammen før i podkast. Vi har laget parti politiske programverksted, og vi har snakket om teknologi og politikk og fremtid før, men nå snakker vi om boken din.

Eirik: Ja den er skrevet for noen år siden, og det er en mann for å ikke si dinosaurene i den digitale verden, ting går veldig, veldig raskt, så når jeg skrev en bok som jeg gjorde for 4 år siden så kan det raskt bli utdatert.

Silvija: Ja, det blir litt interessant å høre hva du tenker er mest utdatert i den boka. Si to ord om deg selv først, også går vi på boka.

Eirik: Jeg heter Eirik Løkke jobber i tankesmien Civita, her har jobbet ja nå tilbake til 2011, før det så jobbet jeg nesten to år som digital rådgiver for Unicef og før det så jeg jobbet som kampanjer for Høyre og Erna Solberg, tilbake den gangen da sosiale medier begynte å bli viktig, Facebook, Twitter og andre sosiale medier etter hvert, så har kommet litt inn med teknologi og politikk på den måten. Ellers så er jeg blitt 40 år begynner å føle meg gammel, to barn bor og mor jobber i Oslo.

Silvija: To små barn, en er ganske fersk.

Eirik: Ja 3 måneder, den andre er 3 år.

Silvija: Interessante tider hjemme.

Eirik: Veldig interessante, det er det, det går heldigvis bra særlig i disse korona tider, men det som er bra nå er at denne pandemien er over.

Silvija: Ja veldig bra, fortelle litte grann om hvorfor skrev du boken?

Eirik: Teknologi er noe som angår menneskene hele tiden, også som jeg nevnte på bakgrunnen min så har jeg jobbet med teknologi på ulike måter innenfor politikkfeltet og i organisasjonslivet så det blir mer interessert i å se bakgrunnen, filosofien, de mer pre politiske spørsmålene knyttet til teknologi også fordi at jeg har vært veldig positiv til disse verktøyene til sosiale medier, til internett det er jeg for så vidt ennå, men mer på betingelser for å si det sånn. Jeg har etter hvert begynt å bli mer skeptisk til den ekstreme makten og innflytelsen som de største techselskapene, altså de som driver med teknologi i verden, har og det å prøve å se muligheter og utfordringer knyttet til disse spørsmålet jeg er i utgangspunktet bare veldig interessert i, også fikk hele denne Snowden saken, som jeg følte veldig nøye, derav oss også tittelen personvern etter Snowden om hvilke enorme muligheter denne teknologien gir til å overvåke mennesker og ikke minst er spørsmålet om privatliv, personvern blitt ekstremt viktig og jeg begynte å lure litt på nå snakker vi nå om en tid og en annen hvor personvern slik vi er blitt vant med det, altså det å kunne beskytte vårt eget privatliv rett og slett kan bli veldig vanskelig for å ikke å si umulig i fremtiden. Det var de spørsmålene jeg begynte å tenke litt på, jeg tenkte det var interessant å skrive litt om og se litt nærmere på.

Silvija: Hvis du skulle oppsummere boka i liksom tre-fire setninger, hva sier den?

Eirik: Den er litt sånn Ibsen skriv i den forstand at spørsmålet eier et svar kun at spørre, så jeg prøver selv om jeg også har en del analyser og en del egne meninger, men grunnleggende sett stille spørsmål som var litt inne på i stad er vi ferd med å gå i en retning i en utvikling der teknologien er blitt så god da, i hermetegn, at privatliv slik vi kjenner det vil bli en umulighet i fremtiden at nærmest umulig å beskytte sitt eget liv sine egne opplysninger, det på ulike måter det jeg prøver å drøfte nærmere i boken og hvilke trusler som da har blitt illustrert i lyset av hele denne Snowden saken, så det grunnleggende sett det boken er på rundt 150 sider, så er det ikke veldig lang og her kunne man jo skrevet veldig mange sider, utgitt veldig mange bøker og som sagt teknologien ble bare mer og mer oppdatert og nyere slik at disse helt grunnleggende spørsmålene de forblir, teknologien er i ferd med å gjøre det veldig vanskelig for å ha funksjonelt personvern slik vi er vant med i den vestlige verden.

Silvija: Alt blir gjennomsiktig og målbart kanskje, men vi kommer tilbake kanskje til filosofien her. Jeg har veldig lyst til å be deg fortelle oss litt mer om Snowden for det er en viktig historie som har på en måte litt bleknet med alt det andre som har skjedd siden.

Eirik: Ja, Edward Snowden ble veldig kjent i 2013, hans bakgrunn er veldig interessant også innenfor den liberale delen, han tilhører mer i den amerikanske forstand libertariansk, altså ganske langt utpå en sånn Høyre liberal side i USA, ekstrem patriot vervet seg til forsvaret, hadde vel en litt stygg ulykke når han trente til spesial styrkene og endte opp da i cyber delen så og jeg synes personlig Snowden er en ekstremt imponerende person, særlig om man for eksempel sammenligner med Assagne, som jeg ikke har så veldig mye pene ord å si uten at det vil forsvare hele den behandling han har fått av den grunn, men Snowden som person er veldig imponerende. Det han gjorde var et dypt moralsk kall slik han sa det til å si hva er det som skjer i verden? Og han sa jo sånn ok, hvis amerikanske velgere tenker at dette er greit så ok, men amerikanske velgere og verden for øvrig er ikke klar over hva som skjer, hva er det NSA, CIA og disse forretning organene holder på med og det fikk vi heller ikke vite og de avsløringene som da Snowden kom med og hans litt lengre moralske begrunnelse for det som jeg synes er imponert med stor forståelse for, ser selvfølgelig dilemmaene med at etterretningsorgan i sin natur må være ganske hemmelig, men de helt grunnleggende tingene bør vi ha en debatt om, det greide Snowden å få til med avsløringene, han greide til og med for første gang siden 70-tallet å få den amerikanske kongressen til å skalere ned fullmaktene til etterretningsorganene og det forteller noe om betydningen, fordi hvis disse vil denne lovgivningen og de fullmaktene som ikke tålte den demokratiske debatten, vel da tenker jeg at det var et godt grunnlag for Snowden til offentliggjøre disse tingene. Også endte han opp i Russland og Putin og sånn som mange stiller spørsmålstegn ved hvor bra det er med en slags russisk agent, det var vel mer omstendighetene som gjorde det slik, og det er også et diskusjoner når man skulle få en beåndelse av Trump og ingenting er umulig med Trump, men Snowden som person synes jeg er imponerende, måten han diskuterer disse tingene i de mange intervjuene som man finner online, det anbefaler jeg alle å ta en titt på om man er uenig eller enig med måten han har gått frem på.

Silvija: Jeg prøver å huske, det var en film, men dokumentar som het Citizen One, hvis jeg husker riktig, Citizen Four, hvorfor heter den Citizen Four? Det er en historie om Snowden.

Eirik: Ja, dette er journalisten Glenn Greenwald, som Snowden forsøkte å få kontakt med også er det hun Poitras, er ikke det hun filmskaperne heter Greenwall og Poitras som har lagt Citizen Four som da forteller historien om når Snowden prøvde å ta kontakt med Greenwald, Greenwald holdt på å avfeie hele dette, han måtte masse veldig Snowden og han tok kontakt med Greenwald for han hadde skrevet en del om disse tingene tidligere, og mente at det var veldig opptatt av å være riktig, jeg har mine reservasjoner mot måten Greenwald også holdt på med de siste årene, men i alle fall den Citizen Four forteller historien om Snowden når han sitter på hotellrommet i Hongkong og du får veldig sånn mer forklaring på bakgrunn av hans, ønske hans, det han var mest redd for var at dette endte i ingenting og det gjorde det ikke det endte med veldig masse. Nå kan det tenkes at fullmakt kommer til å skalere tilbake og at etterretningsorgan på mange måter fortsette på samme måte, men det er i alle fall en større offentlig debatt, i hvert fall noe som velgerne, politikerne og resten av verden har en større gjennomsiktighet og transparent og vite hva de gjør, hvis de ønsker å ha de fullmaktene som de har.

Silvija: Men Eirik, hjelp og så forstå litte grann, vi blander litt Assangse som du nevnte og Snowden, Snowden sa om disse her etterretningsorganene som hadde en slags backdoor i veldig mange store datatjenester, hjelp oss å forstå hva det er han var så veldig frustrert over mens Assangse drev med WikiLeaks. Han videre formidlet informasjon som han kanskje absolutt ikke hadde rett til å formidle, hva frustrasjonen til Snowden i utgangspunktet?

Eirik: Den store frustrasjonen til Snowden var at etterretningsorganene CIA og NSA brøt grunnloven, måten de overvåker amerikanske borgere på var ikke lov i forhold til grunnloven og det skjedde på en måte som ikke kongressen i USA var klar over og som er veldig lite fåtall mennesker var involvert i.

Silvija: Hvor bryter de grunnloven? Er det i mengdeinformasjon, type informasjon uten tillatelse?

Eirik: Det grunnleggende, så vidt jeg forstår det, og det er omfattende juridisk diskusjon på hvilke fullmakter man her har og hva som er vedtatt i kongressen. Men så gikk de utover sine fullmakter med å overvåke mennesker de ikke hadde lov til å overvåke og da særlig, nå har jeg glemt hva han heter, men han hadde det berømte sitatet collect it all, det er i hvert fall en av dem som sa la oss bulk, altså dette masse overvåkingssystemet at folk blir overvåket for dataene sine overvåket og registrert uten at det er grunnlag for det. Og dette ble gjort med massivt samarbeid med de store big tech kompaniene. Disse tingene frustrerte Snowden veldig, som han mente både hva et med konstitusjon, altså grunnloven, og manglende demokratisk debatt og det var motivasjonen hans som han har gjentatt mange ganger hvis det er slik at det amerikanske velgere ønsker et sånn system, vel ok da skal jeg heller akseptere det, men slik vi ser det som nå skjer er at denne utviklingen mot mer og mer overvåking, mer og mer masse innsamling av data, det skjer uten at folk er klar over det og det ville han gjøre noe med og det. Det kan man jo si at man lykkes med.

Silvija: Men du to spørsmål som jeg har og så kan vi bare berøre Assangse etterpå. Det denne tanken med collect it all det er altså grunntaket til alle de store dataselskapene, ikke sant? Tanken er at man skal bare finne verktøy for å gå ut og samle så mye god data som mulig, og så skal modernisere som steg to, man skal finne ut av hvordan man skal bruke det i etterkant. Og da lurer jeg på i forhold til offentlighets rolle i dette her også kan vi snakke litt om data nasjonalisme også etterpå. Vi forventer for eksempel at offentlige tjenester la oss inn på sikkerhet skal være gode nok til å virkelig oppdage det som skal oppdages og aksepterer nesten ikke lenger at ja, men hvorfor oppdaget de ikke den terroristen for eksempel hvis han var på Facebook eller hvis han sa et eller annet eller la ut et bilde ett eller annet. Vi forventer at våre helsetjenester skal være fantastiske, de offentlige fra Norge, men samtidig så er vi litt skeptiske med å gi dem for mye informasjon og de kan ikke være like gode med kunstig intelligens uten data som de store internasjonale dataselskaper kan bli etter hvert, men poenget her er kanskje at vi skal ha en god offentlig diskusjon om hvilken informasjon skal det offentlige innsamle og hvorfor?

Eirik: Ja, det er ulike aspekter ved dette, du har de store big tech selskapene hvor data er det grunnleggende valutaen, for å bruke det uttrykket, jo mer data, jo mer informasjon de har om folkene, jo mer vet de, jo mer kan de selge som reklame og targeted annonser og tjene masse penger på det og det gjør de. Hvis man tar og spissformulert så er Google og Facebook massive reklameselskaper på en måte som verden aldri tidligere har sett, når det gjelder spesielt etterretningsorgan som motivasjon for collect it all så er det at man skal ta en all informasjon for å være sikker på at man ikke glemmer noe, fordi det kan dukke opp ett eller annet her som man kan utlede senere som kan avdekke trusler

Eirik: Men vi også huske på noen av feilene, i hermetegn, eller det mislykkes med 11. September var at man hadde alt for mye informasjon, man hadde så mye informasjon at man greide ikke å conncte dots som man sier og information overload, så der problemet som man ikke greide å lese da. Også sier de mest teknologioptimistiske personene også i etterretningsorganene at nå har vi mye bedre systemer, systemer for å prosessere data, nå har vi kunstig intelligens maskiner kombinert med human intelligence analytikere så vil dette bli mye enklere, og det kan hende er rett, jeg  ikke helt overbevist over at de har løst det problemet information overload helt ennå, men det er ikke det grunnleggende spørsmålet i første omgang, første omgang er om de er villige til å gi staten, etterretningsorganene de mulighetene til å samle inn all informasjon i tilfelle man skulle kunne avdekke, det litt sånn som du sier det er folk på den ene siden de er veldig irritert, de er veldig sånn skuffet over hvis en eller annet terrorhandling skjer, og så var det en eller annen informasjon eller annen plass som i noen tilfeller kunne tenkes å avsløre, som 22. juli tilfelle hvor terroristen kjøpte sånn gjødsel og ting som man sett i system da kunne avsløre det her bygget en bombe,  men hvis man skulle gått tilnærma en slik tilnærming og fordi vedkommende hadde ikke noen andre områder avslørt ekstreme holdninger eller på noen måte var i søkelyset, men man kan få nærmest alle måter da tenkes at man kan sette sammen informasjon som kan tenkes å avsløre noe og hvor man skal sette disse grensene det er et pågående spørsmål, og jeg vil advare litt mot, og det er også det Snowden og en del andre sier og tror at bare du samler nok informasjon og prosesser dette, så vil man nærmest som resultatene avslører alle trusler, men slik fungerer det ikke og det tror jeg er veldig viktig å påpeke.

Silvija: Ja, jeg er helt enig, så spørsmålet er vel egentlig, som man må starte med er hva vil vi med data også hvis vi er enige om hva vi vil med data, så kan vi også være enige om hvordan vi innsamler og behandler data.

Eirik: Og jeg tenker at data kommer til å eksistere, ideen om at du ikke skulle nærmest være en del av det digitale samfunn hvor vi avlegger elektroniske fotavtrykk, for å bruke det uttrykket, hele tiden fordi at det er masse sensorer, der er masse the internet of things, altså det er bare helt umulig måten betalingssystemene, det er helt umulig å tenke seg at du skal være et moderne menneske og ikke være en del av det digitale samfunnet that’s it, det har jeg bare akseptert og undertittelen altså privatlivet digitale samfunn, dataene er der, de kommer til å være der, og du får masse av det, hvordan håndterer vi det? I utgangspunktet så burde jo dataene tilhøre oss og de dataene vi anlegger burde vi selge, ha utgangspunkt til hvordan vi vil bruke, så hva er vi villig til å gi bort eller selge personlige data, og hva er helt nødvendige data som vi er nødvendig må gi fra oss for at vi skal ha et fungere offentlig system, altså skattesystemet og så videre, men det går fra ned fra og opp, det er sånn jeg tenker liberale staten skal være og da har du ulike typer data, de som bare for deg selv, de som man kan selge, gi bort eller dele med andre, også har du de som blir nødt til å gi fra deg for at du skal ha et fungerende system og på en eller annen måte. Også kan du egentlig legge til en kategori hvilke typer data myndighetene ha lov til å fullmakt til å gå etter hvis du er mistenkt for å være involvert i kriminell aktivitet. Og jeg er helt tilhenger av at du skal ha fullmakter til å gjøre det, hvis du har skjellig grunn til mistanke så går det enda mer enn det, altså i visse typer ekstremistiske miljøer også videre, hvor flyter min data, hva du skal kunne registrere og notere ned, så skal du ha større fullmakter til å gå mer inntrengende inn jo større mistanken er. Ja, jeg tror bare skal nevne de de prinsippene da.

Silvija: Hva skal vi tenke om for eksempel digitalt grenseforsvar?

Eirik: Ja altså det det begrepet digitalt grense er mye brukt det heter nå tilrettelagt informasjon, altså den nye etterretningsloven som i sin natur diskuterer hvilken type fullmakter etterretningen skal ha. Jeg var veldig lenge, det er jeg forså vidt fremdeles skeptisk til de typer fullmakter som nå digitalt grenseforsvar legger opp til nemlig at de innsamle all type data som går ut og inn av grensen, det vil i realiteten si også den type kommunikasjon som vi har hvis vi sender e-post, for det er veldig mye lagret i skyer, så all den type data ble registrert og lagret, også vil det være spesifikke begrensninger og kontrollfunksjoner med spesialdomstoler eller domstoler med fullmakter til å kontrollere det her. Jeg har tenkt at i den moderne verden med de digitale truslene vi står ovenfor så er det ikke noe det er ikke noe gøy å si at jeg skulle gjerne vært dette foruten, men jeg har ikke noe fullgodt svar til hvordan vi ellers skulle beskytte vitale norske interesser mot seg cyberangrep, mot digitale trusler også videre, og hvis du ikke kommer opp med et svar som man vil ha i stedet for, altså alternativet ville vært å gjøre ingenting, da vil det være mye mer avhengig av våre partnere, de andre landene som driver med dette og være nærmest støttet på de og det vil heller ikke være veldig bra for Norges nasjonale sikkerhet hvis vi ikke kan ha egne kapasiteter på dette området, så tenker jeg at det er dessverre helt nødvendig, så kan noen nyanser eller noen måter man kunne innkapsla dette på en bedre måte, men grunnleggende sett så tror ikke at vi kommer utenom at etterretningstjenesten er nødt til å ha den type muligheter hvis de skal være i stand til å beskytte Norge i en digital tidsalder. Det er litt synd, men det er nedsiden av teknologien og det digitale.

Silvija: Tilbake til det offentlige versus det private. Jeg husker en samtale med en som heter Alex Karp, som er sjef for Palantir, som er et ekstremt interessant data analyseselskap.

Eirik: Og jobber mye selvstendig?

Silvija: Ja også brukt av en del diverse offentlige og statlige institusjoner.

Eirik: Jeg har en venn som jobber der

Silvija: Han var ganske frustrert over at for eksempel noen andre store dataselskaper da gikk litt vel vill inn i kina. Han mente at det kan ikke vi være med på så dette her blir en sånn blanding av både private og nasjonale interesser. Hvordan i all verden skal vi tenke videre på det?

Eirik: Det skrev vi litt om i boken også. Altså det er en grunnleggende forskjell og hvis du ikke har mer i den forskjellen mellom formålet og formålet er ekstremt viktig er med overvåkning i demokratiske samfunn og autoritære samfunn. Hvis man ikke skjønner det skillet så er man allerede skjevt av sted. Hva var det der holdt på med sin Stasi Sovjetunionen, og hva var det USA grunnleggende sett holdt på med CIA? Så kan man si at og som Snowden avdekket det gikk for langt i USA, vi har jo lønn kommisjonen i Norge som avslørt at det hadde overvåking på politisk grunnlag, men grunnleggende så formålet der veldig forskjellig, derfor tenker jeg også alt som har med teknologi som kommer fra kina skal vi være ekstremt forsiktig med.

Eirik: Jeg er veldig for en liberal verdensorden, handler med kina gjerne, men på våre vilkår, mest mulig handel i verden tenker jeg på som en positiv ting, men nedsiden av å ikke være et demokrati eller et liberalt demokrati som Kina ikke er, det er at de ikke bør få tilgang til digitale interesser i Norge, Huawei for eksempel bør ikke få muligheten til å bygge ut 5G nettverk og den type ting, og det er fordi vi aldri kan stole på dem uansett hva Huawei og store kinesiske selskaper sier at de er uavhengig av den kinesiske staten, vi kan ikke stole på det. Og i motsetning til for eksempel Facebook og Google, som har sine egne problemer og Amazon og Apple, de vet i hvert fall at de opererer ikke som en forlenget arm av den amerikanske staten, de har til og med gått mange ganger til domstolene og vunnet for å beskytte personlige data, noe som ikke skjer i Kina i alle fall ikke i nærheten av sammenlignbar. Og det betyr også at vi bør være veldig forsiktige, Google har vært veldig forsiktig med hva de gjør eller eventuelt skal gjøre i Kina med den type sensur, her tenker jeg at vi skal være verdi drevet eller vi bør ha et verditilnærmingen til det her selv om vi er performance ribbon. Det er et uttrykk som heter value ledd, performance ribbon, vi skal konkurrere rundt omkring i verden på alle måter det kan, men det skal ikke bryte med grunnleggende verdier slik det er å gå med på kinesiske vilkår med sensur, the social credit systemet som de holder på med i Kina, også er det ulike dilemmaet jeg også klar over, men grunnleggende sett tenker jeg at det som er tilnærmingen vi må være veldig forsiktig med hva og hvordan vi forholder til kina.

Silvija: Her er det masse forskjellige vi kunne tatt tak. Jeg tror jeg velger å ikke gå lenger med kina, for jeg jeg mener at vi tolker deres social credit systemet med feil kulturelt grunnlag og jeg opplever at de i tillegg til å være totalitær er de også kompetanse og er veldig opptatt av harmoni og stabilitet og det de kaller stabilitet kaller vi noe annet så jeg tror det er en del sånne kulturelle ting som begynner å bli innmari farlig når man begynner å rote bort i andres politikk og det er der jeg egentlig tenker at vi må være opptatt av hva andre gjør med eventuelt norsk politikk og norske verdier. Slik jeg tolker deg er at disse store dataselskaper har for mye makt, vi må leve med det også må vi utvikle våre egne muskler når de samler vår data, så lenge det er for kommersielle purposes så er det ok, men hvis vi begynner å gå over mot politiske samfunnsstyrings verdi relaterte purposes så er det dypt problematisk. La oss anta OK, du sa de er store verdens største annonsemaskiner, jeg tror de kommer til å gå fra reklame til helsetjenester og sikkerhetstjenester og optimalisering på samfunnsnivå tjenester og så videre og der begynner det å renne over til noe som kanskje er litt for mye verdi og veldig mye kommers, men også veldig mye verdi.

Eirik: Ja, vi trenger ikke å gå videre med Kina, jeg vil bare si at jeg mener at vi har rett, demokratiet har rett, Kina har feil og det er min tilnærming, så vi kan ikke krangler om hvor relative vi skal være i forståelsen.

Silvija: Det er vi enige om, forresten, begge deler.

Eirik: Ja så bra. I utgangspunktet må det være greit å samle inn data som vi som borgere sier er greit fra seg til teknologiselskapene, vi kan eventuelt komme litt tilbake til hvordan den prosessen med hva vi faktisk aksepterer, muligheten til å ikke akseptere det også videre, som også er dypt problematisk eventuelt kunne gjort med det. Men hvis de går videre til å drive mer som dermed cold hearted tjenester. Vi kan ta helsesystem, for eksempel som Google helse, det var en sånn det litt mislykket forsøk vi fikk i sin tid når de skulle prøve å avsløre når du fikk influensa basert på hva du søker også videre gikk ikke helt sånn som de tenkte i utgangspunktet, men kan tenke at de er optimalisere den teknologien tidligere nærmest kan lage sitt eget helsesystem som er bedre enn nasjonale helsesystem, det slettes ikke utenkelig med tanke på de ressursene som de nå har og der ligger det del sånn fallgruver som er sånn ok, Google kan du bare gå inn og si sånn at jeg dette kan vi drive bedre, men da kan du få en type moralisering tilbake, tar du godt nok vare på kroppen din, vi har dataene dine, vi ser at du gikk på kino eller restaurant istedenfor å gå på gymmen kanskje du burde betale litt mer og vi kan tenke at Google i større og større grad ikke bare på helse, men for mange grunnleggende infrastruktursystemer for kommuner, skole og så videre som i seg  selv tenker man ikke på det at du bruker data for å optimalisere tjenester på utdanning.

Eirik: Spørsmålet er om det er public utilities som flere har sagt dette er ikke Google som hadde gjort det og jeg er grunnleggende positiv til marked profittmotiv, men man skal være ganske blind for å ikke se at dette har noen farlige implikasjoner hvis man overlater så mye data, så mye ansvar og så dypt integrert Google eller andre store private selskaper i offentlige tjenester og da ender det opp med også ikke har noen konkurranse på dette, fordi, at de har holdt på i 10, 15, 20 år og kostnaden ved å da si at nei, nå da nå skal vi gå over til noe annet er enorm. Jeg vil veldig gjerne at vi unngår å komme i denne situasjonen, og det er litt sånn andre ting som er litt sånn, jeg vet ikke hvor sammenlignbart det er, men det er jo sånn noen ganger er interessant å se at man hvor kortsiktig og langsiktig man skal se hvis man for eksempel selger tv rettighetene til fotball som mange er villig til å betale mange milliarder for, men hvis man tenker for kortsiktig på det da så kan det være at man undergraver sitt eget produkt i lengden, og jeg vet ikke det er ikke hvor godt den sammenligningen er hvis man tar også bare forplikter seg til Google på kommunene rundt omkring og ender opp med at man da står i en situasjon hvor man er nødt til å godta det aller meste av det Google kommer med eller andre private selskaper. 

Eirik: Det eneste som er farligere enn offentlige monopoler det er private monopoler, så monopol i seg selv er en veldig dårlig ting, det bør vi prøve å unngå, her må vi ha konkurranselovgivning for private områder også må vi unngå å komme i en situasjon hvor du har private selskaper som blir så store at vi kan drive helsesystemer og hva hvis Facebook kommer inn og sier hei, vi kan få valgdeltagelsen opp til 95% eller 100%, la oss ta over hele demokratiet Facebook demokratiet, så kan folk enkelt stemme på politiske partier og andre forslag gjennom Facebook, også gjør man det i 10 år også sier man at ja, men hva om Facebook begynner manipulere systemene her, vi har Cambridge analytica eksempelet, allerede integrert og godt så langt at det er vanskelig å gå tilbake, så vi må tenke veldig nøye igjennom hvilke kortsiktige gevinster vi eventuelt kan få av dette. Også kan vi også huske på da i ærlighetens navn at årsaken til at Facebook og Google så populær at de er ekstremt relevante og gode tjenester som folk liker og det er kanskje det som er det største problemet som gjør at du skal ha veldig faste politikere for å være villig til å unngå å komme i en sånn situasjon.

Silvija: Tror vi egentlig kan legge til flere der, du kan legge til Twitter og det de har gjort med amerikansk politikk, hele Microsoft og det de holder på å gjøre med offentlig helse mange steder. Jeg vet ikke om jeg skal bruke fem minutter nå på Cambridge Analytica eller på en sånn moral hazard slippery slope type argument.  Jeg tror kanskje jeg velger det siste, du og jeg har snakket ganske spennende om Cambridge Analytica før blant annet om Jack Randall, som har skrevet en sånn veldig god review av hva som egentlig skjedde, og det som fascinerer meg at dette begynte egentlig som et statlig initiativ, i et datterselskap som skulle aldri misbrukes i demokratisk vestlig demokrati setting, men så sklir det litt høyere og litt venstre også er det noen som har litt mer frempå enn andre også plutselig havner det i amerikansk valg runde. Den der slippery slope argument at dataselskaper begynner med å samle inn data for en bestemt type produkt, en bestemt type industri, en bestemt type verdikjede og der leverer de en god tjeneste, men hele poenget med prisingen av dataselskaper og deres strategi fremover er at de skal se nye områder de kan gjenbruke de samme dataene på med samme modeller, og det er der hvor det kommersielle og smale sklir over til det brede og det samfunnsmessige det som burde være offentlig, og jeg synes dette begynner å bli ubehagelig da. Jeg tenker ofte på la oss si Mark Zuckerberg eller egentlig kan du tenke på hvem andre du vil av de big nine for eksempel, som han der duden i monty pythons life of brian hvor det er noen som spør om alle de som følger deg, hva er det, nei altså I didn’t lead them here, they just followed me. Vi er litt sånn ubevisste følgere og byggere for dem og de kan ikke noe annet enn å finne nye områder og anvende dette her på gitt aksjeprisen. og hva gjør man? Altså, vi er jo litt sånn frosken som blir kokt da.

Eirik: Ja det er en mye brukt metafor at hvis du skrur opp varmen så sakte mens forskeren ligger så merket han ikke at han til slutt kokes så kanskje en slik tilstand vi er i spørsmålet om sosiale medier og disse tjenestene, at vi kokes og sakte at vi plutselig ender opp med at nå er privatlivet forbi og nå har mange av disse techselskapene fått så mye makt at det det de har vist tipping point også er det point of no return, og det bør vi absolutt unngå. En annen ting med hele Cambridge Analytica eksempelet er at vi kan ikke stole på det Facebook sier, de visste godt hva som skjedde, der har vi Mark Zuckerberg, Sandberg og så videre og hvordan hun var og hva de skulle si til offentligheten så vi bør ha lover og regler på plass som ikke overlatt dette goodwill til selskapene. Altså den etiske standarden er viktig og jeg er veldig for det, men i disse spørsmålene så bør vi ha hard konkurranselovgivning, harde bøter for brudd på denne type bevisst brudd og juks og brudd på datasikkerhet og misbruk av folks personlige data, der kan man kjøre mye tøffere enn det man har gjort og man bør kjøre disse sakene veldig hardt.

Eirik: Videre så bør du også være forsiktig med hva du faktisk overlate til private selskaper og til hvem, noe annen tilnærming enn det er vanskelig, altså det er også spørsmål om dette bør splitte de opp slik amerikanerne gjorde big trusten store selskapene veldig når oljeindustrien for 100 år siden litt over 100 år siden, litt usikker på om det er hensikt hensiktsmessig alt tatt i betraktning, men det er ikke utenkelig, man bør i hvert fall unngå at det kommer en situasjon hvor du har noen etterretningsselskaper som er altfor store og på den måten kan manipulere markedene. Det de allerede gjør og som vi vet i alle fall stor grunn til mistanke er at vi vet mye om alt som har dette med psychometric, altså som du sa eksemplet med Life Of Brian vi bare fulgte med på en eller annen måte, men vi ble manipulert, noen ganger så vet vi ikke helt hvordan det skjer selv, men det er enormt masse forskning, det er ikke helt tilfeldig måten disse algoritmene på disse store selskapene fungerer, de skal jo manipulere oss eller fasilitere en bestemt adferd, så kan man tenke at folk har fri vilje og kan bestemme alt dette selv, så enkelt er det er det neppe så vi burde heller fasilitere en måte hvor vi i større grad får en fungerende markedstransaksjoner hvor vi kan ha forskjellige oppfatninger om hvilke data vi vil dele for jeg tenker, hvis du vil få forsikring mot å dele dataene så er det ingenting i veien for det prinsippet, gjerne for meg, og på andre områder hvor man tenker at det her er gratistjenester mot at du er produktet som det så populært heter, ok så lenge vi har en rimelig forståelse av at vi kan fatte disse beslutningene selv, det har vi ikke i dag, og det er bare å se på disse vilkårene som presenteres som er bare sludder, det er ingen som noen gang har lest noen av disse vilkårene som de går med på. Forbrukerrådet for eksempel med å stå å lese på alt det og du har også den Netflix dokumentaren, det er ikke meningen at vi skal lese disse tingene om hva de har tenkt å bruke dataene med også videre og der burde ideelt sett bransjen selv utviklet en standard som egentlig forklarer hvilke data de skal ta, hvorfor og hva skal de brukes til. Så skjønner jeg også at det er så mye data så komplisert at det kan bli vanskelig, men det burde være en slags bransjestandard her 

Silvija: Jeg foreslår 10 bud, altså at vi kan styre dette mer prinsipielt enn det på detaljnivå.

Eirik: Ja, jeg har tenkt makro ikke micro, enig i det, men i hvert fall ha en tilnærming som gjør at vi som borgere kan ha en realistisk og rimelig forståelse av hvordan du skal forholde oss til det, det har vi ikke i dag.

Silvija: Så vanlige folk kan forstå.

Eirik: Ja, det tenker jeg, og det er også noe når jeg har hatt en del foredrag og snakket med andre folk om det som skjer i den digitale verden og spør om folk burde være bekymret, nei de er ikke bekymret, men så tenker sånn det burde du være, så er det noe med det at det går egentlig ganske bra, dette er ikke noe stort problem, og problemet er hva som kan skje 5, 10 år i forhold til problemer som kan skje om 5 måneder, kanskje de som har rett og jeg som tar feil opp dette. Dette kommer til å gå mye bedre enn det vi tror, og privatlivet kommer til å bevare, så vi kommer til å få fantastiske tjenester og livet kommer til å bli bedre enn vi noen gang kunne tenke oss. Godt mulig, og jeg tar gjerne feil, men jeg tenker at det er viktigere å stille de riktige spørsmålene nå og ta denne debatten nå heller enn opp i en situasjon hvor vi burde tatt debatten for noen år siden og det vi har reached tipping point, det er formålet med hele denne boken min også, den debatten om hvordan vi skal forholde oss framover nå og ikke ende opp med å komme til situasjonen hvor vi ikke har noe valg nærmest om 5, 10, 20 år.

Silvija: Jeg tenker to raske her. Det ene er at det som skjer nå, altså bør folk være bekymret, nei, vi har på mange måter aldri hatt det bedre enn nå, men om de burde være belært, ja, jeg tror det er veldig viktig å gjøre akkurat det du driver med og på en måte på folk til å forstå hva som skjer og kanskje også tenker jeg at vi kan ikke stoppe de store internasjonale dataselskaper, you can’t stop them, but you must outrun them, i de områdene som er vesentlig at vi fortsetter å kunne levere selv.

Eirik: Helt enig og så har du også den utfordringen at hvis vi pålegger for store begrensninger her i vesten så har du ok, men det skulle ikke si så mye maskiner, men du har andre land, autoritære land som kan tenkes å ha mindre begrensninger og vil fylle mye av den etterspørselen og da nærmest dominere hele kappløpet om kunstig intelligens som vi absolutt ikke vil ha. Og så skal man ikke la det være en unnskyldning for å tillate hva som helst, det er bare nevne at det er et dilemma som man også bør ha har med seg. Det er mange nok trusler mot demokratiet i verden nå, og det er enklere i dagen for få å se hvordan dette kan gå virkelig ille og tenker ikke bare på USA, men jeg tenker på den globale trenden her om at folk kanskje er lettere, og det er kanskje sosiale medier og big techselskapene en del av skylden også, lettere blir manipulert på hva som er viktig og demokratiske verdier og hva som hva som ikke er det, vi må ha et fungerende lovverk som gjør at vi kan gå inn i fremtiden på en  måte som både har fordeler og ulemper da.

Silvija: Veldig bra Eirik, vi må lande nå, siste spørsmålet mitt er altså denne boka er skrevet på fire år siden, men fortsatt superrelevant eller kanskje mer relevant enn noensinne. Hvis vi skulle legge til et nytt kapittel, hva ville det vært om?

Eirik: Det ville vært om GDPR om egenpersonvernforordring. Hva er utfordringene her? Hvordan fungerer det? Det dette er nybrottsarbeid også reguleringstid var jo ett ny forhold som ikke hadde vært det slutt på 90-tallet som vi hadde fått med skikkelig internett og hele den teknologiske utviklingen og det var utfordring, hvordan skal vi forbedre systemet? Det er ganske juridisk komplisert. Det er en av utfordringene av meg som historiker, som hverken er teknolog eller jurist skal prøve å skrive om teknologi og juss med menneskespråk og det er ganske god forståelse av genpar måtte brukt mye tid på å sette meg inn i alle disse tingene, men det kan være et eventuelt nytt bok prosjekt da foreløpig ikke bokprosjekt eller et litt sånn holdes i papers som vi ofte utgjør i Civita om GDPR, hva er fordeler og ulemper med dette, hvordan kom dette reguleringssystemet til å fungere opp mot resten av verden på mange måter så er en riktig måte å tenke på, men det kan også være at vi ender opp med det beste personvernlovgivning i Europa også ble det hele byggdata revolusjonen foregår i USA og Asia så er spørsmålet om da i Europa er nok som verdens museum ikke bare sånn demografisk for aldersmessig, men også når det gjelder teknologi eller om vi kan bruke så mange sier nemlig at personvern skal være vår konkurransefortrinn , det høres bra ut i teorien, jeg skal like å se at også fungerer sånn i praksis.

Silvija: Kjempespennende Eirik Løkke, Tusen takk for at du er med oss i Lørn bokbad.

Eirik: Veldig hyggelig.

Du har nå lyttet til en podkast fra Lørn.Tech. En læringsdugnad om teknologi og samfunn. Nå kan du også få et lærings sertifikat for å lytte til denne podcasten på vårt online universitet Lørn.university.