LØRN case C0037 -
LØRN. SME

Dan Sørensen

Senioradvokat

Selmer

Hvem har ansvaret når en selvkjørende bil krasjer?

I denne episoden av #LØRN møter du senioradvokat i Selmer, Dan Sørensen. Dan har jobbet i IT-bransjen i mange år både som gründer, programmerer og prosjektleder. Selmer ble etablert i 1985 og er et av landets fremste advokatfirmaer med 180 medarbeidere. I episoden snakker Dan blant annet om hvordan ny teknologi skal bli regulert og hvem som har ansvaret. Dan reflekterer over viktige problemstillinger som bør tas stilling til når man nå bygger den nye jusen; hvem har for eksempel ansvaret når en selvkjørende bil krasjer?
LØRN case C0037 -
LØRN. SME

Dan Sørensen

Senioradvokat

Selmer

Hvem har ansvaret når en selvkjørende bil krasjer?

I denne episoden av #LØRN møter du senioradvokat i Selmer, Dan Sørensen. Dan har jobbet i IT-bransjen i mange år både som gründer, programmerer og prosjektleder. Selmer ble etablert i 1985 og er et av landets fremste advokatfirmaer med 180 medarbeidere. I episoden snakker Dan blant annet om hvordan ny teknologi skal bli regulert og hvem som har ansvaret. Dan reflekterer over viktige problemstillinger som bør tas stilling til når man nå bygger den nye jusen; hvem har for eksempel ansvaret når en selvkjørende bil krasjer?
Facebook
Twitter
LinkedIn
Email

18 min

Choose your preferred format

Velkommen til Lørn Tech, en læringsdugnad og teknologi og samfunn med Silvija Seres, Sunniva Rose og venner.


SS: Hei og velkommen til dagens utgave av lørn.tech. I dag er teamet lovtech, eller legaltech. Gjesten min i dag er Dan Sørensen, senioradvokat i advokatfirmaet Selmer, velkommen.

DS: Takk for det.

SS: Vi skal altså snakke om denne tingen som vi ikke engang vet helt hva vi skal kalle på norsk. Det er kryssningen mellom datateknologi og digitalisering og juss. Du har hatt både juss og informatikk som hovedfag, kan du ikke fortelle litt hvordan det gikk seg til?

DS: Det er en interessant kombinasjon synes jeg i hvert fall og veldig aktuell nå. Men det er rett og slett at jeg har vært interessert i teknologi helt fra jeg fikk den første PCen når jeg var liten og begynte å programmere. Men så har jeg også vært fascinert av jussen, så jeg begynte å studere det.

SS: Hvorfor var du fascinert av jussen?

DS: Det vet jeg egentlig ikke. Det er kanskje logisk. Jeg synes det er mye logikk i det. Og sånn sett har mye av jussen mye likheter med programmering. Så hvorfor det ble det det vet jeg ikke, men det ble det. Så fant jeg ut at programmering lå kanskje enda nærmere hjertet enn jussen så da byttet jeg. Så da gikk jeg fem år på Blindern og tok hovedfag informatikk.

SS: Jeg holdt på å si at jeg opplever jurister som ekstremt sånn tight shirt og konservative folk, man ser ikke langt hår på dem. Også tenkte jeg at nerdene mine fra Institutt for informatikk ikke nødvendigvis er sosiale superstjerner de heller. Så hvordan blir en informatiker jurist?

DS: Nei, jeg vet ikke jeg. Jeg hadde bare bestemt meg for at jussen skal jeg ta ferdig, så da gjorde jeg bare det senere. Og nå får jeg jobbe med mye teknologi spørsmål i jobben som senioradvokat, men så har jeg da jobbet litt med det området med legaltech og kommet frem til at det er en veldig god match.

SS: Og dette er to forskjellige ting, og dette er to kjempespennende ting. Legaltech handler om teknologi som gjør jurister mer effektive, mer presise, mer treffsikre, prosessene mer transparente. Mens det andre du sa er de nye problemstillingene som skapes i disse nye teknologiske verden vi lever. Altså hvem har ansvar når en selvkjørende bil treffer noen? Er det de som har laget algoritmen eller er den som har samlet dataen om veien eller den som har laget hardwaren eller, er det sånne type problemstillinger du ser på?

DS: Ja, det er det. For det er klart at det vi ser er at alle de.. Nå er det sånn at veldig mange bransjer i Selmer, alt fra vanlige corporate oppdrag og MNA og anskaffelser av IT..

SS: Gi oss eksempler på nye problemløsninger.

DS: Ja, for eksempel det vi ser innenfor eiendom for eksempel, er det også et begrep som heter proptech ikke sant. Det er fordi det har vokst frem mye teknologi når det skal bygges et hus for eksempel, eller kontorlokaler, så er teknologi blitt en viktigere og viktigere del av leveransen av det totale entreprenører skal levere. Og ikke minst så ser vi at uansett bransje så ser vi at teknologi, det er bare en utvikling vi har sett, det blir bare mer og mer forretningskritisk. Så det vil si at fokuset på teknologi, uansett om du skal selge et selskap, eller du skal bytte ut et IT-system, eller du skal effektivisere egen bedrift, så blir IT og teknologi og løsningene du anskaffer superviktig. Så det vil jeg si at på vår avdeling, det som vi jobber med teknologi og media, så ser vi at vår kompetanse blir viktigere og viktigere i de andre avdelingene også, som jobber med mer tradisjonelle juridiske spørsmål.

SS: En av de morsomste eksemplene jeg har lest på et sånt, jeg vet ikke om vi skal kalle det kunst eller innovasjon, de har omtalt dette som et kunstprosjekt. Det var noen gutter i Sveits som programmerte en robot til å bruke, jeg vet ikke om det var ti dollar i kryptovaluta på den mørke weben hver uke. Den gikk stort sett ut og kjøpte uskyldige ting, sånne fake Nike eller litt sånn gress man ikke burde kjøpe og sånn, men av og til kjøpte den skikkelig skumle ting sånn som bombedeler og sånt. Og da var egentlig spørsmålet deres “hvem brøt loven?”. De som programmerte den? De som gjorde transaksjonen mulig? For det var veldig mye vilkårlighet, det er veldig viktig, for den oppførte seg vilkårlig i forhold til hva den kjøpte på det mørke webet. Og jeg vet ennå ikke hva svaret burde være, men dette her drar meg bort mot en av mine favorittbøker. Jeg har lest en del science fiction for mange år siden, nå leser jeg de samme bøkene på nytt. Og en av disse her er om to androids dreaming of electric sheep ikke sant. Ansvarsfordelingen mellom denne fantastiske internet of things og kunstige intelligente verden vår, og oss mennesker som bruker den. Og sette premisser for den. Det er der du kommer til å ha den morsomste jobben i Norge fremover tenker jeg.

DS: Ja, jeg tror det. Vi ser jo allerede på forslagsloven til selvkjørende biler. Hvordan man har strebet med å finne balansen, hvem har ansvaret når den bilen krasjer. Er det selskapet? Er de som har programmert? Må man utpeke en ansvarlig? Det er jo utgangspunktet at man må det. Og det tror jeg at vi vil se i mange andre tilfeller også, at du må noen som står ansvarlig, men akkurat hvem og hvordan der er det mye å ta tak i og mye som er uløst. Og ikke minst utenfor Norge som jurisdiksjon, for her er det mye løsninger som går på tvers av jurisdiksjoner og hvordan skal du regulere det da.

SS: Jeg tenker at det er i hvert fall tre umulige problemstillinger her: det ene er at, si en selvkjørende bil inneholder flere linjer av kode enn en F-35, altså det er en 135 000 linjer av kode sist jeg sjekket, og dette er biblioteket, og biblioteket er skrevet av veldig mange forskjellige personer, så hvilken del av koden var det som sviktet, eller hvilken kombinasjon. De som lager komplekse programmer vet at dette er skjøre ting som er umulige å re-engineere bakover ikke sant. Det andre er at når ting blir kunstige inteligente så er det en sort boks, som ikke de som har programmert den engang vet eller forstår lenger, for denne kunstige intelligensen har lært ting som ingen har lært den. Og det er veldig å forstå hvorfor avgjørelsen ble som den ble. Og det tredje er at noe av dette er rett og slett problemstillinger som vi aldri har sett før, og det finnes ikke noe juss rundt det. Hvordan kan man da begynne å sette opp jussen rundt dette her?

DS: Det er kanskje det store spørsmålet da. Og der har vi egentlig bare så vidt begynt å pirke i det. Og det ser vi både når det gjelder ansvar, men også når det gjelder eierskap til dette her. Hvis det er selskaper som har eierskap til teknologien, og som sitter og holder rundt dette for at ingen andre skal få kjennskap til teknologien så gjør det det enda vanskeligere å få den transparenten du trenger. Det er jo noe som for eksempel hvis du tar under personvernlovgivningen beslutninger som er basert på maskinlæring eller kunstig intelligens eller hva som helst, man må sikre rettighetene til den enkelte slik at det er mulighet for å komme bak og se. Men i disse tilfellene så er det som du sier nesten umulig, for de som har laget en del av disse algoritmene forstår heller ikke hvordan funksjonen har kommet frem til den beslutningen den har. Så jeg har ikke noe bedre svar på det, enn at her er det mye å ta tak i, men også utenfor Norge. Her tenker jeg at man må jobbe mer globalt, og jeg vet at EU driver en del med dette her og ser på ulike områder på hvordan man kan regulere det.

SS: Og foreløpig så er vi på det nivået at når en selvkjørende bil tar en avgjørelse, på hvilket verdigrunnlag den tar det på osv, men jeg tenker at dette blir veldig mye verre i veldig mye større skala når medisin automatiseres, robotiseres, og gjøres kunstig intelligent ikke sant. Plutselig er det avgjørelser som er verdt liv og død da.

DS: Og det vil det være i dag også. Altså på menneskelig svikt. Altså da må man ha et slags apparat rundt det, type forsikring, altså andre type ordninger rundt det som kan bruke for å forsøke å rette opp mest mulig de skadene som skjer. Og så er det ikke sikkert at det med selvkjørende biler vil bli flere ulykker enn nå.

SS: Nettopp.

DS: Så det kan godt hende at samfunnsøkonomisk så vil det bli til det bedre.

SS: Jeg tror at vi mennesker er.. Jeg tror at du peker på noe veldig viktig, vi mennesker er veldig mye tilgivelig over andre feilbarlige mennesker enn ovenfor dette systemet vi antar at erufeilbarlig, og glemmer at er programmert av mennesker. Jeg sitter i noen styrer i finansielle institusjoner, og har blitt overrasket over hvor mye legale kunnskaper som forventes av oss. Så veldig mye av saksbehandlingen handler om riktig governance og compliance håndtering. Og vi trenger å kunne så veldig mye juss, hvordan skal vi.. Også GDPR-juss, det er veldig mange forkortelser som er veldig mye for mange. GDPR har vært på alles lepper siden i sommer. Men jeg tror at det er vanskelig for jurister og for ikke-jurister, for vi forstod kanskje ikke i utgangspunktet hvorfor den var nødvendig, også skjønte vi at okey det er livsviktig avgjørelser som tas på bakgrunn av data, da må vi vite hvordan dataene håndteres. Men det er uløselige problemer også. Nå snakket jeg lenge, og jeg har egentlig ikke et spørsmål annet enn; kan du kommentere?

DS: Ja, men det er jo kanskje en generell trend og at samfunnet blir jo ikke mindre komplisert, heller mer. Og da tror jeg at mye av den teknologien vi ser nå kan være til stor hjelp ved å kunne lagre kunnskap, ta vare på kunnskap, gjenbruke kunnskap slik at du kan bruke det til å nettopp da serve de som har behov på svar på ulike juridiske spørsmål. Om det er en bot du spør eller om det er andre måter, det skal jeg ikke si så mye om, men at du kan forvalte og gjøre.. Altså mye av det advokatene gjør i dag er å gi ekspertråd, og jeg tror at mange av de kan automatiseres. Og da vil det løse en del av problemene, at du ikke må hyre inn en kjempedyr advokat eller bygge opp den kompetansen så mye som det ser ut som om du må i dag da.

SS: Noen av disse problemstillingene tror jeg blir vanskelig selv for ekspertene, for vi er eksperter på det gamle, ikke det nye som du er. En ting som jeg tenker på er dette med cyber security, og det kommer jo stadig nye former for viruser eller forskjellige andre cyber threats og melware. Og en av de mest interessante for meg i år var denne Onecry og Notpetya, som slettet minnet til veldig mange internasjonale bedrifter som hadde business i Ukraina blant annet. For det første turte man ikke si hvem som stod bak, selv om alle visste, og det andre så er det ikke mulig å kjøpe seg forsikring for slike finansielle tap, ingenting vil forsikre deg nok. Altså jeg tror at den eneste sikre løsningen fremover er at vi bygger en slags immunitet mot cyber angrep mot oss, mot selskaper, mot personer osv.

DS: Ja, det tror jeg du har helt rett i, og jeg tror egentlig ikke det nødvendigvis er et juridisk spørsmål. Det må i tilfelle være på sanksjonssiden eller hvordan man skal håndtere de juridiske problemstillingene på tvers av jurisdiksjoner. For jeg tror at det er det som er den største utfordringen i dag med at det er globalisert. Det er ikke noe som skjer, det er ikke et tyveri som skjer i Oslo, det er ikke noe som du kan håndtere innenfor norsk lovgivning. Her er det globale krefter som står bak, og da blir bildet veldig mye mer komplisert. Så jeg tror det er mye mer spørsmål om teknisk kompetanse og tekniske løsninger for å forhindre disse angrepene, men jeg tror jo fortsatt at mye av den største risikoen i dag fortsatt vil være interne ansatte for eksempel, i bedrifter som stikker av med data eller er uforsiktige.

SS: Glemmer en USB på parkeringsplassen.

DS: Nemlig. Jeg tror den risikoen er den største.

SS: Det er vi enige om. Mennesket er den største bugen, bare at den er vi mer vant med.

DS: Det er akkurat det.

SS: Du sa noe morsomt til meg som jeg har lyst til å pirke i littegrann. Du sa at på den ene siden så er det muligheter for å skape nye leveransemodeller, som både vil effektivisere bransjen og skape nye forretningsområder. Men så sier du også at advokatbransjen også er veldig konservativ, og kanskje litt konserverende også, det er kanskje noe i strukturen i disse selskapene hvor de gamle gutta vet best osv. Kommer det til å være et sånt to-farts-system? Eller hvordan får man denne endringen da i denne konservative bransjen og i de konservative strukturene?

DS: Jeg skulle gjerne likt å ha hatt et veldig enkelt svar på det, men for å begynne litt på andre siden; det er som du sier en veldig konservativ bransje, og i mine øyne så har ikke de bransjemodellene vi har i dag endret seg de siste 40-50 årene. Vi gjør akkurat det samme. Ja, vi har noe teknologi og noe word og noe verktøy. Men jeg tror da at med den teknologien vi har nå, så får vi både et press fra markedet, altså det er more for less, det er markedet som styrer, og vi ser jo det spesielt for utlandet at der får vi press på den leveransemodellen vi har i dag. Og da er vi nødt for å ta i bruk den teknologien, men det sitter nok langt inne for mange for du må gjøre en del investeringer, med litt sånn usikre lønnsomhetsanalyser, hvor du ikke vet helt hva du sitter med i lomma sånn down the road. Også er det selvfølgelig, som du var inne på, det med organisasjonsstrukturen og partnermodellen osv, er jo truet da når man begynner med alternative leveransemodeller.

SS: Ingen liker å gi fra seg makt og privilegier, det vet vi.

DS: Nei, definitivt ikke. Det er en innebygd motstand i de tradisjonelle advokatfirmaene mot ny teknologi.

SS: Det var det i Nokia også. Du nevnte legal geek, kan du ikke si littegrann om hvor gøy dere har det der?

DS: Ja, jeg vil bare trekke frem det, for hvor skal man få oversikt over hva som skjer på legaltech globalt. Og da er dette tiltaket, det er i London, det er en ganske fersk organisasjon, men arrangerer konferanse for andre året på rad nå neste uke. Hvor vi ser en dobling fra i fjor til i år på antall startups som kommer for å pitche sine ideer, også de som har holdt på en stund. Og deltakerantallet er doblet siden i fjor. Og ved å være der vil du se mange advokater og jurister, men vel så mange teknologer. Du får ganske god innsikt i hva som skjer og hvor fort det går, men også hvor kort man har kommet på en del områder.

SS: Så dette er en gjeng som respekterer kunstig intelligens, bare at man har på seg fine skjorter og ikke t-skjorter?

DS: Nei, det er t-skjorter.

SS: Det er t-skjorter?

DS: Det er ikke lov å gå i dress der tror jeg, så det må du absolutt ikke gjøre.

SS: Burning man neste da eller?

DS: Ja, ikke sant.

SS: Men du nevner også Richard Susskind, vi har også hørt navnet før, hva er det viktigste han sier?

DS: Det jeg tror er viktig hvis man ikke har jobbet på dette feltet før er at han har en veldig fin måte på å redegjøre hvordan de forskjellige leveransemodellene er, hvilke mekanismer som finnes innenfor advokatbransjen i dag, og for så vidt andre profesjoner. Men da også hvilke endringer teknologien er drivere for, hvordan det faktisk vil endre bransjen. På de to tingene der synes jeg at han har vært veldig nyttig å lese.

SS: Veldig bra. Har du et sitat du kan legge igjen med oss?

DS: Man snakker mye om kunstig intelligens, og mange vet hva det er og det finnes ingen klare definisjoner, men jeg vil at man skal tenke at dette er bare matematikk, dette er bare teknologi. Og som jeg pleier å si, og som andre har sagt; Watson, den vet du ikke at er vant med jeopardy.

SS: Eller at Alfagored kanskje ikke vant i go?

DS: Sannsynligvis ikke. Eller det er jeg helt sikker på at den ikke gjør.

SS: Så den forstår ikke gleden rett og slett av å feile for å så få til noe?

DS: Det er det at man skal ha med seg at dette er bare matematikk og programmering.

SS: Bare bare. Tusen takk for tiden din, tusen takk for at du lærte bort. Og tusen takk til dere som lyttet.


Du har lyttet til en podcast fra lørn.tech, en læringsdugnad mellom teknologi og samfunn. Følg oss i sosiale medier, og på våre nettsider lørn.tech.

Hva gjør dere på jobben?

Jeg jobber hovedsakelig med teknologirelaterte problemstillinger, men også med IT- og teknologikontrakter, lisensiering av teknologi, telekom og personvern. I tillegg jobber jeg også med Selmers digitale reise.

Hva er greia med lawtech?

Advokatbransjen er konservativ, men trenger sårt teknologi. Vi trenger ordinær teknologi, som skybaserte tjenester og moderne plattformer, men også ny teknologi for å levere more-for-less.

Hvorfor er det spennende?

Teknologi som fører til disrupsjon er i seg selv spennende – teknologisk, organisatorisk og markedsmessig.

Hvorfor er det skummelt?

Det er aller mest skummelt fordi det vil rokke ved de tradisjonelle leveransemodellene i bransjen og trolig dagens struktur i virksomhetene.

Ditt beste eksempel på lawtech?

Legal Geek-organisasjonen og den årlige konferansen. Dette viser både omfanget av teknologi, antall startups og hvor raskt feltet utvikler seg.

Dine andre favoritteksempler på lawtech, internasjonalt og nasjonalt?

Løsninger for due diligence-prosjekter er veldig spennende, som for eksempel Kira Systems og Luminance.

Hvordan funker det egentlig?

Teknologien som nå driver endringer er kunstig intelligens som et samlebegrep. Dette omfatter blant annet maskinlæring, tekstanalyser, prediksjon og automatisering.

Hva gjør vi unikt godt i Norge av dette?

Foreløpig er Norge helt i startgropen når det gjelder legal tech, mens bruk av kunstig intelligens og big data i andre bransjer er kommet lenger.

Dan Sørensen
Senioradvokat
Selmer
CASE ID: C0037
TEMA: PUBLIC SECTOR INNOVATION
DATE : 181010
DURATION : 18 min
LITERATURE:
Bøker av Richard Susskind
YOU WILL LØRN ABOUT:
Regtech
Personvern
QUOTE
"Bransjen kan vente seg mange endringer og nye forretningsmodeller, men det er spennende fordi vi ennå ikke vet helt hvilke endringer."
More Cases in topic of PUBLIC SECTOR INNOVATION
#C0036
PUBLIC SECTOR INNOVATION
This is how new technology can change the legal profession

Malcolm Langford

Professor

UiO

#C0035
PUBLIC SECTOR INNOVATION
Har du hørt om advokatroboten Lawbotics?

Merete Nygaard

Grunder

Lawbotics

#C0034
PUBLIC SECTOR INNOVATION
Digitization of the legal profession

Dan Katz

CSO

LexPredict