Kommentar bragt i Politiken, 13/1-2019.
Fordelene ved at lade os overvåge digitalt er nu så konkrete, at vi skal hanke gevaldigt op i vores principper, hvis vi ikke vil løbes over ende.
Den 18. maj sidste år gav den amerikanske popstjerne Taylor Swift koncert i Pasadena, Californien. Skønt for hendes fans, men også tankevækkende i en helt anden sammenhæng. På koncertområdet var nemlig opsat en skærm, der viste små behind-the-scenes-klip af Swift. Installationen gjorde dog andet og mere, for kiggede du på skærmen blev du uforvarende fotograferet og billedet sendt til et system, der sammenlignede dit ansigt med uønskede ’stalkere’.
Er det smart? Sikkert. Er det overvågning i den let orwellske ende af spektret? Absolut.
Man kunne kalde det toppen af isbjerget, men der er snarere tale om en kuriøs lille spids af et enormt undersøisk ismassiv. I disse år smelter en lille håndfuld teknologier sammen, der muliggør smarte services, omfattende bekvemmelighed, et væld af rabatmuligheder og – nå, ja – konstant, finmasket overvågning.
Den første er ansigtsgenkendelse, altså software, der matcher dit ansigt med en persondatabase og fortæller nogen, hvem du er. Den næste er lokationstracking, altså at din telefon formentlig i dette øjeblik fortæller en hel række virksomheder, hvor du befinder dig. Den tredje kan vi for nemheds skyld kalde kunstig intelligens, her forstået som mødet mellem computerbaseret evaluering, ’big data’ og det vi for nogle år siden kaldte ’gamification’, altså anvendelsen af mekanikker fra spilverdenen i andre sociale sammenhænge.
Hvis du gerne vil vide, hvordan disse teknikker kan forenes i praksis, så kig mod øst. Den kinesiske regering eksperimenterer med at kombinere omfattende overvågning med en troværdigheds-score: et løbende op- og nedjusteret tal for den enkelte borgers opførsel, som skal give systemer, arbejdsgivere og medborgere en klar angivelse af personens troværdighed. Muligvis med automatisk op- og nedjustering af borgerens muligheder for at bruge landets infrastruktur, hoteller, offentlige tjenester mm.
Pling! Du gik over for rødt og mister 50 point.
Pling! Du skrev noget kritisk om partiet på nettet og mister 200 point.
VESTLIGE MEDIERS dækning af dette tekno-sociale eksperiment har formentlig været overdrevet. Systemet er ikke udrullet over kæmpenationen, og mange detaljer er uklare. Det lyder da også næsten for langt ude til at være sandt, ikke? Og kunne det ske, ville det trods alt kun kunne være i Kina.
Og dog. I Gladsaxe Kommune syntes man jo faktisk i 2018, at denne type tilgang var meget lovende. I marts kunne Politiken berette, hvordan den sjællandske kommune ønskede at tildele børnefamilier et socialt pointtal med henblik på at identificere potentielt udsatte børn.
Pling! Du er blevet diagnostiseret med en psykisk sygdom og mister 1.000 point.
Regeringen var begejstret. Børne- og socialminister Mai Mercado så spændende muligheder og forstod ikke umiddelbart kritikken, ja var faktisk »lidt ærgerlig over, at det bliver en overvågningsdiskussion«.
Der er en beskæmmende naivitet over ministerens svar, for Gladsaxe-modellen indeholder dybt tvivlsomme elementer, der truer med at underminere tilliden mellem borgere og behandlingssystem. Jeg deler bestemt modviljen mod den udtalte overvågningsbegejstring. Men forargelsen skygger for en vigtig pointe: Gladsaxe-modellen er (også) en åbenlyst god ide.
Prøv at skifte perspektiv. Du er ansvarlig for børns velfærd i en kommune og ved, at en betydelig procentdel vil blive socialt udsatte. Du ved også objektivt – via Danmarks Statistik – hvilke faktorer, der korrelerer med dette uønskede resultat. Du ved med andre ord, hvor meget risikoen øges, hvis en forælder for eksempel har en psykisk sygdom.
Du har nu valget mellem to metoder til at identificere de børn, der bør gives særlig opmærksomhed og støtte. Den første: Du kan bruge din objektive viden om sociale faktorers effekt samt den viden, som kommunens sundhedspersonale i forvejen besidder. Den anden: Du kan se bort fra al denne eksisterende viden og overlade vurderingen til hårdt tidspresset personale præget af al mulig menneskelig fejlbarlighed. Er det overhovedet seriøst at fastholde nummer 2?
Og nu nærmer vi os sagens kerne. Den håbløse Gladsaxe-model bygger på et fundament af god vilje og letforståelig fornuft. Der er masser af positive ting at sige om både overvågning og kunstig intelligens. Er du enig?
Nejnej, jeg spørger ikke til din principielle, fritsvævende holdning. Mærk endelig ikke efter. Overvej i stedet følgende:
Har du et COOP-kort? I så fald lader du en stor virksomhed kende dit privatforbrug i detaljer. Bruger du en app til at betale for parkering? I så fald lader du en virksomhed, du næppe kender meget til, vide hvor du færdes. Bruger du BroBizz eller nummerplade-genkendelse for at krydse Storebæltsbroen? Samme historie. Du kunne vælge at betale alt med kontanter, men det er besværligt, så det gør du nok ikke.
Og skulle du være blandt de få, som skænker disse data-transaktioner en tanke, så er det jo den rene børnevenlige uskyld i sammenligning med de små djævlekontrakter, som de fleste af os dagligt indgår på vores telefoner.
Ifølge New York Times’ nylige kortlægning af fænomenet har et betydeligt antal virksomheder lokationsdata på måske helt op til 200 millioner mobile enheder i USA, halvdelen af alle aktive telefoner. I nogle tilfælde med mere end 14.000 målinger per telefon per dag.
Din telefon plaprer løs om din adfærd til private virksomheder, hvoraf mange (afhængigt af dine indstillinger og installerede apps) sælger denne data videre. At koble disse datapunkter til dig som navngiven person er ikke trivielt – hvilket typisk er svaret på enhver kritik – men det er ofte heller ikke særligt svært.
LEVER VI SÅ i en mørk datadystopi? Nej, overhovedet ikke. Vores digitale tjenester udvider vores muligheder og hjælper os med at blive klogere og med at spare tid og penge. Ofte er prisen blot vores privatliv.
Ingen har ondskab som formålsparagraf. COOP vil gerne give dig bedre service og mere målrettede tilbud, Gladsaxe Kommune vil gerne hjælpe udsatte børn, og kommunistpartiet i Kina vil gerne øge tilliden i samfundet.
Danske politikere har traditionelt været begejstrede for ny teknologi, og vi bor nu i et af de mest gennemdigitaliserede lande. Man har typisk været tilbageholdende med at regulere internettet, hvilket på sin vis udtrykker en klædelig ydmyghed. I stedet for at tro at det nye og ukendte kunne detailplanlægges, har man set tiden an og troet på at eksisterende lovgivning kunne rumme den digitale verden.
En fin tanke, men i 2019 er der brug for langt klarere regler og langt tydeligere principper:
Hvor går grænserne? Ikke i abstrakt forstand, men der hvor uskyldige børn måske kunne hjælpes, hvis man overvågede deres forældre lidt mere. Svære spørgsmål som dette kommer med garanti til at præge de kommende år, og vi er allerede et godt stykke nede af rutsjebanen.
Danske politikere har – næsten i skøn forening – undladt at forholde sig til de tydelige problemstillinger. Men fodslæbende passivitet og mumlende pragmatisme er ikke længere en mulighed. Ikke at trække grænser er at vælge overvågningen og at overlade stadig mere styring til algoritmerne.
Men det er ikke algoritmer, vi borgere har valgt til at udstikke rammer for samfundslivet. Det skulle gerne være mennesker med overblik og principper nok til at turde markere, hvor grænserne går.
Effekten af digitale teknologier afgøres af de rammer – juridiske, økonomiske og etiske – hvori disse teknologier indgår.
Kære politikere, vi trænger til, at I retter ryggen, hæver stemmen og får styr på rammerne.
App’en er, helt overordnet, en måde at tilgå redaktionelt Politiken-indhold – den er en nyhedslæser om du vil.
Artikelvisningen – et overordentligt centralt element – er veldisponeret. Typografien er både markant og indbydende på en iPhone 4 og muligheden for at fjerne GUIen ved et enkelt klik er kærkommen. 
