Nummer: 139

RETSSIKKERHED VED ANVENDELSE AF KUNSTIG INTELLIGENS I KONTROL OG TILSYN

Brug af kunstig intelligens i forbindelse med kontrol og tilsyn gør det mere effektivt at identificere lovbrud. Teknologien kan imidlertid også give retssikkerhedsmæssige udfordringer for de borgere og virksomheder der kontrolleres, hvis ikke den benyttes med tilstrækkelig omtanke. Når myndighederne tager nye teknologier i brug, er det derfor vigtigt, at de har en mulighed for at diskutere dem i et bredere tværgående forum, hvor man også forholder sig til kommende lovkrav. Derfor foreslår Regelforum, at Regeringen nedsætter en arbejdsgruppe under Erhvervsstyrelsen med deltagelse af interessenter der repræsenterer virksomheder, faglige eksperter, organisationer og borgere der er underlagt offentlig kontrol,  hvor myndighederne får mulighed for at diskutere deres praksis eller ønskede praksis, og på hvilket grundlag, der kan udvikles best practices og principper for myndighedernes anvendelse af kunstig intelligens ved kontrol og tilsyn, der tager højde for kommende lovkrav, sikre borgere og virksomheder retssikkerhed og bidrager til tillid til brugen af teknologien.

Dato:
17. marts 2022
Type af anbefaling:
National lovgivning
Tema:
Kontrol og tilsyn
Ansvarlig ministerium:
Erhvervsministeriet
Status på anbefaling:
Følges delvist


Problem  

Brug af kunstig intelligens finder i stadig større grad anvendelse ved kontrol og tilsyn på tværs af danske myndigheder og lovområder. Det er positivt og kan bidrage til et mere dækkende kontroltryk og en mere effektiv kontrol. F.eks. har Landbrugsstyrelsen ved hjælp af digitale metoder gået fra at kunne kontrollere 5% af udbetalingerne til arealstøtte til 100%, samtidig med at de får mulighed for at forebygge evt. lovbrud gennem vejledning. Brug af kunstig intelligens indebærer dog også en risiko for at krænke virksomheder og borgeres retssikkerhed. Det kan f.eks. ske fordi datagrundlaget, som algoritmerne trænes på ikke er tilstrækkelig repræsentativt (er biased) og derfor udvælger kontrolobjekter på et skævt grundlag. Samtidig kan muligheden for at identificere små formelle og ikke bevidste overtrædelser eller overtrædelser, der ikke falder ind under lovens intention øge sandsynligheden for, at virksomheder og borgere sanktioneres, selvom vejledning havde været mere på sin plads.  

Parallelt med myndighedernes stigende anvendelse af kunstig intelligens udvides deres beføjelser til at samkøre data på tværs af myndigheder, når lovgrundlag opdateres (F.eks. i produktloven og lov om fødevarer). Det skaber utryghed fordi man ikke ved, hvad ens data kan blive brugt til. Skal der skabes tillid til brugen af de nye teknologier, herunder samkøring af data, er det nødvendigt at skabe grundlag for dialog på tværs af interessenter. 

EU Kommissionens fremsatte i april 2021 et forslag til en forordning om kunstig intelligens. Her opstilles krav vedr. brugen af kunstig intelligens som alt afhængig af anvendelse blive obligatorisk eller anbefales at følge. Formålet er at sikre at anvendelsen af kunstig intelligens i Europa bliver etisk forsvarlig. Der er behov for at tage stilling til, hvad det betyder i forhold til myndigheders brug af kunstig intelligens ved kontrol og tilsyn i praksis. 

Anbefaling

Regelforum anbefaler, at Regeringen etablerer en arbejdsgruppe f.eks. under ledelse af Erhvervsstyrelsen (som forhandler forordningen om kunstig intelligens) med støtte fra Datatilsynet (med ansvar på GDPR og evt. kommende tilsynsmyndighed på forordningen) og evt. Dataetisk Råd (med ekspertise indenfor etisk anvendelse af data) og/eller D-mærket (som har kriterier for virksomhedernes anvendelse af kunstig intelligens). Arbejdsgruppens formål er at forholde sig til myndighedernes brug af eller ønskede brug af kunstig intelligens ved kontrol og tilsyn gennem diskussion, og i lyset af kommende lovkrav og kontrolobjekternes retssikkerhed. På baggrund af diskussioner af konkrete cases kan udvikles good practices eksempler og principper for god anvendelse af kunstig intelligens ved kontrol og tilsyn, som en vejledning på baggrund af kommende lovkrav. Arbejdsgruppen kan desuden bistå politikkerne med udtalelser i forbindelse med implementering af lovkrav. 

Arbejdsgruppen består af repræsentanter for myndigheder, der anvender kunstig intelligens samt repræsentanter for de virksomheder, faglige organisationer og borgere, der underlægges kontrol og tilsyn med brug af den kunstige intelligens.  

Arbejdsgruppen forventes at mødes 3-4 gange årligt i en årrække på 2-5 år (indtil principper og vejledning er udarbejdet og lovgivningen er trådt i kraft). 

Der udarbejdes kommissorium for arbejdsgruppens arbejde og rapporteres herfra årligt til de myndigheder, der anvender kunstig intelligens i deres kontrolopgaver samt de involverede interessentgrupper.  

Anbefalingen vil sikre, at der tages tilstrækkelig hensyn til kommende lovkrav og borgernes og virksomhedernes retssikkerhed når myndighederne tager den nye teknologi i brug. Den vil derfor også bidrage til opbygning af tillid af denne anvendelse. Det højere kontroltryk, som følger af anvendelsen af teknologien vil desuden bidrage til en mere fair konkurrence i markedet og bidrage til borgernes oplevelse af en fair retsstat. 

Anbefalingen adskiller sig fra en tidligere anbefaling om ”Projekt om videndeling om intelligent udvælgelse af virksomheder til tilsyn” vedtaget af Regelforum i November 2021 ved, at interessenterne indgår i arbejdet. Desuden forholder anbefalingen her sig meget bredere til teknologien i forhold til kommende lovkrav og retssikkerhedsaspektet. Cases fra ovennævnte ”projekt om videndeling” kan med fordel behandles af den arbejdsgruppe, er stilles forslag om i denne anbefaling om Retssikkerhed ved anvendelse af kunstig intelligens i kontrol og tilsyn. 


Potentiale  

Alle virksomheder og borgere der er omfattet af kontrol og tilsyn vil have fordel af anbefalingen, fordi den sikrer, at der ved good practice og principper tages højde for deres retssikkerhed.  

Samtidig vil anbefalingen sikre, at flere myndigheder får mod på at anvende kunstig intelligens i deres kontrol og tilsyn med de fordele det giver i forhold til mere effektiv kontrol. 

Endelig vil anbefalingen sikre, at man allerede fra starten når den nye teknologi tages i brug har opmærksomhed på kommende lovkrav. Det kan forhindre evt. lovbrud, men også behovet for at ændre (og bekoste) eventuelle uhensigtsmæssige applikationer. F.eks. omkostninger til IT eksperter og programmører.     

Relevant regulering 

Forslag til Europa-Parlamentets og Rådets forordning om harmoniserede regler for kunstig intelligens COM(2021)206 final. 

Yderligere oplysninger 

Skattestyrelsen har fået tilføjet nogle af de beføjelser, som omtales i denne anbefaling jf. Lov om ændring af lov om et indkomstregister, skatteindberetningsloven og skattekontrolloven. 

Regeringen vil følge anbefalingen delvist, og Erhvervsstyrelsen vil i Q4 2022 oprette en arbejdsgruppe på tværs af relevante myndigheder og interessenter som vil forholde sig til de kommende krav fra Kommissionens forordning om kunstig intelligens, herunder den praktiske implementering af disse og behovet for vejledning i denne sammenhæng.  
Effekten må forventes at virksomhederne bliver bedre rustet til at leve op til de nye krav, og at der vil være en mere ensartet tilgang til implementeringen af AI forordningen på tværs af myndigheder.  
 

Regeringens afrapportering

Anbefalingen følges. 

Digitaliseringsstyrelsen er udpeget til at varetage rollen som national koordinerende myndighed med ansvar for bl.a. at koordinere implementeringen af forordning om kunstig intelligens. Digitaliseringsstyrelsen har i den egenskab etableret en følgegruppe bestående af en bred kreds af interessenter, der bl.a. repræsenterer virksomheder, civilsamfund, faglige eksperter og offentlige anvendere af kunstig intelligens.  

Formålet med følgegruppen er at give interessenter mulighed for at følge processen med implementering af forordning om kunstig intelligens samt løbende komme med input til, hvordan implementeringen tilrettelægges bedst muligt. Følgegruppen skal både bruges til at få viden om forskellige målgrupper og deres udfordringer samt give faglige input til forskellige dele af implementeringsprocessen, herunder særligt behovet for vejledning. Derudover skal følgegruppen danne rammerne for tværfaglig og tværsektoriel dialog og drøftelser omkring ansvarlig brug af kunstig intelligens. Der vil sikre ensartet håndhævelse af forordningen, hvilket vil bidrage til at styrke retssikkerheden.  

Et af de spor følgegruppen kan tænkes at arbejde med, er netop udviklingen af best practices og principper for anvendelsen af kunstig intelligens, herunder myndigheders anvendelse af kunstig intelligens i forbindelse med kontrol og tilsyn. 

Der er udarbejdet et kommissorium til følgegruppen, som forventes at mødes 3-4 gange årligt, første gang i september 2024, og arbejdet forventes at fortsætte i minimum 2 år.