Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (hierna: “Afdeling advisering”) een ‘Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen’ 1) betreffende de positie en de bescherming van de burger tegen een “iOverheid” uitgebracht. Het gebeurt niet vaak dat de Afdeling advisering zo een ongevraagd advies uitbrengt. Dit onderstreept het belang van de voortdurend in ontwikkeling zijnde technologie en digitalisering in relatie tot de verhouding tussen de overheid en de maatschappij.
1)
https://www.raadvanstate.nl/adviezen/zoeken-in-adviezen/tekst-advies.html?id=13065
Uit de jurisprudentie blijkt ook steeds vaker dat rechters zoekende zijn naar de juiste normen om deze steeds uitgebreidere digitale jungle te doorgronden. Een treffend voorbeeld, dat ook door de Afdeling advisering wordt genoemd, betreft de
Blankenburgtunnel-uitspraak
van de Afdeling bestuursrechtspraak van de Raad van State (ABRvS), waarin deze een toetsingskader heeft geformuleerd voor de beoordeling van geautomatiseerde besluitvorming door middel van AERIUS (een calculator om de emissie van stikstof als gevolg van economische activiteiten en de depositie op Natura 20000-gebieden te berekenen). Nu heeft ook de Afdeling advisering in haar advies enkele handvatten proberen aan te reiken hoe om te gaan met geautomatiseerde besluitvorming.
In deze blog vatten wij de gesignaleerde gevaren en pijnpunten van digitalisering en de hiervoor geboden handvatten uit dit advies samen, in het bijzonder voor de geautomatiseerde besluitvormingsproblematiek. Hierbij zal eveneens de geautomatiseerde besluitvorming in relatie tot de Algemene verordening gegevensbescherming (hierna: AVG) en de Nederlandse Uitvoeringswet Algemene verordening gegevensbescherming (hierna: UAVG) aan bod komen. Afsluitend zal aandacht worden besteed aan de vraag of de huidige beginselen van behoorlijk bestuur nog afdoende waarborgen voor burgers bieden in deze tijd van digitalisering. Het advies geeft verder nog nuttige inzichten in andere materie, zoals digitaal contact vanuit de overheid, toegang tot de overheid en digitalisering en techniekonafhankelijk wetgeven. Deze aspecten laten we voor nu verder buiten beschouwing.
Geautomatiseerde besluitvorming in een digitale omgeving
De Afdeling advisering constateert dat er steeds vaker overheidsbesluiten worden genomen op basis van geautomatiseerde besluitvorming, zonder menselijke tussenkomst. Dit gebeurt door middel van zogeheten algoritmen, of beslisregels die door computers worden uitgevoerd. Inzet van zulke algoritmen voor besluitvorming kan efficiënt zijn: een computer verwerkt sneller en nauwkeuriger gegevens dan de mens. Indien een veelvoud aan min of meer dezelfde besluiten dienen te worden genomen, biedt geautomatiseerde besluitvorming hier een nuttige oplossing voor. De Afdeling advisering signaleert bij deze ontwikkeling echter eveneens een tweetal problemen.
Allereerst ontstaat het probleem dat algoritmen door middel van een programmeertaal moeten worden omgezet in machinetaal voor computers. De vraag of deze omzetting van algoritmen in een programmeertaal foutloos en nauwkeurig is gegaan, is voor een niet-ICT-specialist niet te controleren. Daarbij komt dat algoritmen gebruik maken van een groot aantal gegevens die mogelijk kunnen zijn ontleend aan diverse andere bronnen. Hierdoor wordt het voor burgers, die de behoefte voelen om de gegevens waarop het besluit is gebaseerd te controleren, zeer bewerkelijk om inzage in al deze gegevens te verkrijgen. Het is voor een burger vaak nauwelijks mogelijk om na te gaan welke regels zijn toegepast bij het nemen van het besluit en of deze regels ook daadwerkelijk doen waarvoor ze zijn bedoeld. Dit probleem van gebrek aan openbaarheid en transparantie speelt temeer indien de burger wenst bepaalde gegevens te rectificeren of te wissen. In de eerder aangehaalde Blankenburgtunnel-uitspraak geeft de ABRvS hier als norm voor verstrekking van achterliggende gegevens dat bestuursorganen zogeheten maatwerkgegevens (gegevens die het bestuursorgaan zelf moet invoeren) uit eigen beweging waarneembaar moet overleggen, zodat belanghebbenden een procedure kunnen benutten om de juistheid van de gebruikte gegevens inhoudelijk te betwisten (zie hiervoor uitgebreider een eerder
Stibbeblogbericht
. Deze norm is recentelijk ook door de Hoge Raad omarmd (zie hierover uitgebreider ook een eerder
Stibbeblogbericht
).
Ten tweede kunnen regels, aldus de Afdeling advisering, in natuurlijke taal lang niet altijd één op één worden vertaald in een algoritme. Regels in natuurlijke taal zijn per definitie abstract, daar deze op een verscheidenheid van situaties dienen te worden toegepast en vervolgens eerst moeten worden geïnterpreteerd voordat toepassing daadwerkelijk kan geschieden. Problematisch is dat algoritmen bedoeld zijn om van toepassing te zijn op situaties met geprogrammeerde kenmerken en geen rekening kunnen houden met impliciete kennis, de noodzaak om de regel te interpreteren en met de noodzaak om alle omstandigheden van het geval mee te wegen. De Afdeling advisering concludeert dat door het verlies van een menselijke tussenkomst een burger sneller slachtoffer wordt van een robotachtige gelijkheid, waarbij geen aandacht meer bestaat voor de eigenheid van zijn situatie. Daarnaast vergroot digitalisering van de besluitvorming volgens de Afdeling advisering het gevaar op profilering en het nemen van besluiten op basis van statistische verbanden. Niet het verwijtbaar handelen van de burger staat in zo een geval vast, maar louter het vermoeden hiervan gebaseerd op grond van algemene kenmerken. De op 25 mei 2018 in werking getreden AVG beoogt hiertegen bescherming te bieden.
Besluitvorming, de AVG en de UAVG
De Afdeling advisering wijst er op dat de AVG in artikel 22 bepaalt dat geautomatiseerde besluitvorming, zonder menselijke tussenkomst, in beginsel niet is toegestaan. Het belang van deze bepaling is dat de mens niet (volledig) wordt vervangen door een computer, waardoor een betrokkene in beginsel altijd het recht heeft op menselijke tussenkomst bij genomen besluiten. Op dit verbod wordt in het tweede lid van artikel 22 AVG een uitzondering gemaakt, waarbij voor de overheid met name van belang is dat het verbod niet geldt indien geautomatiseerde besluitvorming is toegestaan bij een lidstaatrechtelijke bepaling die ook voorziet in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene (lid 2 aanhef en onder b). Wat dit in de praktijk betekent, zal nog nader moeten worden bepaald, waarbij de vraag welke passende maatregelen gelden ter bescherming van de burger een hele relevante is, aldus de Afdeling advisering.
In de Nederlandse UAVG wordt in artikel 40 voorzien in een algemene wettelijke uitzondering: geautomatiseerde besluitvorming die geen profilering inhoudt, is toegestaan als deze noodzakelijk is om aan een wettelijke verplichting te voldoen of om een taak van algemeen belang te vervullen. Op profilering gebaseerde besluitvorming zonder menselijke tussenkomst is slechts mogelijk als een bijzondere wet daarvoor een grondslag biedt. Hierbij speelt namelijk, meer dan bij geautomatiseerde besluitvorming in algemene zin, het risico van discriminatie, aldus de Afdeling advisering. Opvallend is dat dezelfde Afdeling advisering in
haar advies op het voorstel van de wettekst van de UAVG
zich nog kritisch heeft uitgelaten over deze algemene wettelijke uitzondering opgenomen in artikel 40 UAVG, terwijl deze kritiek in dit ongevraagde advies niet meer aan de orde komt.
Zie voor een uitgebreidere behandeling van de vraag wat de gevolgen zijn van de AVG voor geautomatiseerde besluitvorming door de overheid onze eerdere
Stibbeblog FAQ
.
Daarnaast noemt de Afdeling advisering nog verschillende andere, voor de in dit blogbericht omschreven problematiek, relevante rechten voor burgers uit AVG, waaronder het recht op inzage van hun persoonsgegevens (artikel 15 AVG), rectificatie van hun persoonsgegevens (artikel 16 AVG) en zelfs het recht op gegevenswissing, of vergetelheid (artikel 17 AVG). Aan de kant van de overheid noemt de Afdeling advisering nog enkele plichten uit de AVG, waaronder de verplichting tot het rechtmatig, behoorlijk en transparant verwerken van persoonsgegevens (artikel 5 AVG) en het reeds bij de inrichting van systemen rekening houden met de bescherming van persoonsgegevens (met inbegrip van het recht op inzage en rectificatie), ofwel privacy by design (artikel 25, eerste lid, AVG).
Algemene beginselen van behoorlijk bestuur in een digitaal tijdperk
Gezien de geschetste ontwikkelingen over de digitalisering van besluitvorming en de hieraan verbonden risicos, voelt de Afdeling advisering zich genoodzaakt om zich te buigen over de vraag of de bestaande algemene beginselen van behoorlijk bestuur nog afdoende waarborgen bieden voor burgers ten opzichte van het handelen van een bestuursorgaan.
De Afdeling advisering is van mening dat deze beginselen, in samenhang bezien met de AVG, op zichzelf al de nodige richting kunnen geven indien bestuursorganen deze op een juiste wijze interpreteren en toepassen in de relatie tussen de burger en digitale overheid. Nieuwe of specifieke ICT gerelateerde rechten zijn hiermee overbodig. Hierbij hecht de Afdeling advisering in bijzonder aan het motiveringsbeginsel en het zorgvuldigheidsbeginsel.
Het motiveringsbeginsel, zo begint de Afdeling advisering, kan zo worden uitgewerkt dat in een besluit aan de burger toegankelijk moet worden toegelicht of, en zo ja welke, automatische beslisregels zijn gebruikt. Daarnaast dient te worden toegelicht of het besluit mede voortbouwt op (geautomatiseerde) besluiten of gegevens van andere bestuursorganen eerder in de keten. Hiermee sluit de Afdeling advisering bij de uitwerking van dit beginsel duidelijk aan bij de lijn die de ABRvS in haar hiervoor genoemde Blankenburgtunnel-uitspraak heeft uiteengezet. Daarnaast dienen sommige besluiten simpelweg niet geautomatiseerd genomen te worden. Een criterium dat de Afdeling advisering aan dit verbod hangt, betreft besluiten die betrekking hebben op zwaar ingrijpende kwesties, zoals de integriteit van het menselijk lichaam, privacy (wat weer een erg ruim begrip kan zijn) en het familie- en gezinsleven. Daarnaast wordt geadviseerd om maatwerk en menselijke heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.
Het zorgvuldigheidsbeginsel dient volgens de Afdeling advisering zo te worden geïnterpreteerd dat bestuursorganen ruimhartig rekening moeten houden met alle feiten en omstandigheden. Hierbij is van belang dat een bestuursorgaan een besluit moet kunnen nemen dat strikt genomen afwijkt van wat voortvloeit uit de geautomatiseerde beslisregels. Ofwel, een bestuursorgaan dient een voldoende ruime discretionaire bevoegdheid te bezitten. Zo wordt het probleem van de onterechte robotachtige gelijkheid van een door een algoritme genomen besluit opgelost en kan evident onterechte benadeling van een burger worden vermeden.
Afronding
Het advies van de Afdeling advisering kan positief worden gewaardeerd. Het biedt nuttige aanknopingspunten voor wetgever en bestuur om de positie van de burger te verbeteren in zijn relatie met de digitale overheid. Voor geautomatiseerde overheidsbesluitvorming betekent dit onder meer dat de overheid telkens de balans moet zien te vinden tussen onder andere besluiten die niet geautomatiseerd tot stand behoren te komen, zoals besluiten over de integriteit van het menselijk lichaam, en het motiveren van gebruik van algoritmen en data van besluiten die wel geautomatiseerd kunnen worden genomen. Ten slotte geeft de Afdeling advisering mee om maatwerk en menselijke heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.
Door Tom Barkhuysen en Niels Jak
