"Op 24 september 2019 zijn er vier moties in stemming gebracht én aangenomen door de Tweede Kamer. De moties hebben als gemeenschappelijke deler dat ze in het teken staan van de steeds groter wordende digitalisering bij de overheid. Het achterliggende doel van de moties is dat de burger voldoende beschermd moet worden tegen deze digitalisering. De vier moties zijn de volgende, waarbij wij ons in deze blog richten op de laatste motie:"
van de leden Van der Molen en Middendorp over een centraal meldpunt voor problemen met basisregistraties;
van het lid Middendorp over de site als platform voor digitaal contact tussen overheid en burgers;
van de leden Futselaar en Van Raak over laagdrempelige communicatiemogelijkheden bij elke overheidsinstantie;
van de leden Verhoeven en Van der Molen over een meldplicht voor ingrijpende algoritmes
Laatstgenoemde motie staat in het teken van geautomatiseerde besluitvorming door de overheid. Besluitvorming vindt steeds meer digitaal plaats op basis van algoritmes. Bij zulke besluitvorming komt er geen mens meer aan te pas. Op het eerste gezicht klinkt dit wellicht aantrekkelijk uit een oogpunt van efficiëntie, maar er zijn ook nadelen aan verbonden. Zo vrezen de initiatiefnemers van de motie dat de inzet van algoritmes en de onderliggende databestanden het risico van ongelijke behandeling en uitsluiting met zich kan brengen. Ook menen zij dat de regering momenteel geen goed zicht heeft op de ontwikkelingen en inzet van alle algoritmes die de overheid gebruikt.
Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (Afdeling advisering) een ongevraagd gegeven over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. In een eerder bericht is al uitvoerig ingegaan op de (vergelijkbare) problemen die de Afdeling advisering constateert als besluiten via een geautomatiseerd systeem op basis van algoritmen worden genomen.
De motie over een meldplicht voor ingrijpende algoritmes bouwt hier op voort. De motie is ingediend tijdens het in de Tweede Kamer op 10 september 2019 dat werd gevoerd naar aanleiding van het ongevraagde advies van de Afdeling advisering. Alhoewel het Kamerdebat pas ruim een jaar na het uitbrengen van het advies van de Afdeling advisering heeft plaatsgevonden, heeft de politiek niet helemaal stilgezeten. In de tussentijd is er namelijk ook een aangenomen waarin de regering wordt verzocht om een voorstel uit te werken voor een zogenoemde algoritmewaakhond. Het idee hierachter is dat er een autoriteit moet komen die controleert of algoritmes niet leiden tot discriminatie én of burgers nog voldoende uitleg krijgen over de besluiten die daarmee genomen zijn.
In het Kamerdebat laten verschillende partijen zich opnieuw positief uit over het in het leven roepen van een algoritmewaakhond. Ook de staatssecretaris van Binnenlandse zaken en Koninkrijksrelaties (BZK) erkent dat geautomatiseerde besluitvorming via algoritmes kan leiden tot foute toepassingen waarbij de burger de gedupeerde is. De motie meldplicht voor ingrijpende algoritmes beoogt de regeling voor de algoritmewaakhond te vergroten. De Kamer verzoekt de regering namelijk om in de plannen voor die algoritmewaakhond ook een meldplicht op te nemen, zodat er meer zicht komt op allerlei algoritmes die nu zonder enige controle bij verschillende overheidsinstanties tot stand komen.
In het Kamerdebat laat de staatssecretaris zich verder niet uit over concrete voorstellen die de problemen bij geautomatiseerde besluitvorming moeten oplossen. Wel wijst hij erop dat de Kamer binnenkort drie stukken ontvangt: een brief van de minister van BZK over het beschermen van publieke waarden en mensenrechten, een brief van de staatssecretaris van Economische Zaken en Klimaat over het strategisch actieplan kunstmatige intelligentie en een brief van de minister voor Rechtsbescherming over de bescherming tegen risicos van data-analyse door de overheid.
Deze Kamerbrieven en het overkoepelende strategisch actieplan zijn inmiddels op 8 oktober 2019 verschenen. In dit is te lezen dat de regering op een drietal sporen wil gaan inzetten om de toepassing en ontwikkeling van artificiële intelligentie (AI) in Nederland te versnellen. Vooral spoor 3 en de aanvullende van de minister voor Rechtsbescherming over spoor 3 zijn relevant voor de problemen die spelen bij geautomatiseerde besluitvorming. Hierin wordt namelijk ingegaan op mogelijke waarborgen tegen de risicos van het gebruik van algoritmes en data-analyse door de overheid.
Door Tom Barkhuysen, Niels Jak, Steven Bastiaans en Diederik de Groot
