Meer transparantie over gebruik van algoritmes in Deventer
De gemeente Deventer maakt steeds vaker gebruik van data en modellen. De gemeente gebruikt daarbij gegevens van personen en neemt op basis van modellen ook beslissingen over inwoners. Bijvoorbeeld over uitkeringen, kwijtscheldingen en schuldhulpverlening. Inwoners hebben recht op zorgvuldige besluitvorming en op bescherming van hun gegevens. Daarom vindt de ChristenUnie het belangrijk dat Deventer transparant is over de data en modellen die worden gebruikt bij beslissingen. We hebben daarover vragen gesteld aan het college.
Datagedreven werken
Deventer wil net als veel andere gemeenten datagedreven werken. Dat betekent dat data en modellen worden gebruikt om het beleid of de uitvoering van dat beleid beter te maken. Daar is op zich niets mis mee, maar het is belangrijk dat de gemeente zich bewust is dat er ook risico's zijn bij het gebruik van data en het maken van keuzes op basis van algoritmes.
De hoeveelheid data is toegenomen. Computers zijn sneller en beter geworden. Artificial Intelligence (AI) en Machine Learning ontwikkelen zich razendsnel. Er zitten veel positieve kanten aan die ontwikkelingen. Maar tegelijk nemen ook de zorgen toe over de privacy (“is mijn data wel veilig?”), discriminerende algoritmes (datasets en algoritmes kunnen vooroordelen bevatten) en het gebrek aan transparantie over de algoritmes die de overheid gebruikt (“computer says no”). Bij de toeslagenaffaire speelde een algoritme dat de kans op fraude voorspelde een grote rol. De zorgen zijn dus terecht.
Regulering van algoritmes
In Nederland en in de EU wordt gewerkt aan wetten voor het reguleren van het gebruik van data en algoritmes. Één van de maatregelen in Nederland is het Algoritmeregister. In dat register kunnen overheden aangeven welke algoritmes ze gebruiken, waarom ze dat doen en welke data daarbij wordt gebruikt. Het doel is meer transparantie en het vergroten van de controleerbaarheid.
De gemeente Deventer heeft nog geen algoritmes geregistreerd in het Algoritmeregister. We zouden daaruit kunnen concluderen dat er geen algoritmes worden gebruikt, maar dat lijkt ons wat voorbarig. We weten bijvoorbeeld dat de gemeente de applicatie Deltaview heeft laten ontwikkelen voor vroege signalering van schulden. Daarbij worden persoonsgegevens gekoppeld aan gegevens van partners in de zorg, verzekeraars, nutsbedrijven en woningcorporaties.
Meer transparantie in Deventer
Als ChristenUnie vinden we het belangrijk dat Deventer transparant is over de inzet van dit soort algoritmes en het gebruik van data van personen. Daarom hebben we deze schriftelijke vragen gesteld. We willen voorbeelden van algoritmes die worden ingezet en uitleg waarom die nog niet zijn geregistreerd in het Algoritmeregister. We hebben ook gevraagd naar de algemene kaders voor ontwikkeling en gebruik van algoritmes. Inspiratie voor de vragen komt uit de Digitaliseringsvisie die is opgesteld door de ChristenUnie.
