Art. 40 vragen: De Inclusieve Gemeente en Eerlijke Algoritmes

De ontwikkeling van Algoritmes zet lokale overheden voor een nieuwe uitdaging. Voor de zomerreces had ik artikel 40 vragen gesteld over dit onderwerp. Deze vragen zijn gisteren met de raadsvergadering van 6 oktober behandeld en afgerond.

Hieronder zijn de gestelde vragen te lezen. In de PDF-bijlage staan de antwoorden. Het is belangrijk dat we ook als gemeente Weert de ontwikkeling van digitalisering en dienstverlening daarvan scherp in de gaten houden.

Onderwerp: De Inclusieve Gemeente en Eerlijke Algoritmes
Weert, 27 mei 2021,
Raadsvergadering, 6 oktober behandeld en afgerond
T.a.v. College van B&W

Geachte College,

Algoritmes zijn niet meer weg te denken uit onze digitaliserende samenleving. Zo gebruikt de
Belastingdienst algoritmes om de hoogte van huursubsidie of zorgtoeslag te berekenen. Bij
het CIZ helpen algoritmes bij het bepalen of mensen recht hebben op zorg uit de Wet
Langdurige Zorg en ook bij de politie worden algoritmes ingezet om criminaliteit te voorspellen.
Ook gemeenten gaan steeds meer algoritmes inzetten en ook de gemeente Weert gaat hier
uiteindelijk een stap in maken. Echter, kan er een schaduwzijde hangen aan het gebruik van
algoritmes. Zo kan de zelfbeschikking van het individu onder druk komen te staan of kan het
ongewild discriminatie creëren door onzorgvuldig gebruik van algoritmes. De gemeente Weert
maakt nog geen gebruik van (un)supervised learning- algoritmes. Hier worden ook nog geen
opdrachten voor uitbesteed aan derden. Voorlopend op deze ontwikkeling, en de ambitie om
een inclusievere gemeente te worden, heb ik de volgende vragen:

1) is het college zich bewust van de risico’s van onethisch gebruik van zulke algoritmes,
zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals
zelfbeschikking en het in stand houden of versterken van ongelijkheid?

Het college is zich bewust van deze risico’s. De gemeente Weert heeft dan ook meegewerkt aan een onderzoek van de VNG over de impact van richtlijnen voor het toepassen van algoritmen door gemeenten. Het doel van de richtlijnen is het geven van handvatten ten behoeve van het ontwikkelen en het gebruiken van algoritmen door de overheid en ten behoeve van de publieksvoorlichting daarbij door overheden. 

2) heeft u er al bij stilgestaan welke maatregelingen u wilt gaan treffen bij inzet/inkoop
van deze algoritmes? Hierbij valt te denken aan het meenemen van ethische
aspecten van algoritmes in de inkoopvoorwaarden met leveranciers.

Bij het voornemen voor de toekomstige inzet/inkoop van algoritmen betrekken wij de richtlijn ‘Gebruik Algoritmen door overheden’ en volgen we de uitkomsten van de impactanalyse van de VNG over de toepasbaarheid van die richtlijnen door gemeenten. We gebruiken de Gemeentelijke inkoopvoorwaarden bij IT (GIBIT) waarin een modelovereenkomst is opgenomen over de specifieke inkoop van Artificial Intelligence (AI) en algoritmen. 

3) hebben wij als gemeente een ethische commissie, met als voorbeeld de gemeente
Enschede, die zich bezig houdt en bezig zal gaan houden met dit soort kwesties? Zijn
daar momenteel FTE’s voor?

We hebben geen ethische commissie. Momenteel zijn daar geen fte’s voor beschikbaar.

4) is het college bereid om tijdens de ontwikkeling van het gebruik van algoritmes een
openbaar register te publiceren waarin zij haar algoritmische toepassingen gaat
omschrijven en toelichten?

Het te actualiseren informatiebeleid is de opmaat voor het opstellen van een actuele datastrategie waarin het gebruik van algoritmen en de wijze waarop deze werken zal worden uitgewerkt. Het college zal hierbij de opties om het gebruik en de werking van algoritmen transparant te maken verder uitwerken. 

5) Wordt de ambtelijke organisatie voorbereid op het gebruik van dit soort algoritmes en
gaat u de gemeenteraad hier een keer extra over informeren wanneer u algoritmes
gaat gebruiken? Aangezien blijkt dat werknemers bij boven genoemde organisaties
vaak nog niet weten wat deze verandering voor invloed kan hebben op hun
werkomgeving en stakeholders.

De ambtelijke organisatie zal worden voorbereid op het toekomstig gebruik van algoritmen. Hierbij wordt gebruik gemaakt van de eerder aangehaalde richtlijnen, de ontwikkelingen bij de VNG en De Ethische Data Assistent (DEDA). Deze laatste is ontwikkeld door de Utrecht Data School en biedt een afwegingskader dat door verschillende gemeenten bij het werken met algoritmen wordt gebruikt. Naar aanleiding van de datastrategie zal de raad nader geïnformeerd worden.

Bedankt voor uw tijd,

De fractie Weert Lokaal,
Martijn Smolenaers

antwoorden: