Schriftelijke vragen Plusquin/Jansen over Gebruik data van burgers door de gemeente
Indiendatum: 18 jun. 2019
Recent maakte de NOS bekend dat de overheid op grote schaal gebruikt maakt van voorspellende algoritmes. Dit bleek uit een vertrouwelijke inventarisatie onder 54 overheidsinstanties, die de NOS verkreeg op basis van de wet openbaar bestuur.
Deskundigen, de Raad van State en de autoriteit persoonsgegevens waarschuwen voor het gebruik van algoritmes, omdat minderheidsgroepen stelselmatig kunnen worden benadeeld en er een groot risico bestaat op discriminatie.
https://nos.nl/artikel/2286848-overheid-gebruikt-op-grote-schaal- voorspellende-algoritmes-risico-op-discriminatie.html
https://nos.nl/artikel/2286880-privacywaakhond-overheid-moet-transparanter- zijn-over-algoritmes.html
https://www.volkskrant.nl/nieuws-achtergrond/tientallen-nederlandse- gemeenten-volgen-u-met-wifitracking~b5c614ad/
https://www.volkskrant.nl/wetenschap/wifitracking-of-hoe-ook-de-gemeente- elke-stap-volgt-die-u-met-uw-mobiel- maakt~b5ef4a41/?_ga=2.193344365.1950776973.1559732963- 1945343759.1545648770
https://specials.publiekdenken.nl/special-isamenleving-2019/aan-de-slag-met- algoritmen/
1. Is het college bekend met de genoemde inventarisatie van de NOS over algoritmes? (Zie toelichting). Bent u het met ons eens dat het gebruik van algoritmes een nadelig effect kan hebben op kwetsbare groepen en burgers in het algemeen? Begrijpt u de keuze van de gemeente Uden af te zien van voorspellende algoritmes? Overweegt u dit zelf ook te doen? Graag een uitgebreide toelichting.
2. Klopt het dat de gemeente Heerlen gebruik maakt van voorspellende algoritmes? Zo ja, welke gemeentelijke instanties en organisaties waarover de gemeente het bevoegd gezag is, maken gebruik van deze technologie? Is de gemeente voornemens bij meer instanties gebruik te gaan maken van algoritmes? Welke? Met welk doel en waarom denkt u dat juist algoritmes hieraan kunnen bijdragen, wat zijn de voordelen volgens u?
3. De autoriteit persoonsgegevens waarschuwt voor het gebruik van algoritmes en zegt dat de overheid hier transparant in moet zijn. In hoeverre is de gemeente Heerlen volgens u voldoende transparant in het gebruik van algoritmes, wanneer een besluit over een persoon (mede) wordt genomen met behulp van deze techniek?
4. Het is niet altijd duidelijk welke gegevens in een algoritme worden gestopt en op basis van welke data een uitkomst wordt gebaseerd. Overheden geven aan dat het soms lastig is om te weten wat er precies gebeurt. In hoeverre doet dit probleem zich volgens u voor in Heerlen? Bent u bereid hier onderzoek naar te verrichten? Zo ja, op welke wijze? Zo nee, waarom niet?
5. Eén van de nadelen van het gebruik van algoritmes is dat mensen die niet voldoen aan de kenmerken die ingevoerd zijn in een algorit-
me, “onopgemerkt” blijven. Ziet u hierin een gevaar, zoals bijvoor- beeld bij het experiment in Groningen waaraan de GGD meedeed om kindermishandeling op te sporen? https://www.sociaalweb.nl/nieuws/van-onderzoek-naar- uitvoeringspraktijk-textmining-kindermishandeling
Graag een toelichting.
6. "Medewerkers vinden het soms lastig af te wijken van het algoritme als de situatie van de cliënt daar om vraagt" zegt het centrum indicatie- stelling zorg. Geldt dit ook voor medewerkers in de gemeente Heerlen? Bestaan er regels of methodieken om te voorkomen dat medewerkers te veel steunen op de uitkomsten van een algoritme?
7. Bent u het met de Partij voor de Dieren eens dat wanneer burgers worden gevolgd via hun mobiele telefoon, zij hiervan op de hoogte zouden moeten worden gesteld door middel van bijvoorbeeld informa- tiebordjes? Zo nee, waarom niet?
Indiendatum:
18 jun. 2019
Antwoorddatum: 3 jul. 2019
Geachte mevrouw Plusquin,
Naar aanleiding van uw vragen d.d. 18 juni 2019 inzake gebruik data van burgers door de gemeente delen wij u het volgende mede.
Vraag 1) Is het college bekend met de genoemde inventarisatie van de NOS over algoritmes?
(Zie toelichting). Bent u het met ons eens dat het gebruik van algoritmes een
nadelig effect kan hebben op kwetsbare groepen en burgers in het algemeen?
Begrijpt u de keuze van de gemeente Uden af te zien van voorspellende
algoritmes? Overweegt u dit zelf ook te doen? Graag een uitgebreide toelichting.
Het college is op de hoogte van de inventarisatie van de NOS over het gebruik van algoritmes in besluitvorming. Het gebruik van algoritmes op zich kan zowel een voor- als nadelig effect hebben op burgers. In zijn geheel afzien van het gebruik van algoritmes zou betekenen dat de dienstverlening naar de burger bijvoorbeeld minder effectief en efficiënt wordt. Belangrijk in deze is bewust, transparant en in lijn met de geldende regelgeving omgaan met algoritmes en om besluitvorming niet automatisch, dus zonder tussenkomst van een medewerker te laten doen. Dit laatste is onderdeel van het beleid van de gemeente Heerlen.
Vraag 2) Klopt het dat de gemeente Heerlen gebruik maakt van voorspellende algoritmes?
Zo ja, welke gemeentelijke instanties en organisaties waarover de gemeente het
bevoegd gezag is, maken gebruik van deze technologie? Is de gemeente
voornemens bij meer instanties gebruik te gaan maken van algoritmes? Welke? Met
welk doel en waarom denkt u dat juist algoritmes hieraan kunnen bijdragen, wat
zijn de voordelen volgens u?
Binnen de gemeente Heerlen en organisaties waarover de gemeente het bevoegd gezag is wordt gebruik van (voorspellende) algoritmes gemaakt. Momenteel brengt de gemeente Heerlen, in het kader van toezicht op het gebruik van algoritmes en transparantie naar de burger, in kaart in welke diensten, besluiten en bij welke instanties dit gebeurt.
Bij iedere nieuwe of aan te passen dienst, besluitvorming en of samenwerkende instantie maakt de gemeente de afweging of het gebruik van algoritmes noodzakelijk, moreel en gerechtvaardigd is en toetst deze aan de daarvoor geldende regelgeving
Vraag 3) De autoriteit persoonsgegevens waarschuwt voor het gebruik van algoritmes en
zegt dat de overheid hier transparant in moet zijn. In hoeverre is de gemeente
Heerlen volgens u voldoende transparant in het gebruik van algoritmes, wanneer
een besluit over een persoon (mede) wordt genomen met behulp van deze
techniek?
De Algemene Verordening Gegevensbescherming (AVG) die door de Autoriteit
Persoonsgegevens wordt gehandhaafd is hierin duidelijk. Wij als gemeente dienen
te beschikken over een zogenaamd register van verwerkingen. In dit register
worden alle diensten en producten (verwerkingen) vastgelegd waarin
persoonsgegevens verwerkt worden. Hierin wordt onder andere de manier waarop
gegevens verwerkt en gedeeld worden vastgelegd. Hiermee kunnen wij de burger
transparantie geven over hoe zijn of haar gegevens door de gemeente verwerkt
worden of en hoe algoritmes ingezet worden bij deze verwerkingen.
We hebben een register van zo’n 600 verwerkingen maar deze verwerkingen zijn
nog niet allemaal gecontroleerd op, onder andere, het gebruik van algoritmes. We
zijn er mee bezig en verwachten dit eind 2020 te hebben afgerond en het register
compleet te hebben.
Vraag 4) Het is niet altijd duidelijk welke gegevens in een algoritme worden gestopt en op
basis van welke data een uitkomst wordt gebaseerd. Overheden geven aan dat het
soms lastig is om te weten wat er precies gebeurt. In hoeverre doet dit probleem
zich volgens u voor in Heerlen? Bent u bereid hier onderzoek naar te verrichten? Zo
ja, op welke wijze? Zo nee, waarom niet?
Het is niet ondenkbaar dat een door de gemeente Heerlen gebruikt algoritme niet of lastig te begrijpen is. Bestaande, aangepaste en nieuwe algoritmes dienen getoetst en vastgelegd te worden in het register van verwerkingen. Hiermee moet de gemeente zelf kunnen begrijpen hoe een bepaald algoritme werkt en dit ook eenvoudig en op transparante wijze aan de burger kunnen uitleggen.
Vraag 5) Eén van de nadelen van het gebruik van algoritmes is dat mensen die niet voldoen aan de kenmerken die ingevoerd zijn in een algoritme, “onopgemerkt” blijven. Ziet u hierin een gevaar, zoals bijvoorbeeld bij het experiment in Groningen waaraan de GGD meedeed om kindermishandeling op te sporen?
Graag een toelichting.
Er zit een zeker gevaar in het gebruik van algoritmes op uitsluiting vandaar dat het gebruik van algoritmes zorgvuldigheid, toetsing en controle vergt. Er wordt altijd nog een “mens” aan toegevoegd waardoor besluitvorming nooit alleen door systemen wordt gedaan.
Vraag 6) Medewerkers vinden het soms lastig af te wijken van het algoritme als de situatie
van de cliënt daar om vraagt" zegt het centrum indicatiestelling zorg. Geldt dit ook
voor medewerkers in de gemeente Heerlen? Bestaan er regels of methodieken om
te voorkomen dat medewerkers te veel steunen op de uitkomsten van een
algoritme?
Niet iedere situatie is gelijk daarom volgen medewerkers van de gemeente een cursus morele oordeelsvorming om in dit soort gevallen af te kunnen wijken als de situatie met de burger hierom vraagt.
Vraag 7) Bent u het met de Partij voor de Dieren eens dat wanneer burgers worden gevolgd
via hun mobiele telefoon, zij hiervan op de hoogte zouden moeten worden gesteld
door middel van bijvoorbeeld informatiebordjes? Zo nee, waarom niet?
Wij als gemeente Heerlen volgen geen burgers doormiddel van hun mobiele telefoon. Mocht er ooit besloten worden dit wel te doen dan dienen wij de burger hier over te informeren. Dit kan dan bijvoorbeeld doormiddel van informatiebordjes.
Hoogachtend,
burgemeester en wethouders van Heerlen,
namens dezen,
Wethouder voor Integraal Ouderenbeleid, Buurtgericht Werken, Publieke
Dienstverlening en Informatisering,
A.W.A Keulen
Wij staan voor:
Interessant voor jou
Aanvullende vragen Daddy Cool festival nav beantwoording eerdere vragen en berichten in de media.
Lees verderVisevenement voor kinderen
Lees verder