D66 wil SyRI-praktijken voorkomen tijdens proef met gezichtsherkenning in Stad

De gemeenteraadsfractie van D66 wil van het stadsbestuur weten hoe er tijdens de ‘Proef Digitale Identiteit’ van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, omgegaan wordt met persoonsgegevens. 

“Het gebruik van data kan ons veel opleveren”, aldus raadslid Wieke Paulusma. “Maar moet wat ons betreft alleen met de strengst mogelijke voorwaarden en mag nooit groepen binnen de samenleving ten onrechte nadelig behandelen.”

Trek lessen uit SyRI

Het vorig jaar door de rechter veroordeelde programma Systeem Risico Indicatie (SyRI) liet in Rotterdam zien dat een hele reeks privacygevoelige gegevens van mensen met elkaar in verband werden gebracht. Dit had discriminerende en stigmatiserende effecten voor bewoners van relatief arme wijken waar veel inwoners een migratie-achtergrond hebben.

‘Dat kan echt niet’, zegt Wieke Paulusma “Burgers en volksvertegenwoordigers moeten inzicht hebben in de manier waarop besluitvorming tot stand komt en discriminatie en stigmatisering voorkomen.”

Ethische commissie

D66 denkt zelf onder andere aan het instellen van een ethische commissie om relevante algoritmische toepassingen te toetsen, een openbaar register van deze toepassingen en het meenemen van ethische aspecten in de inkoopvoorwaarden voor leveranciers van software op dit gebied.