MinBZK / Algoritmeregister

Samen werken aan verantwoorde en transparante inzet van algoritmische toepassingen door overheden.
European Union Public License 1.2
18 stars 5 forks source link

Add fields for the protected categories of discrimination #17

Closed floort closed 1 year ago

floort commented 1 year ago

See Algemene wet gelijke behandeling for the list of protected categories and the allowed exceptions.

jaspervanderheide commented 1 year ago

Ik denk dat het inderdaad goed is om explicieter in te zoomen op deze beschermde categorieën. Ik twijfel wel of dit volledig de juiste vorm is. De "evidence" vragen lijken namelijk te suggereren dat overheidsorganisaties volledig de benodigde informatie bezitten om dit uit te kunnen sluiten. Veel organisaties zullen echter geen toegang hebben tot die categorieën gegevens, en kunnen daarmee dus niet volledig de correlaties in kaart brengen (in het bijzonder bijvoorbeeld politieke gezindheid). (Al zijn er wel steeds meer mogelijkheden om dit toch privacyvriendelijk te onderzoeken.) Ik kan mij voorstellen dat het wenselijker is dat organisaties aangeven wat voor maatregelen zij genomen hebben om dit te onderzoeken en te voorkomen (waarbij de handreiking non-discriminatie by design goed van pas komt). Op basis van het databronnen-veld en zo'n omschrijving, kunnen organisaties wel kritisch bevraagd worden wanneer men twijfelt of er niet toch sprake is van indirecte discriminatie.

floort commented 1 year ago

De "evidence" vragen lijken namelijk te suggereren dat overheidsorganisaties volledig de benodigde informatie bezitten om dit uit te kunnen sluiten.

Het niet uit kunnen sluiten is juist waardevolle informatie. Controleerbaarheid betekent niet dat alleen positieve conclusies opgenomen moeten worden in het register. Aangeven welke maatregelen zijn genomen om te onderzoeken en te voorkomen mist twee belangrijke elementen: de conclusies en de onderbouwing van die conclusies. Zonder die informatie is het niet controleerbaar.

Edit: voor zover dit gaat over discriminatie zal het bijna altijd gaan over een verwerking van persoonsgegevens. In die context is mijn voorstel een voortvloeisel van de art. 5 AVG verplichtingen van de verantwoordelijke waarbij al aangetoont moet kunnen worden dat de verwerking rechtmatig is. Mijn voorstel is om die verplichte onderbouwing te registreren zodat transparant gemaakt wordt wat er al moet zijn. Het register afzwakken omdat niet iedereen aan die verplichting kan voldoen lijkt mij averechts werken.