Eerste Rapportage Algoritmerisico's

De Autoriteit Persoonsgegevens (hierna: de AP) heeft recentelijk haar Rapportage Algoritmerisico's gepubliceerd. Dit totaaloverzicht van ontwikkelingen, risico's en uitdagingen is het eerste van haar soort in Nederland. Het doel is om elk half jaar een rapportage uit te brengen, om de actuele ontwikkelingen en risico's in kaart te brengen.

De Directie Coördinatie Algoritmes (hierna: het DCA), een onderdeel van de AP die dit rapport heeft opgesteld, draagt bij aan de verantwoordelijke inzet van algoritmes door de inzet van deze algoritmes te monitoren en hierover te rapporteren. Algoritmes worden steeds vaker ingezet en kunnen grote gevolgen hebben voor betrokkenen, waarbij te denken valt aan geautomatiseerde beslissingen van zowel overheden als bedrijven. Een kernboodschap van het DCA in deze rapportage is dan ook dat er een ecosysteem van risicobeheersing en verantwoording moet worden opgezet bij de toepassing van algoritmes. Daarbij is het DCA zich ervan bewust dat de maatschappij een inhaalslag moet maken. Algoritmes worden al ingezet, maar er ontbreken wettelijke kaders en institutionele waarborgen. Ook is er een tekort aan gestructureerd overzicht op de wijze waarop verschillende organisaties de beheersing en het gebruik van algoritmes hebben vormgegeven. Het DCA maant tot terughoudendheid en internationale samenwerking in de omgang met AI, tot er een manier is om de risico’s van AI effectief te beheersen.