Het kabinet heeft aan de Tweede Kamer laten weten dat er in de loop van volgend jaar een toezichthouder op het gebruik van algoritmes komt. De nieuwe algoritmetoezichthouder gaat toezien op het rechtmatig gebruik van algoritmes.
Volgens het kabinet is een toezichthouder op algoritmes onmisbaar om de privacy van burgers online te beschermen. De algoritmetoezichthouder moet controleren op transparantie, discriminatie en willekeur in het gebruik van algoritmes. Zo maken uitvoeringsorganisaties van de overheid, zoals de Belastingdienst, UWV en Politie, in toenemende mate gebruik van algoritmes om wetten en regels te vertalen naar de praktijk. En voorzieningen als uitkeringen en toeslagen worden steeds meer per algoritme aan mensen toegewezen. Ook werkgevers maken gebruik van algoritmes als zij nieuwe werknemers willen werven en selecteren.
Het gebruik van algoritmes neemt werk uit handen. Organisaties gebruiken algoritmes om efficiënter en gerichter diensten te leveren en tegelijkertijd om bijvoorbeeld fraude te bestrijden. Het toepassen van algoritmes (artikel) is alleen niet zonder risico’s. Vaak wordt gedacht dat kiezen vanuit technologie eerlijk en neutraal is. Maar zoals de toeslagenaffaire aantoonde, blijkt ook technologie niet 100% neutraal. Uiteindelijk worden algoritmes gemaakt door mensen met bepaalde ideeën en waarden en met een bepaald doel, zoals het opsporen van fraude of om nieuw personeel te werven. Algoritmes kunnen vooroordelen bevestigen, privacy schenden en zelfs leiden tot discriminatie. En doordat algoritmes zelflerend zijn, is het lastig om de negatieve gevolgen, zoals discriminatie, op tijd vast te stellen.
De toezichthouder op algoritmes gaat zich concentreren op verschillende clusters zoals coördinatie, monitoring en kennisdeling en naleving en handhaving. De nadruk ligt nu vooral op het bestraffen van mensen, zoals het opsporen van fraudeurs.