Meer toezicht op algoritmen vanwege risico discriminatie

Uit de huidige wetgeving blijkt onvoldoende wat organisaties nu wel en niet mogen als het gaat om het gebruik van kunstmatige intelligentie (KI) en algoritmen. Het kabinet wil daarom meer toezicht op de inzet hiervan.

17 juni 2021 | Door redactie

Demissionair minister Ollongren van Binnenlandse Zaken en Koninkrijkrelaties (BZK) heeft in een kamerbrief laten weten dat de huidige wetgeving geen duidelijke kaders biedt voor het toepassen van algoritmen en kunstmatige intelligentie (KI, ook wel Artificial Intelligence of AI) door organisaties. Er moeten richtlijnen komen met voorwaarden over de inzet van algoritmen en risicoprofilering: waarvoor mag het gebruikt worden, wanneer en hoe lang? Met de huidige normen is het risico van discriminatie en schending van de privacy namelijk te groot. Waar dat toe kan leiden, laat onder meer de toeslagenaffaire zien. Ook etnisch profileren is hier een gevolg van.

Digitale toolbox met instrumenten

Er is een agenda met acht actiepunten opgesteld. Op het lijstje met actiepunten staan onder meer de volgende zaken:

  • Er moet aanvullende wetgeving komen voor de verwerking van persoonsgegevens om  discriminatie te voorkomen.
  • Het begrip 'persoonsgegeven' moet scherper worden gedefinieerd. In de huidige systemen is het mogelijk om anoniem verwerkte gegevens toch te herleiden tot personen.

Op digitaleoverheid.nl zijn voor ontwikkelaars en bestuurders instrumenten beschikbaar gesteld voor ‘ethisch verantwoorde innovatie’. Deze wordt regelmatig aangevuld en geactualiseerd. Ook het bedrijfsleven moet aan de slag. Ollongren wil dat bedrijven in samenwerking met consumentenorganisaties een gedragscode gaan opstellen voor online keuzebeïnvloeding door gebruik van consumentendata en algoritmes.

Vooroordelen in de algoritmen

Eerder dit jaar werd bekend dat zeker 25 gemeenten algoritmen gebruikten om automatische inwonerprofielen te genereren. Op basis hiervan werd beoordeeld of mensen mogelijk fraude plegen of zware schulden hebben. Zodra het systeem een hoogrisicoprofiel detecteert, geeft het een seintje, zodat de ambtenaar het betreffende dossier extra kan onderzoeken. Hoewel de inzet van algoritmen en risicoprofilering ook bedoeld is om burgers tijdig te kunnen helpen, is het risico van discriminatie aanwezig. Het zijn namelijk mensen die de input voor algoritmen leveren, en mensen hebben vooroordelen. Die komen dus in algoritmen terecht.