Nederlandse waakhond voor gegevensbescherming gaat ‘gevaarlijke algoritmen’ in de gaten houden


De Autoriteit Persoonsgegevens (AP) is begonnen met het monitoren van ‘gevaarlijke algoritmen’. Dit zijn algoritmen die het leven van mensen negatief kunnen beïnvloeden, bijvoorbeeld algoritmen die bepalen wie wordt uitgenodigd voor een sollicitatiegesprek of dat iemand moet worden gecontroleerd op fraude, meldt de NOS.

AP-voorzitter Aleid Wolfsen noemde het extra toezicht op algoritmen dringend nodig omdat er van alles mis kan gaan. Zo selecteerde een algoritme bij het kinderopvangtoeslagschandaal mensen voor fraudecontroles op basis van nationaliteit, gezinssamenstelling en salaris. Een ander voorbeeld is het controversiële fraudebestrijdingsprogramma SyRI.

“Algoritmen worden steeds vaker ingezet en gebruikt bij het selecteren van mensen”, zegt Wolfsen tegen de omroep. “Wie wordt er wel of niet klant van een bedrijf, wie wordt uitgenodigd voor een sollicitatiegesprek en wie wordt extra gecontroleerd op fraude.” Dat kan ‘levensbedreigend gevaarlijk’ zijn, zei hij. Een verkeerd getraind of geprogrammeerd algoritme kan “discriminerende elementen bevatten die veel mensen tegelijk kunnen treffen. Dat moeten we allemaal proberen te voorkomen.”

Lees ook:  Twee omstanders neergeschoten in Rotterdam na ruzie tussen bewoner en aannemer over onbetaalde rekeningen

Het nieuwe toezicht van de AP geldt voor overheidsinstanties en het bedrijfsleven. Het moet de privacywaakhond in staat stellen sneller maatregelen te nemen als hij een onjuist algoritme aantreft. “Als we daar strenger op zijn, kun je sneller ingrijpen, sneller waarschuwen en sneller stoppen”, aldus Wolfsen. “Dat gaan we samen met andere toezichthouders doen.” Particulieren kunnen hun klachten ook melden bij de AP.

Voor dit extra toezicht heeft het kabinet dit jaar 1 miljoen euro gereserveerd. Dat loopt de komende jaren op tot structureel 3,6 miljoen euro in 2026.

Amnesty International is niet superenthousiast over het nieuwe toezicht. Volgens de mensenrechtenorganisatie zijn er te weinig middelen om discriminerende algoritmen effectief aan te pakken en zou de overheid meer geld moeten vrijmaken voor deze gigantische taak.

Plaats een reactie