033 277 11 61   info@pverrips.nl

Algoritmes discrimineren niet

  • 12 oktober 2020

Amnesty International, die opkomt voor de naleving van mensenrechten, kondigde onlangs een nieuwe actie aan met de oproep: "Kom in actie tegen discrimerende algoritmes". Alweer die mooie vakterm: algoritmes... Is het waar dat algoritmes kunnen discrimineren?

Al eerder schreef ik over het informatica-begrip algoritme. Toen was het Mona Keijer die het volgens mij ten onrechte gebruikte. Nu is het Amnesty International die het begrip in de schijnwerpers plaatst. In de mailing die we op 9 oktober ontvingen staat hierover: "Algoritmes zitten in de navigatie-app, in medische apparaten, videospelletjes, je slimme energiemeter en ga zo maar door. Dat is heel handig. Maar wat als algoritmes discrimineren?"

Wanneer je doorklikt bij dat bericht, volgt er een uitgebreidere toelichting in een heel interessant filmpje over predictive policing: hoe worden door de politie big data, artificial intelligence en wifitracking ingezet om met behulp van algoritmes het opsporingswerk te versterken? Het risico op discriminatie lijkt groot. Maar zijn het wel de algoritmes die discrimineren? Volgens mij niet. Ik ben van mening dat de uitgangspunten die gehanteerd worden bij het opstellen van algoritmes, de kiem van discriminatie bevatten en niet de algoritmes zelf. Niet de techniek is ethisch fout; dat zijn de mensen die de techniek inzetten.

Ook de oproep van Amnesty om zelflerende algoritmes (bij de overheid) te verbieden is een slecht advies. Algoritmes worden getraind met gegevens, veel gegevens, ook wel big data genoemd; zo worden structuren in de data herkend. Wanneer deze grote berg gegevens verzameld is met een eenzijdige selectiebril, zal de training van het algoritme die eenzijdigheid versterken. We zouden er dan niet van op moeten kijken dat de uitkomst van zo'n algoritme onderscheid maakt dat we discriminatie kunnen noemen.

Verbieden is echte geen optie. We moeten een stapje terug in het proces: voor dat we de techniek haar werk laten doen, moeten we als samenleving onszelf kennen. Welke vooringenomenheid zit er in onze samenleving? Welk vooroordeel heb je ten opzichte van de mensen om je heen? Pas als we met elkaar bereid zijn om te (h)erkennen dat het ethisch kader van Nederland aan een herijking toe is, kunnen we techniek onbezorgd inzetten.