De macht van het algoritme, kunstmatige intelligentie en big data, sturen al voor een groot deel ons leven, terwijl we ons dat vaak nog niet voldoende bewust zijn. Natuurlijk genieten we er veel voordelen van, maar er zit ook een kwalijke kant aan. In het onderwijs bepalen learning analytics in toenemende mate de perspectieven van leerlingen/studenten. Hoe betrouwbaar en rechtvaardig is dat allemaal?
De Amerikaanse wiskundige Cathy O’Neil schreef vorig jaar een indrukwekkend boek, waarin ze wijst op soms onterechte gevolgen van wiskundige modellen. Bijvoorbeeld bij sollicitatie, studieprestatiebeoordeling en hypotheek/lening-aanvraag. Niet alleen het onderwijs mag zich meer bewust worden van de uitwassen van afhankelijkheid van algoritmen. Ook werkgevers en last but not least het individu zelf mogen kritischer worden. Algoritmen worden door hen gevoed en men laat met het grootste gemak zijn datasporen overal achter!
Lees bij Bright een review van het boek van O’Neil.
