Je zou kunnen denken: zucht. Wéér een vrouw die een boek heeft geschreven over de zwarte kant van algoritmes. Toch is Algoritmes aan de macht van de Britse Hannah Fry een optimistisch en realistisch boek over de tekortkomingen van mens én computer. Haar conclusie: in het tijdperk van de algoritmes zijn mensen nog nooit zo belangrijk geweest.

Hannah Fry (34) is universitair hoofddocent wiskunde aan University College Londen, TED-spreker en tv-presentatrice van onder meer wetenschapsprogramma's. Eerder publiceerde ze boeken als The Mathematics of Love, waarbij ze stelt dat wiskunde een onmisbaar middel is om de ware liefde te vinden. Met Algoritmes aan de macht sluit ze aan in een lange rij van kritische boeken over de groeiende macht van geautomatiseerde beslissingen door overheden en bedrijven.

Algoritmes aan de macht

Hannah Fry, De Geus, € 12,99.

Een korte opsomming: De Amerikaanse wiskundige Cathy O'Neil trapte in 2016 af met Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. In haar goed onderbouwde en activistische boek (O'Neil was onderdeel van de Occupy-beweging) waarschuwt O'Neil dat complexe wiskundige modellen niet objectief zijn, maar al snel vooroordelen in zich hebben en discrimineren. Voorbeeld: een student krijgt geen lening voor zijn studie omdat hij uit een arme buurt komt. Te risicovol, zegt het algoritme van de bank. 'Algoritmen vergroten de verschillen', zei O'Neil in een interview met het FD.

In 2017 publiceerde de Amerikaanse Sara Wachter-Boettcher Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech. Wachter-Boettcher komt uit een andere hoek: ze is van huis uit 'Ux-designer', iemand die websites en apps zo prettig mogelijk ontwerpt voor gebruikers. Haar doel is ontwikkelaars en designers zo vroeg mogelijk bij de ontwikkeling van een nieuwe dienst te laten nadenken over ingebouwde vooroordelen: wie kan erdoor gekwetst of benadeeld worden?

De oogst van 2018: Automating Inequality van Virginia Eubanks. Een ontluisterend boek dat laat zien hoe de automatisering van het sociale stelsel in de Verenigde Staten juist de armen, voor wie het stelsel bedoeld is, benadeelt en verder de armoede induwt. Eubanks behandelt diepgaand concrete cases van steden die software laten bepalen of iemand recht heeft op een uitkering of een woning. De besluiten blijken arbitrair en worden op geen enkele manier democratisch getoetst.

Safiya Umoja Noble richt met Algorithms of Oppression haar pijlen op de zoekmachine van Google. Die geeft allesbehalve neutrale zoekresultaten. Typ 'Aziatische meisjes' in en je zult zien wat ik bedoel.

Wat voegt Fry aan die lange lijst toe? Allereerst: ze is Brits en dat levert een andere schrijfstijl op. Fry schrijft geestig en compact. Ze komt met veel voorbeelden op de proppen over zelfrijdende auto's, het gebruik van algoritmes in de geneeskunde, rechtspraak en de kunst. Ook lezers die vaker over dit onderwerp lezen, worden verrast.

Maar bovenal is ze optimistisch en pragmatisch van toon. De zaak rond Cambridge Analytica, dat zonder toestemming persoonsgevens van Facebookgebruikers inzette voor gepersonaliseerde advertenties, bestempelt Fry als 'micromanipulatie', al denkt ze dat 'het onmogelijk valt uit te maken hoeveel effect dit allemaal had op de Amerikaanse presidentsverkiezing.'

Fry haalt een eerder Facebookexperiment uit 2013 aan, waarbij de newsfeeds van mensen werden gemanipuleerd. Wat bleek: gebruikers postten vaker positieve berichten als ze werden afgeschermd van negatief nieuws. Maar het verschil bedroeg minder dan een tiende van een procentpunt. 'De werkelijke effecten waren miniem', stelt Fry. 'We zijn veel beter in het negeren van advertenties en kunnen propaganda veel beter op onze eigen manier interpreteren dan de mensen die de boodschappen verzenden graag zouden zien.'

De auteur

Hannah Fry (34) is universitair docent in de wiskunde van steden aan University College Londen. Ze gebruikt wiskundige modellen om patronen in menselijk gedrag te bestuderen, en werkte daarin samen met overheden, politiekorpsen, medisch analisten en supermarkten. Daarnaast is ze TED-spreker en tv-presentatrice van onder meer wetenschapsprogramma's. Eerder publiceerde ze boeken als The Mathematics of Love.

Het boekt ademt nuchterheid. We moeten, zegt Fry, ons niet langer laten intimideren door complexe wiskundige modellen. Als de computer iets stelt, nemen we het al snel aan als een objectief oordeel en stoppen we met systemen te bevragen op hun basale rechtvaardigheid. Daar moeten we mee stoppen, stelt Fry. De perfecte wereld bestaat niet. Data zijn vaak een puinhoop en lang niet altijd bruikbaar. Algoritmes zijn helemaal niet alwetend, ze doen net als wij maar een gooi naar een oplossing. 'We moeten algoritmes behandelen net als we elke andere bron van macht tegemoetgetreden: door hun beslissingen te betwijfelen, hun motieven nauwkeurig te bekijken, onze emoties te erkennen, te eisen dat bekend gemaakt wordt wie ervan zal profiteren, en ze verantwoordelijk te houden voor hun fouten.'

Kortom: een aanrader.