De moordlustige algortimes van Bol.com - Pieter Buteneers

Bij Bol.com is volgens een recent artikel in De Morgen het algoritme de baas. Wie deze titel leest moet waarschijnlijk onmiddellijk denken aan doemscenario’s waarbij computers de wereld gaan overnemen. Gelukkig zal het zo een vaart niet lopen. De algoritmes waar over gesproken wordt zijn in dat opzicht zeer onschuldig. Ze hebben totaal niet de wil of ambitie om de wereld over te nemen. Ze zijn ontwikkeld om je producten te laten kopen en net daarom zijn ze bij Bol.com de baas.

Maar een algoritme dat mensen doet kopen is niet per se slecht. Als gebruiker van Bol.com weet je dat er dingen te koop zijn en de verkoper zijn waren er aanprijst. Voor een webwinkel slagen ze daar trouwens heel goed in. Hun service is in veel opzichten zelfs beter dan die van fysieke winkels.

Het gevaar van dit soort algoritmes zit echter veel dieper. Want algoritmes met een specifiek doel hebben soms nevenwerkingen. Wie op Google zoekt naar afbeeldingen van ‘6 white teenagers’ en ‘6 black teenagers’, krijgt bij de ene zoekterm blije tieners te zien en bij de andere mugshots.

Wil dit zeggen dat Google een racistisch bedrijf is? Of dat de ingenieurs die de algoritmes van Google gebouwd hebben racistisch zijn? Zeker niet. Het wil gewoon zeggen dat men er geen rekening mee gehouden heeft met de subjectieve content op het internet. De algoritmes van Google schuimen die namelijk af om jou je zoekresultaten te geven. Google moet vaak ingrijpen om dit soort vooroordelen recht te trekken in zijn algoritmes. Als je nu bijvoorbeeld zoekt naar ‘4 black teenagers’ zal je dankzij een recent schandaal in de Amerikaanse pers waarschijnlijk geen mugshots meer tegenkomen. Als googlegebruikers dit voorbeeld vaak genoeg gebruiken, zal het ook niet lang meer duren voordat je voor ‘6 black tieners’ geen mugshots meer te zien krijgt.

Maar bij Bol.com zijn de algoritmes dus koning. Elk vooroordeel of elke misconceptie over de wereld ten spijt. Dat betekent dus dat Bol.com pseudowetenschap voorschotelt als je naar literatuur over vaccinaties zoekt. De algoritmes bij Bol.com hebben geen wetenschappelijke opleiding. Ze weten dus niet dat het ontmoedigen van vaccinaties leidt tot uitbraken van ziektes die we hier al lang niet meer kennen. De ingenieurs achter het algoritme weten dit echter wel.

In de VS waar de antivaxing community steeds grotere proporties aanneemt komt het alsmaar vaker voor dat er kinderen besmet worden met ziektes als de mazelen. In de jaren 60 stierven er nog miljoenen kinderen per jaar aan deze ziekte. Maar dankzij vaccins zijn we hiervan verlost. Toch zolang we onze kinderen blijven vaccineren.

De pseudowetenschappelijke boeken die je kan kopen op Bol.com doen je geloven dat vaccinaties schadelijker zijn dan ziektes zoals mazelen. En dat je dus maar best je kinderen het risico laat lopen om geïnfecteerd te worden. Ook al zijn alle oprechte wetenschappers het er over eens dat vaccinaties de enige manier zijn om deze kindersterfte tegengaan, en waarschuwen ze luidkeels voor de dodelijke gevolgen van het niet vaccineren.

Zal Bol.com na de uitbraak van een nieuwe epidemie met tal van kinderslacthoffers blijven vasthouden aan haar stelling dat algoritmes niet moeten worden bijgestuurd? Zullen ze dan nog altijd hun maatschappelijke verantwoordelijkheid van zich afschuiven? Want dan komen we wél terecht in een wereld waar algoritmes de mensheid kunnen uitroeien!

Pieter Buteneers is kernlid Liberales en CTO bij Chatlayer