Wanneer relevantie doorschiet: de verborgen schade van algoritmische beïnvloeding

In dit artikel:

Een recent literatuuronderzoek laat zien dat gepersonaliseerde advertenties naast relevantie en gebruiksgemak ook minder zichtbare schade kunnen veroorzaken. Algoritmen bepalen niet alleen welke boodschap consumenten zien, maar ook op welk moment en in welke vorm. Daardoor kunnen zij consumentengedrag subtiel sturen, soms zonder dat mensen begrijpen welke gegevens of aannames daarvoor worden gebruikt.

De onderzoekers onderscheiden vijf mogelijke vormen van niet-materiële schade. Ten eerste kan de privacy worden aangetast doordat systemen op basis van zoek-, browse- en koopgedrag gevoelige kenmerken afleiden die consumenten nooit expliciet hebben gedeeld. Ook kan de autonomie worden beperkt wanneer algoritmen kwetsbaarheden, zoals stress, vermoeidheid of impulsiviteit, herkennen en benutten om keuzes te beïnvloeden.

Daarnaast kan personalisatie het mentale welzijn schaden. Herhaalde advertenties voor bijvoorbeeld afslankproducten, stresshulp of financiële ondersteuning kunnen de indruk wekken dat iemand als onzeker of kwetsbaar wordt gezien. Algoritmen kunnen ook het informatieaanbod vernauwen doordat zij vooral content tonen die aansluit bij eerder gedrag. Daardoor raken alternatieve perspectieven uit beeld en kunnen oordeelsvorming en besluitvorming worden beïnvloed. Tot slot kunnen opvallend persoonlijke advertenties irritatie, stress of angst oproepen.

Deze effecten zijn niet altijd bewust bedoeld: systemen kunnen bijvoorbeeld stereotypen reproduceren of kwetsbare groepen onbedoeld selecteren. Toch zijn adverteerders medeverantwoordelijk voor de technologie die zij inzetten. Het onderzoek pleit daarom voor terughoudendheid bij targeting op kwetsbaarheden en voor systemen die geïnformeerde keuzes ondersteunen, in plaats van uitsluitend commercieel gunstige beslissingen uit te lokken. Succes moet niet alleen worden gemeten aan kliks en verkopen, maar ook aan vertrouwen, klachten, uitschrijvingen en advertentievermijding. Wie consumenten het gevoel geeft gevolgd of gemanipuleerd te worden, kan op korte termijn winst boeken maar op langere termijn bereik en merkvertrouwen verliezen.