Het aanbevelingsalgoritme van X lijkt te leren van content die gebruikers boos maakt en hen vervolgens meer van diezelfde content voor te schotelen. Dat blijkt uit een nieuw onderzoek dat is gepubliceerd in Proceedings of the National Academy of Sciences.
Onderzoekers analyseerden de feeds en het gedrag van 715 actieve gebruikers van X. Ze vergeleken berichten van accounts die gebruikers bewust volgden met content die het algoritme voor hun ‘Voor jou’-feed selecteerde. Daaruit bleek dat aanbevolen berichten vaker botsten met de waarden die gebruikers zelf aangaven belangrijk te vinden dan berichten van accounts die ze daadwerkelijk volgden.
De onderzoekers konden dit effect deels herleiden tot de manier waarop X interactie interpreteert. Wanneer gebruikers berichten tegenkwamen waar ze het niet mee eens waren en daarop reageerden om kritiek te leveren of in discussie te gaan, kon het algoritme die reacties interpreteren als een signaal dat ze meer vergelijkbare content wilden zien.
Reacties waren goed voor slechts 6,8% van de interacties die tijdens het onderzoek werden waargenomen, maar bleken een buitenproportioneel grote invloed te hebben op latere aanbevelingen. De onderzoekers spreken van een mogelijke feedbackloop van ragebait: gebruikers reageren op content omdat ze deze niet leuk vinden, terwijl het algoritme die reactie als betrokkenheid ziet en vergelijkbare berichten blijft aanbevelen.
De bevindingen laten zien dat aanbevelingssystemen die op interactie zijn gebaseerd moeite kunnen hebben om onderscheid te maken tussen ‘dit wil ik zien‘ en ‘dit maakte me zo boos dat ik erop moest reageren‘. Door simpelweg de discussie aan te gaan met ragebait kun je je feed dus onbedoeld trainen om je er juist meer van te laten zien.
Voormalig producthoofd van X Nikita Bier zegt dat het platform inmiddels heeft aangepast hoe reacties meewegen in aanbevelingen. Volgens Bier geeft X sinds kort meer gewicht aan reacties op berichten van vrienden. Deze verandering zou de hoeveelheid ragebait aanzienlijk hebben verminderd.
Eerder werd Meta, het bedrijf achter sociale mediaplatforms Facebook, Instagram en Threads, ervan beschuldigd de negatieve effecten van sociale media te verbergen en zijn algoritmes bewust te ontwerpen met verslavende en soms onethische functies. Het bedrijf wordt hiervoor momenteel geconfronteerd met een grote rechtszaak in de Verenigde Staten.
