Twitter zorgt voor een betere gespreksomgeving door aanpak van ’trollen’

In maart introduceerde Twitter een nieuwe aanpak om de toon van het openbare gesprek op het platform te verbeteren. Een belangrijk element dat nu aangepakt wordt zijn de zogenaamde “trollen.”

Troll-gedrag kan leuk, goed bedoeld en humoristisch zijn. Maar troll-gedrag kan ook het publieke gesprek op Twitter verstoren en afleiden, met name in gesprekken en binnen de zoekfunctie. Sommige van deze Tweets en accounts schenden dan ook het beleid van Twitter, waardoor actie ondernemen vereist is. Een ander deel schendt de regels niet, maar zijn wel stoorzenders in gesprekken tussen gebruikers.

Om dit in de juiste context te plaatsen; minder dan 1% van alle accounts vormt de meerderheid van de accounts die gerapporteerd worden. Een groot deel van deze gerapporteerde accounts schendt daarentegen de regels van Twitter niet. Hoewel de accounts in totaal niet een grote hoeveelheid zijn, hebben deze accounts wel een onevenredig grote – en negatieve – invloed op de ervaring van mensen op Twitter. De uitdaging is daarom: hoe kan Twitter proactief omgaan met disruptief gedrag, wat niet de regels schendt maar wel een negatieve invloed heeft op de toon van een gesprek.

Een nieuwe aanpak

Tegenwoordig wordt door middel van beleid, handmatige beoordelingsprocessen en machine learning bepaald hoe Tweets zijn georganiseerd en gepresenteerd in bijvoorbeeld gesprekken en in zoekfuncties. De prioriteit voor Twitter ligt nu bij het aanpakken van problemen zoals gedrag dat publieke conversaties afleidt en verstoort.

“Daarom worden er nieuwe gedragssignalen geïntegreerd in hoe Tweets worden gepresenteerd. Door nieuwe middelen te gebruiken die dit soort handelingen vanuit een gedragsperspectief benaderen, wordt de toon van het gesprek verbeterd. Zonder dat Twitter hoeft te wachten op gebruikers die ongepast gedrag of potentiële problemen melden.”

De integratie bevat veel nieuwe signalen, waarvan de meeste niet extern zichtbaar zijn. Een paar voorbeelden zijn wanneer een account zijn e-mailadres niet heeft bevestigd, als dezelfde persoon tegelijkertijd meerdere accounts registreert, accounts die herhaaldelijk tweeten en accounts vermelden die deze niet volgen, of gedrag dat kan wijzen op een mogelijk een gecoördineerde aanval. Ook kijkt Twitter naar hoe accounts verbonden zijn met andere accounts die de regels wel schenden en hoe de interactie is tussen de accounts.

De signalen vormen een instrument in het bepalen van hoe gesprekken en de zoek-feed ingericht worden. Omdat deze inhoud het beleid van Twitter niet schendt, blijft het beschikbaar als de gebruiker op ‘Meer antwoorden weergeven’ klikt of ervoor kiest om alles in de zoek-feed te bekijken. Het resultaat is dat mensen die bijdragen aan een gezond gesprek beter zichtbaar zijn in gesprekken en de zoek-feed.

Resultaten

De resultaten van de eerste internationale testronde tonen aan dat de nieuwe aanpak een positieve invloed heeft. De misbruik rapportages vanuit de zoekfunctie zijn gedaald met 4% en de rapportages vanuit gesprekken zijn verminderd met 8%. Dit betekent dat minder mensen Tweets zien die hun gebruikerservaring verstoren.

Maar er is nog wel een lange weg te gaan. Twitter’s aanpak is slechts een deel van al het werk om de toon van het gesprek en ieders ervaring te verbeteren. In de loop van de tijd zullen de technologie en het team fouten maken, maar ook hiervan leren. Er zullen valse positieven zijn en dingen die ze over het hoofd zien. Twitter hoopt snel te leren en de processen en tools slimmer te maken. Ondertussen probeert het bedrijf transparant te zijn over de fouten die gemaakt worden en de vooruitgang die wordt geboekt.

De tot nu toe geboekte resultaten zijn bemoedigend. Toch realiseert Twitter dat dit slechts een stap is in een langer proces om de algehele gezondheid van de dienst en de ervaring te verbeteren.