CYBTwitter travaille sur un nouvel outil pour lutter contre les trolls qui sévissent sur le réseau social. Il s’agit d’une intelligence artificielle développée pour repérer les comportements douteux, non répréhensibles mais nuisibles pour les internautes. L’IA a déjà fait ses preuves, avec une baisse significative du nombre de signalements.
Twitter multiplie le développement d’outils pour lutter contre les internautes indésirables. Le réseau social travaille actuellement sur une intelligence artificielle (IA) qui serait capable de détecter les « trolls » à travers leur comportement, dans le but d’assainir les échanges sur la toile, rapporte Clubic.
Après le durcissement de ses politiques d’utilisation, sa modération humaine et le développement d’outils de machine learning, l’entreprise fondée par Jack Dorsey s’attaque donc aux personnes nuisibles, qui ont un impact négatif sur l’expérience des utilisateurs mais ne sont pas officiellement répréhensibles selon les règles du site.
Repérer les comportements nuisibles
Pour ce faire, l’IA analyse d’autres types d’éléments que les outils précédemment développés. « Il y a plusieurs nouveaux signaux que nous prenons en compte, la plupart d’entre eux ne sont pas visibles de l’extérieur », précise Twitter dans un billet de blog exposant les progrès de son nouvel outil. L’IA analyse la structure des tweets, le niveau de certification du compte, le nombre de comptes possédés par une même personne et les liens entre ces comptes, les éléments reflétant une éventuelle attaque coordonnée de comptes…
Recently we were asked a simple question: could we measure the “health” of conversation on Twitter? This felt immediately tangible as it spoke to understanding a holistic system rather than just the problematic parts.
— jack (@jack) March 1, 2018
« Comme ce contenu ne contrevient pas à nos règles, il restera sur Twitter et sera visible en cliquant sur ”Voir plus de réponses” ou en affichant tous les résultats d’une réponse », explique le réseau social. « Le résultat sera que les personnes contribuant aux échanges sains seront plus visibles dans les conversations et la recherche ».
Encore un long chemin à parcourir
Selon le communiqué, les premiers résultats donnés par la nouvelle IA sont probants. Twitter mentionne un « impact positif, résultant dans une baisse de 4 % des signalements d’abus par la recherche et une baisse de 8 % des signalements dans les échanges ». L’expérience utilisateur en serait donc considérablement améliorée.
Twitter ne crie tout de même pas victoire trop tôt, et admet qu’il reste beaucoup à faire pour améliorer et optimiser l’outil. L’entreprise américaine se dit tout de même encouragée par ces progrès rapides et visibles, et s’engage à continuer ses efforts pour faire du réseau social un lieu d’échanges courtois et agréables.
