Trisha Prabhu, une adolescente de 14 ans qui aspire à travailler dans le domaine des neurosciences, compte déjà à son actif un système très intéressant permettant de lutter efficacement contre les trolls et autres commentaires désobligeants que l'on trouve (trop) souvent sur les réseaux sociaux et les blogs.
Son projet, baptisé Rethink, a même permis à Trisha de faire partie des finalistes de l'Expo-sciences Google 2014. Il s'agit en réalité d'un algorithme permettant de repérer si le message que l'on s'apprête à poster contient un passage pouvant offenser certaines personnes. Si le système ne détecte aucune intention de nuire, le petit mot sera alors envoyé normalement, en revanche si une partie du texte est jugée potentiellement blessante, l'utilisateur sera alors notifié de la situation et aura le choix d'envoyer ou pas son message.
Selon l'adolescente, le fait de recevoir une alerte au moment de poster un commentaire permettrait de réduire considérablement la violence des propos sur internet. Pour vérifier son hypothèse, notre scientifique en herbe a testé deux systèmes, Référence et Rethink, sur un panel de 1 500 anonymes âgés de 12 à 18 ans. Ces deux solutions disposent de la même base, à savoir proposer à l'utilisateur de mettre en ligne plusieurs messages prédéfinis tout en détectant les contenus potentiellement offensants. En revanche, seul Rethink est programmé pour avertir les utilisateurs de la possibilité que leurs paroles puissent blesser d'autres personnes.
Les résultats sont sans appel, alors que 67% des testeurs de Référence étaient prêts à poster des messages offensants, à peine plus de 5% des utilisateurs de Rethink allaient au bout de l'envoi après avoir été prévenus des risques.
Après le succès des premiers tests, Trisha Prabhu travaille à présent à l'élaboration d'un prototype pouvant être intégré dans la jungle actuelle des réseaux sociaux et autres sites participatifs, ce qui devrait, on l'espère, aider à réduire les cas de dépression, voire parfois les suicides chez les adolescents harcelés par écran interposé.
