On vous dit tout sur "Bodyguard", l'appli niçoise qu'utilise Bilal Hassani pour se protéger des commentaires haineux

 "Va te pendre", "T’es qu’une pauvre conne", "T’es moche", "Crève sale pd"… Invisibles, les dégâts moraux provoqués par ces quelques mots tapés sur un clavier peuvent parfois conduire à des situations de détresse extrêmes, allant parfois jusqu’au suicide. Selon E-enfance, le cyberharcèlement touche aujourd’hui près de 40% des élèves en France. C’est la raison qui a poussé Charles Cohen à créer Bodyguard, une application gratuite qui vous protège du harcèlement en ligne.

Choqué de voir le nombre de suicides chez les jeunes victimes de cyberharcèlement, ce Niçois de 22 ans a décidé de prendre le problème à bras le corps. "Je me suis dit que c’était quand même incroyable que de nombreux enfants en arrivent jusque-là. Il fallait faire quelque chose", se souvient Charles.

Passionné d’informatique depuis ses 10 ans, il a choisi de laisser ses études en maths sup' de côté pour mettre ses compétences au profit du développement d’une application capable de supprimer les commentaires haineux sur les réseaux sociaux.

"À cause du harcèlement en ligne, il y a des personnes qui perdent totalement confiance en elles. Ça ne fait pas des dégâts physiques, mais des dégâts moraux." Charles Cohen, créateur de Bodyguard

L’objectif n’est pas de bannir la critique des contenus présents sur le web, mais bien de protéger chaque individu (adulte, comme enfant) des insultes proférées sur Twitter, YouTube ou dans le chat de Twitch (plateforme de jeux vidéos). Bien que jusqu’à présent l’application peine à se développer dans la région, Bodyguard compte aujourd’hui 1400 utilisateurs (dont des youtubeurs allant de 50 à 700 000 abonnés).

Comment ça marche?

La création d’une application comme Bodyguard répond au problème des modérateurs des réseaux sociaux qui sont parfois peu efficaces, impersonnels et souvent très chers pour le portefeuille de certains utilisateurs. "Un youtubeur qui a à peine 1.000 abonnés ne pourra pas se payer un modérateur et va donc être plus facilement victime de cyberharcèlement", précise le créateur de l’appli.

Lancé il y a neuf mois, ce garde du corps en ligne est géré grâce à une intelligence artificielle (I.A) qui va analyser les commentaires en temps réel sans que l’usager doive débourser un centime. Si un post est considéré comme haineux, Bodyguard va le supprimer automatiquement de la plateforme, puis il sera vérifié manuellement par son développeur. Sur Twitter, la personne va être immédiatement bloquée tandis que sur YouTube, le harceleur sera banni au bout de plusieurs commentaires haineux. L’application est aujourd'hui capable de repérer si la publication provient d’un de vos amis ou non en fonction de si vous suivez cette personne. Si la critique est constructive, elle sera gardée, si en revanche elle porte atteinte à la personne elle sera supprimée.

Chaque utilisateur peut également décider de corriger les erreurs en réintégrant les publications qu’il souhaite voir apparaître ou à l'inverse, saisir les choses susceptibles de le blesser moralement via des mots-clés. Bodyguard repère également ce qu’on appelle les attaques en RAID (quand un groupe de harceleurs se met à insulter une même personne en même temps) et protège immédiatement le compte en augmentant la sévérité de la modération, le temps que la cyberattaque passe. L’appli se charge aussi d’éliminer les publicités, spams, trolls, menaces et autres messages indésirables.

"Bodyguard supprime les choses que les gens n’oseraient pas dire dans la vraie vie"
Charles Cohen, créateur de l'application

UNE APPLICATION INTELLIGENTE

Mais l’application va plus loin. Elle est aujourd’hui capable de s’adapter à chaque utilisateur. Lors de l’inscription, Bodyguard vous demande deux choses : votre âge et votre sexe. L’intelligence artificielle va donc en fonction du profil, être plus sévère dans la modération. Les jeunes utilisateurs seront donc doublement protégés.

Elle détecte également les violences sexistes envers les femmes (et les hommes) et fera office de barrage face aux commentaires du style "montre-moi tes seins", "t’es bonne", ou "je te baise". Un grand soulagement pour des youtubeuses comme Dookie Anne qui ne se sépare plus de Bodyguard.  "Je reçois beaucoup de messages sur YouTube de gens qui me disent qu’ils hésitent à se lancer à cause des commentaires méchants qu’ils pourraient recevoir. Et là, c'est un soulagement. Ils ont inventé l’application du siècle!", explique la youtubeuse dans une vidéo.

"Dès que tu es anonyme sur le web, il n’y a plus de filtres. Les gens sont des animaux." Charles Cohen, créateur de Bodyguard

Au cours du développement, Charles Cohen a appris à son I.A à faire la différence entre l’humour, le compliment et la moquerie. "Si vous dites «t’as des gros bras» à une personne obèse, ce sera supprimé parce que c’est une moquerie. Si vous le dites à quelqu’un qui fait de la musculation, ce sera considéré comme un compliment et donc gardé", explique le jeune développeur.

Bodyguard reconnaît également le langage émoji ainsi que les fautes d’orthographe et de frappe. Si quelqu’un commente sur le profil d’un ami "ahah T con 😁", l’application comprendra que c’est pour rire. "Si l’utilisateur est homosexuel, on va être intransigeant avec l’homophobie. Si l’utilisateur est obèse, on va être intransigeant avec les moqueries, etc.", insiste Charles. 

Pour permettre aux victimes de retrouver un peu l'estime d’eux-mêmes, Charles a mis en place une section qui permet de voir tous les commentaires gentils et valorisants. Un soutien moral en plus qui encourage les utilisateurs à ne pas se sentir isolés. "Je voulais également prouver aux gens qu’ils ne sont pas seuls, en leur montrant tous les gens qui sont là pour eux", confie-t-il.  

À ce jour, grâce à Bodyguard, Charles a supprimé près de 30.000 commentaires et bloqué 419 harceleurs sur Twitter. Sa technologie, - qu’il envisage d’internationaliser et de traduire en anglais - sera bientôt appliquée à Instagram et probablement un jour à Facebook. Il compte également perfectionner son application pour qu’elle puisse détecter 95% (et non plus 90%) des commentaires haineux et baisser le taux d’erreur de 2% à 0%. Il réfléchit également à une manière de proposer Bodyguard à différents groupes sous la forme d’un abonnement mensuel, à condition que les entreprises acceptent d’assurer la gratuité du service pour les utilisateurs.

Bodyguard permet ainsi aux internautes de s'épanouir librement sur les réseaux sociaux, en leur assurant une protection à 100% contre les moqueries, le racisme, l'homophobie ou encore le harcèlement sexuel.