Une semaine après Facebook, c’est au tour d’Instagram d’officialiser la mise en place de ses outils de contrôle du harcèlement sur la plateforme. Au-delà des outils de reporting traditionnels, la plateforme a mis en place une solution de machine learning pour détecter le harcèlement dans les photos.
L'apprentissage des machines est utilisé pour détecter tout élément de harcèlement et pour signaler automatiquement le contenu qui doit être ensuite examiné par une équipe chargée des opérations du réseau social, d'après Adam Mosseri, nouveau patron d'Instagram. «Cette évolution va nous aider à identifier et à retirer un nombre bien supérieur de (publications constituant) du harcèlement», a-t-il indiqué sur internet. «C'est une étape supplémentaire fondamentale puisque de nombreuses personnes victimes ou qui assistent à du harcèlement ne le signalent pas».
Célébrer la bienveillance
Instagram a également étendu son système de filtres sémantiques pour les commentaires des vidéos live. Ce filtre permet aux utilisateurs du réseau social de repérer et de cacher des commentaires considérés comme du harcèlement.
Enfin, Instagram a créé un effet de caméra «gentillesse» pour «célébrer le bonheur et la bienveillance» et «promouvoir le positivisme». «Le harcèlement sur internet est complexe et nous savons que nous avons davantage de travail à faire pour limiter encore davantage le harcèlement et pour diffuser la gentillesse sur Instagram», a ajouté Adam Mosseri. La mise en oeuvre de ces outils devrait être progressive au cours des prochaines semaines sur l'ensemble du réseau social.
