Instagram ajoute plus de coups de pouce à la gentillesse dans le cadre de son plan de lutte contre le harcèlement

Ce n’est un mystery pour personne qu’Instagram a de gros problèmes avec harcèlement et intimidation sur sa plateforme. Un exemple récent : un rapport selon lequel Instagram n’a pas répondu à 90 % des as well as de 8 700 messages abusifs reçu par plusieurs femmes de haut niveau, dont l’actrice Amber Read.

Pour essayer de faire de son application un endroit in addition hospitalier, Instagram déploie des fonctionnalités qui commenceront à rappeler aux gens d’être respectueux dans deux scénarios différents : Maintenant, chaque fois que vous envoyez un concept à un créateur pour la première fois (Instagram définit un créateur comme quelqu’un avec furthermore de 10 000 abonnés ou utilisateurs qui ont créé des comptes « créateurs ») ou lorsque vous répondez à un fil de commentaires offensant, Instagram affichera un information en bas de votre écran vous demandant d’être respectueux.

Ces doux rappels font partie d’une stratégie furthermore massive appelée “nudging”, qui vise à avoir un affect positif sur le comportement en ligne des gens en les encourageant – plutôt qu’en les forçant – à changer leurs steps. C’est une idée enracinée dans théorie des sciences du comportementet celui qu’Instagram et d’autres sociétés de médias sociaux ont adopté ces dernières années.

Bien que le coup de coude ne résolve pas à lui seul les problèmes de harcèlement et d’intimidation d’Instagram, les recherches d’Instagram ont montré que ce form d’intervention subtile peut freiner les instincts les in addition cruels de certains utilisateurs sur les réseaux sociaux. L’année dernière, la société mère d’Instagram, Meta, a déclaré qu’après avoir commencé à avertir les utilisateurs avant qu’ils ne publient un commentaire potentiellement offensant, environ 50 % des personnes ont modifié ou supprimé leur commentaire offensant. Instagram a déclaré à Recode que des avertissements similaires se sont également avérés efficaces dans la messagerie privée. Par exemple, dans une étude interne portant sur 70 000 utilisateurs dont les résultats ont été partagés pour la première fois avec Recode, 30 % des utilisateurs ont envoyé moins de messages aux créateurs très suivis après avoir vu le rappel de gentillesse.

Méta

Le nudging s’est montré suffisamment prometteur pour que d’autres apps de médias sociaux avec leurs propres problèmes d’intimidation et de harcèlement – comme Twitter, Youtubeet TIC Tac – ont également utilisé la tactique pour encourager des interactions sociales as well as positives.

“La raison pour laquelle nous sommes si dévoués à cet investissement est que nous voyons à travers les données et nous voyons à travers les commentaires des utilisateurs que ces interventions fonctionnent réellement”, a déclaré Francesco Fogu, un concepteur de produits de l’équipe de bien-être d’Instagram, qui se concentre sur s’assurer que le temps que les gens passent sur l’application est positif et significatif.

Instagram a d’abord déployé des coups de coude pour tenter d’influencer les gens comportement des commentaires en 2019. Les rappels ont demandé aux utilisateurs pour la première fois de reconsidérer la publication de commentaires qui tombent dans une zone grise – ceux qui ne violent pas tout à fait les politiques d’Instagram concernant les discours nuisibles suffisamment ouvertement pour être automatiquement supprimés, mais qui se rapprochent toujours de cette ligne. (Instagram utilise des modèles d’apprentissage automatique pour signaler le contenu potentiellement offensant.)

Les premiers avertissements de commentaires offensants étaient subtils dans leur formulation et leur conception, demandant aux utilisateurs : “Êtes-vous sûr de vouloir publier ceci ?” Au fil du temps, a déclaré Fogu, Instagram a rendu les coups de pouce furthermore manifestes, obligeant les gens à cliquer sur un bouton pour ignorer l’avertissement et poursuivre leurs commentaires potentiellement offensants, et avertissant furthermore clairement lorsque les commentaires pourraient enfreindre les directives de la communauté Instagram. Une fois que l’avertissement est devenu additionally direct, Instagram a déclaré que 50% des personnes avaient modifié ou supprimé leurs commentaires.

Les effets du coup de coude peuvent aussi être durables, dit Instagram. La société a déclaré à Recode qu’elle avait mené des recherches sur ce qu’elle appelle les “commentateurs blessants répétés” – des personnes qui laissent plusieurs commentaires offensants dans un laps de temps – et a constaté que le coup de coude avait un effet positif à lengthy terme en réduisant le nombre et la proportion de commentaires blessants à commentaires réguliers que ces personnes ont faits au fil du temps.

À partir de jeudi, la nouvelle fonctionnalité de coup de pouce d’Instagram appliquera cet avertissement non seulement aux personnes qui publient un commentaire offensant, mais également aux utilisateurs qui envisagent d’y répondre. L’idée est d’amener les gens à reconsidérer s’ils veulent “s’empiler sur un fil qui devient incontrôlable”, a déclaré Liz Arcamona, responsable mondiale de la politique produit d’Instagram. Cela s’applique même si leur réponse individuelle ne contient pas de langage problématique – ce qui est logique, étant donné que beaucoup de réponses empilées à des fils de commentaires méchants sont de simples émojis de pouce levé ou de larmes de joie, ou “haha. ” Pour l’instant, la fonctionnalité sera déployée au cours des prochaines semaines pour les utilisateurs d’Instagram dont les préférences linguistiques sont définies sur l’anglais, le portugais, l’espagnol, le français, le chinois ou l’arabe.

L’une des théories fondamentales derrière les fonctionnalités de nudge d’Instagram est l’idée d’un “effet de désinhibition en ligne”, qui soutient que les gens ont moins de retenue sociale lorsqu’ils interagissent avec les gens sur World wide web qu’ils ne le font dans la vraie vie – et cela peut faciliter la tâche des gens. exprimer des sentiments négatifs non filtrés.

L’objectif de nombreuses fonctionnalités de nudge d’Instagram est de contenir cette désinhibition en ligne et de rappeler aux gens, dans un langage sans jugement, que leurs mots ont un affect réel sur les autres.

«Lorsque vous êtes dans une interaction hors ligne, vous voyez les réponses des gens, vous lisez en quelque sorte la pièce. Vous ressentez leurs émotions. Je pense que vous en perdez souvent beaucoup dans un contexte en ligne », a déclaré Arcamona d’Instagram. “Et nous essayons donc d’intégrer cette expérience hors ligne dans l’expérience en ligne afin que les gens prennent un instant et disent, ‘attendez une minute, il y a un humain de l’autre côté de cette interaction et je devrais y penser.'”

C’est une autre raison pour laquelle Instagram satisfied à jour ses coups de pouce pour se concentrer sur les créateurs : les gens peuvent oublier qu’il y a de vraies émotions humaines en jeu lorsqu’ils envoient un concept à quelqu’un qu’ils ne connaissent pas personnellement.

Quelques 95 % des créateurs de réseaux sociaux interrogés dans une étude récente de l’Association for Computing Equipment ont été victimes de haine ou de harcèlement au cours de leur carrière. Le problème peut être particulièrement aigu pour les créateurs qui sont les femmes ou les personnes de couleur. Des personnalités publiques sur les réseaux sociaux, de Bachelorette stars et concurrents aux joueurs de football internationaux, ont fait la une des journaux pour avoir été la cible de commentaires racistes et sexistes sur Instagram, dans de nombreux cas sous la forme de commentaires indésirables et de DM. Instagram a déclaré qu’il limitait pour l’instant ses rappels de gentillesse aux comptes de créateurs de messagerie, mais qu’il pourrait également étendre ces rappels de gentillesse à davantage d’utilisateurs à l’avenir.

Outre les créateurs, un autre groupe de personnes particulièrement vulnérables aux interactions négatives sur les réseaux sociaux est, bien sûr, les adolescents. La dénonciatrice de Facebook, Frances Haugen, a révélé des documents internes en octobre 2021 montrant remark les propres recherches d’Instagram indiquaient qu’un pourcentage crucial d’adolescents se sentaient moins bien à propos de leur impression corporelle et de leur santé mentale après avoir utilisé l’application. L’entreprise a ensuite fait l’objet d’un examen minutieux pour savoir si elle en faisait assez pour protéger les jeunes utilisateurs contre les contenus malsains. Quelques mois après les fuites de Haugen en décembre 2021, Instagram a annoncé qu’il commencerait éloigner les adolescents du contenu ils défilaient continuellement pendant trop longtemps, comme les messages liés à l’image corporelle. Il a déployé cette fonctionnalité en juin. Instagram a dit que, dans une étude interne d’une semaine, il a constaté qu’un adolescent sur cinq a changé de sujet après avoir vu le coup de pouce.

Méta

Bien que le coup de coude semble encourager un comportement additionally sain pour une bonne partie des utilisateurs de médias sociaux, tout le monde ne veut pas qu’Instagram leur rappelle d’être gentils ou d’arrêter de faire défiler. De nombreux utilisateurs se sentent censurés par les principales plateformes de médias sociaux, ce qui pourrait rendre certains résistants à ces fonctionnalités. Et certaines des études ont montré que trop de coups de coude pour arrêter de regarder votre écran peut désactiver une application ou les amener à ignorer complètement le concept.

Mais Instagram a déclaré que les utilisateurs peuvent toujours publier quelque chose s’ils ne sont pas d’accord avec un coup de pouce.

«Ce que je considère comme offensant, vous envisagez peut-être une blague. Il est donc très essential pour nous de ne pas vous appeler », a déclaré Fogu. “En fin de compte, vous êtes dans le siège du conducteur.”

Plusieurs authorities externes des médias sociaux avec lesquels Recode s’est entretenu ont vu les nouvelles fonctionnalités d’Instagram comme un pas dans la bonne direction, bien qu’ils aient souligné certains domaines à améliorer.

“Ce genre de réflexion m’excite vraiment”, a déclaré Evelyn Douek, professeur de droit à Stanford qui étudie la modération du contenu des médias sociaux. Pendant trop longtemps, la seule façon dont les purposes de médias sociaux traitaient le contenu offensant était de le retirer après qu’il avait déjà été publié, dans une approche de taupe qui ne laissait pas de put à la nuance. Mais au cours des dernières années, Douek a déclaré que “les plates-formes commencent à devenir beaucoup additionally créatives sur les moyens de créer un environnement de parole in addition sain”.

Pour que le community puisse vraiment évaluer à quel place le nudging fonctionne, Douek a déclaré que les purposes de médias sociaux comme Instagram devraient publier davantage de recherches, ou mieux encore, permettre à des chercheurs indépendants de vérifier son efficacité. Cela aiderait également Instagram à partager des exemples d’interventions qu’Instagram a expérimentées mais qui n’étaient pas aussi efficaces, “donc ce ne sont pas toujours des critiques positives ou élogieuses de leur propre travail”, a déclaré Douek.

Un autre stage de données qui pourrait aider à mettre ces nouvelles fonctionnalités en perspective : combien de personnes subissent des interactions sociales indésirables pour commencer. Instagram a refusé de dire à Recode quel pourcentage de créateurs, par exemple, reçoit globalement des DM indésirables. Ainsi, bien que nous sachions à quel stage le nudge peut réduire les DM indésirables aux créateurs, nous n’avons pas une picture complète de l’ampleur du problème sous-jacent.

Compte tenu de l’énormité de la base d’utilisateurs estimée à in addition de 1,4 milliard d’Instagram, il est inévitable que les coups de coude, aussi efficaces soient-ils, ne seront pas près d’empêcher les gens de subir du harcèlement ou de l’intimidation sur l’application. Il y a un débat sur la mesure dans laquelle la conception sous-jacente des médias sociaux, lorsqu’elle est maximisée pour l’engagement, incite négativement les gens à participer à des conversations incendiaires en premier lieu. Pour l’instant, des rappels subtils peuvent être parmi les outils les in addition utiles pour résoudre le problème apparemment insoluble de savoir comment empêcher les gens de mal se comporter en ligne.

“Je ne pense pas qu’il y ait une alternative distinctive, mais je pense que le coup de coude semble vraiment prometteur”, a déclaré Arcamona. “Nous sommes optimistes que cela peut être une pièce très importante du puzzle.”