Excellente question – et je vous remercie de me l’avoir posée – elle est d’ailleurs moins technique qu’on ne le croit, parce que derrière les discours rassurants sur la « sécurité des jeunes », il y a surtout une logique économique qui ressemble à un moteur puissant tournant à plein régime, pendant que la modération, elle, pédale derrière avec un petit vélo d’appartement.
D’abord, il faut comprendre que les grandes plateformes vivent d’une ressource unique, fragile et extraordinairement rentable : l’attention humaine, et que les contenus qui provoquent des émotions fortes, qu’elles soient joyeuses, indignées, choquées ou en colère, fonctionnent comme du sucre très concentré pour le cerveau, ce qui veut dire qu’un message moqueur, un clash humiliant ou une vidéo qui tourne un camarade en ridicule peut générer plus d’interactions qu’un tutoriel paisible sur la photosynthèse ou sur la reproduction des coléoptères les soirs de pleine lune, et que, même si personne ne se lève le matin en se disant « je me sens d’humeur, aujourd’hui, à favoriser le harcèlement », les algorithmes, eux, apprennent très vite que les contenus les plus conflictuels font rester les utilisateurs plus longtemps, cliquent davantage et donc rapportent plus d’argent publicitaire.
Ensuite, la modération humaine à grande échelle coûte très cher et ressemble à un travail invisible, répétitif et psychologiquement lourd, qui oblige des milliers de personnes à regarder des contenus violents, sexuels ou dégradants toute la journée, et investir massivement là-dedans revient pour une entreprise cotée en bourse à transformer une partie de ses profits en salaires, en formation, en encadrement psychologique et en procédures, ce qui est beaucoup moins gratifiant et sexy dans un rapport aux actionnaires qu’une nouvelle fonctionnalité brillante qui promet de « booster l’engagement » comme une boisson énergisante pour adolescents numériques et anémiques.
Il y a aussi la difficulté technique, souvent brandie comme un bouclier, car distinguer automatiquement une blague maladroite entre amis d’un harcèlement répété, ou une discussion de santé mentale d’une incitation à l’automutilation, c’est un peu comme demander à un robot de comprendre les sous-entendus d’une cour de récréation, avec son ironie, ses codes, ses emojis détournés, son implicite et ses allusions, et même les intelligences artificielles les plus sophistiquées se trompent encore beaucoup, ce qui pousse les plateformes à avancer lentement, à tester, à corriger, tout en évitant de supprimer trop de contenus, de peur d’être accusées de censure excessive.
Il faut ajouter à cela une ambiguïté stratégique : les plateformes veulent apparaître comme des espaces ouverts, neutres, favorables à la liberté d’expression, et investir massivement dans la modération proactive revient à admettre publiquement que l’espace est dangereux par défaut, ce qui peut effrayer les utilisateurs, les annonceurs ou les investisseurs, un peu comme un parc d’attractions qui mettrait à l’entrée une grande banderole « attention, manèges potentiellement traumatisants », ce qui est honnête mais pas très vendeur.
Il y a également le fait que les mineurs, même s’ils ne sont pas ceux qui paient directement, représentent une part énorme du futur public, et que les plateformes hésitent à instaurer des environnements très filtrés ou très contraignants pour eux, de peur qu’ils aillent voir ailleurs, sur des applications plus petites, moins régulées et parfois encore plus risquées, ce qui crée une sorte de course vers le « pas trop strict », où personne ne veut être la cour de récré la plus surveillée du quartier.
Enfin, et c’est peut-être le plus dérangeant, la protection des mineurs est souvent traitée comme une question d’image et de conformité légale, c’est-à-dire qu’on investit surtout quand la pression politique, médiatique ou judiciaire devient trop forte, un peu comme on installe un détecteur de fumée après un incendie dans l’immeuble d’à côté, ce qui explique pourquoi les progrès arrivent par vagues, après des scandales, des suicides, des rapports accablants ou des menaces d’amendes, plutôt que par une transformation spontanée et généreuse du modèle.
Autrement dit, ce n’est pas que les plateformes ne savent pas qu’il y a un problème, c’est qu’elles sont prises dans un système où la croissance, l’engagement et la rentabilité tirent dans un sens, pendant que la protection, la lenteur, la prudence et la modération tirent dans l’autre, et tant que la loi, la régulation et la pression publique ne rendent pas la sécurité des mineurs aussi stratégique que les profits, la balance a tendance à pencher du côté le plus rentable, même si, vu de l’extérieur, cela ressemble parfois à une indifférence glaçante.
Laisser un commentaire