07.26/ Les IA amplifient-elles le cyberharcèlement chez les jeunes ?

Introduction

Le phénomène du cyberharcèlement existe depuis plusieurs années, il a déjà fait l’objet de nombreuses études et publications, notamment de l’UFAPEC. Si nous abordons à nouveau ce sujet aujourd’hui, c’est parce que de nombreux parents s’inquiètent de voir les intelligences artificielles (IA) amplifier la violence en ligne.

Nous avons notamment rencontré des parents dont l’enfant a été la cible de cyberintimidations, son image ayant été transformée par une intelligence artificielle générative, pour aboutir à une image à caractère pornographique, largement partagée.

Dans la présente analyse, nous souhaitons approfondir cette réflexion autour du cyberharcèlement et des IA, car l’enjeu de société est crucial, les violences numériques portant atteinte à plusieurs droits des mineurs : droit à la dignité, à la vie privée, à la protection contre les violences sexuelles et le cyberharcèlement. L’enjeu de notre réflexion est de permettre aux jeunes une vie et une scolarité sereines et sans violence numérique. La protection de leurs données et de leur image est un droit essentiel menacé par de nouveaux usages liés aux IA.

Notre questionnement est le suivant : d’une part, les IA peuvent-elles apporter du positif en aidant à lutter contre les cyberviolences via la détection de propos haineux ? D’autre part, le cyberharcèlement prend-il des voies encore plus dangereuses[1] avec les IA ? Nous évoquerons notamment la prolifération de deepnudes, ces fausses images ou vidéos à caractère sexuel créées à l’aide de l’intelligence artificielle, donnant ainsi l’impression qu’une personne est représentée nue ou qu’elle dit ou fait quelque chose qui n’a jamais eu lieu en réalité.[2]

Avant d’entrer dans le vif du sujet, il est utile de rappeler que l'intelligence artificielle générative est une catégorie d'IA qui se concentre sur la création de contenus, tels que des textes, des images, des vidéos, des sons et d'autres types de données. Ces systèmes utilisent des modèles avancés d'apprentissage automatique pour générer du contenu qui peut ressembler à ce qui est créé par des êtres humains.[3]

Une étude belge de 2024 menée par l'Université d'Anvers, l’institut pour l’égalité des femmes et des hommes et Child Focus auprès de 2.800 jeunes belges âgés de 15 à 25 ans, montre que 41,9 % des jeunes interrogés ont déjà entendu parlé des deepnudes, 23,1 % en ont déjà vu, 13,8 % en ont déjà reçu et 60,5 % ont essayé d’en créer, les hommes étant nettement plus nombreux à faire état de ce comportement. [4] C’est dire si cette forme de violence sexuelle numérique prend de l’ampleur et risque de faire des dégâts chez les jeunes en pleine construction identitaire et souvent mal à l’aise avec leur corps.

Impacts des trucages sexuels

Les violences numériques ne datent pas d’hier et on n’a pas attendu les IA pour créer des montages à caractère pornographique pour nuire, humilier, se venger ou impressionner. Les humiliations que subissent des jeunes au sein des établissements scolaires continuent souvent après l’école. Cela se manifeste encore davantage lorsqu’il s’agit de cyberharcèlement, c’est-à-dire d’agissements malveillants répétés, dans un cadre public ou restreint, qui peuvent prendre différentes formes : intimidations, insultes, menaces, rumeurs, publications de photos ou vidéos compromettantes, etc. Ils peuvent être le fait d’une personne ou de plusieurs individus et se dérouler sur les réseaux sociaux, messageries, forums, blogs, etc.[5] Les cyberviolences touchent à l’identité, aux rapports de pouvoir et elles laissent souvent de profondes cicatrices. Mais les IA amplifient ce qui existait auparavant, car elles permettent aux cybercriminels d’exécuter des attaques plus sophistiquées. Pour Chloé Tran Phu, formatrice en éducation aux médias chez Media-Animation, les IA génératives d’images participent au cyberharcèlement en générant des images fausses. Ce sont des outils qui sont malheureusement très faciles d’accès aujourd’hui. Résultat : la frontière entre le vrai et le faux devient de plus en plus floue, difficile aujourd’hui de détecter si l’image est vraie.[6]

On entre dans un terrain encore plus glissant, celui où les violences prennent de nouvelles formes, plus rapides, plus massives, plus difficiles à arrêter[7]. Pour les adolescents d'aujourd'hui, le harcèlement scolaire n'a plus de fin. Autrefois, la maison était un refuge ; désormais, le tourment suit l'enfant jusque dans sa chambre, via les notifications. En 2026, les cas de « lynchage viral » pour une simple vidéo mal interprétée ou une photo volée ne sont plus des exceptions, mais des réalités cliniques.[8]

D’aucuns pourraient imaginer que le cyberharcèlement, par exemple les deepnudes, n’a pas d’effets graves sur la victime, puisqu’il s’agit d’un montage et donc que ce n’est pas son corps. La recherche dans ce domaine évoque pourtant un impact psychologique sérieux. Marine Manard, docteur en sciences psychologiques, et Marine Ghuys, psychologue, expliquent les effets de ces cyberviolences. Se voir mis en scène dans une vidéo ou une image sexuelle que l’on n’a jamais « tournée » peut déclencher un choc violent. A l’inverse d’une image réelle consentie, il n’existe ici aucun souvenir. Cet acte représenté confronte directement la victime à une violation imaginaire de son intimité.[9]

De plus, un hypertrucage sexuel ne touche pas uniquement à la réputation publique, il touche aussi à la manière dont on se perçoit. Cette appropriation visuelle donne la sensation que son corps ne nous appartient plus. L’identité privée (comment je me vois) et l’identité publique (comment les autres me voient) se retrouvent bousculées en même temps, créant une impression de perte totale de contrôle[10].

Enfin, face à ce type d’image, certaines victimes vérifient chaque partie du corps pour savoir si c’est vraiment la leur et cette discordance entre perception intime et image extérieure entretient la peur et le trouble. Même en sachant que le deepfake est faux, un doute ou une culpabilité implicite peuvent s’installer, comme si l’acte représenté avait pu avoir lieu. Cette culpabilité, souvent nourrie par la honte ou le jugement social, fragilise encore l’estime de soi et complique la reconstruction.[11]

Les IA, outil de modération du cyberharcèlement ?

Les IA étant d’abord un outil, ne peuvent-elles être à l’inverse des alliées pour détecter des contenus violents, haineux comme des insultes ou des menaces ? Certaines sont entraînées à reconnaître des schémas de harcèlement et peuvent filtrer des deepfakes.[12] Elles permettent d’analyser de grandes quantités de données, d’identifier des modèles et de prendre des décisions éclairées, à des vitesses et des échelles allant au-delà des capacités humaines. […] en apprenant en permanence à partir de nouvelles données et en améliorant sa capacité à identifier et à contrer les menaces émergentes.[13]

Des outils comme Deepware, Sensity ou Hive Al peuvent analyser une vidéo ou une image pour détecter des traces de génération artificielle. Certains sont intégrés dans des outils journalistiques ou policiers.[14]

Les IA peuvent encore accompagner les victimes dans la prise de parole en proposant des chatbots d’accompagnement, qui pourraient être adaptés pour accueillir la parole de victimes et leur proposer des ressources.[15]

On peut aussi utiliser certaines IA pour créer des campagnes éducatives de prévention, générer des scripts de sensibilisation, ou même former les modérateurs à de nouvelles sortes de discours haineux.[16]

Les IA peuvent donc dans certains cas être des alliées pour lutter contre le cyberharcèlement, mais pourtant, de nombreux chercheurs sont d’accord sur le fait que les IA amplifient le phénomène : les trucages deviennent plus réels que jamais, d’où la nécessité d’une modération solide des contenus. Chloé Tran Phu explique que 94 % de la modération se fait par des IA, par exemple chez META. Les grandes plateformes ne pourraient pas s’en passer et la modération humaine est insuffisante à l’échelle de ces grandes plateformes de réseaux sociaux. Mais peut-on laisser le soin de cette modération entièrement aux robots ? La question se pose, car les IA ont encore des difficultés à reconnaître le second degré, les émojis, les détournements ou l’humour raciste déguisé, la répétition douce mais violente d’un harcèlement insidieux. [17] La modération en tant que telle ne peut être faite entièrement par des robots. En effet, les IA ne prennent pas en compte les différences culturelles, car selon la culture que l’on partage, il y a différentes manières d’expliquer des comportements cyberviolents.[18] Les IA comme DALL-E par exemple, générateur d’images, contiennent des filtres de sécurité qui les empêchent de générer des images violentes ou à caractère sexuel. Mais le fonctionnement de leurs algorithmes entraîne de réels risques de biais : les IA sont le reflet d’une certaine vision du monde, ce qui peut engendrer des discriminations comme le racisme, le sexisme, les stéréotypes, etc. au niveau du résultat qui est fourni [19]. Les IA appliquent un protocole dans lequel il y a ce que des développeurs ont décidé d’encoder, ce qui est un problème car leurs références, leur langue, leur culture façonnent l’outil.[20]

Comment faire en sorte que ces violences numériques diminuent ?

Pourquoi les plateformes ne régulent-elles pas davantage le cyberharcèlement ? Le problème est que les pouvoirs publics considèrent que les plateformes ne sont pas des éditeurs de contenu, donc il n’y a pas d’instance qui impose des limites aux réseaux sociaux. Les plateformes ont externalisé la régulation de leurs contenus : ce n’est pas leur problème. La responsabilité de la régulation est remise sur les pouvoirs publics, qui ne sont malheureusement pas armés et de plus la régulation n’est pas dans l’avantage économique des réseaux sociaux. La haine provoque du flux et donc de l’argent. On voit donc que cette régulation a ses limites, c’est le bâton après avoir fait le mal.[21]

Ne faudrait-il pas dès lors un cadre politique qui ne laisse pas les machines décider seules de ce qui est tolérable ou pas ? Mais aussi des plateformes qui assument leur rôle de modération, non pas en le déléguant, mais en l’assumant comme une responsabilité éthique ?

En attendant, l’éducation reste le seul levier efficace pour prévenir ces situations de cyberviolence. Dès lors, comment sensibiliser les élèves à ces enjeux de société ? Comment faire comprendre que le cyberharcèlement va au-delà d’internet et touche de vraies personnes dans la vie réelle ? Les violences qui se déroulent dans l’espace numérique sont des violences qui se passent dans l’espace public, comme si elles se passaient dans la rue. Ensuite, il faut insister sur les effets psychologiques, abordés plus haut.

Il est essentiel d’écouter les élèves, à la maison et à l’école, de s’intéresser à ce qu’ils vivent sur les réseaux sociaux, de les aider à développer un esprit critique. Le code de l’enseignement va dans ce sens quand il précise que l’enseignement obligatoire doit veiller à préparer tous les élèves à être des citoyens responsables, capables de contribuer au développement d’une société démocratique, solidaire, pluraliste.[22] Les jeunes qui s’expriment et communiquent en ligne ne sont pas des entités virtuelles, mais des personnes bien réelles. La question du cyberharcèlement est donc davantage un problème de comportement et d’interactions entre personnes sur Internet, plus qu’un problème lié à l’outil numérique lui-même.[23]

On le perçoit, la prévention et l’éducation au numérique ne doivent pas être seulement adressées aux jeunes, mais il devient urgent que les adultes, quels qu’ils soient dans le monde des adolescents, se forment et s’informent sur les outils numériques, leur créativité et leurs risques, afin d’avoir les ressources nécessaires pour accompagner à une bonne distance les jeunes d’aujourd’hui, ni trop près, au risque d’être intrusifs, ni trop loin, au risque d’être dépassés[24]. L’UFAPEC est particulièrement attentive au soutien des parents, pour leur permettre de poser un cadre clair en famille, en maintenant un dialogue permettant à leur enfant de se sentir reconnu dans ses pratiques numériques.

Pour lutter contre le (cyber)harcèlement, la Fédération Wallonie-Bruxelles a mis en place un programme-cadre[25] pour aider les établissements. Placé sous l’égide de l’Observatoire du Climat scolaire, il offre un accompagnement par un professionnel agréé d’une durée de quatre ans aux écoles qui en font la demande, afin de les rendre autonomes dans ces domaines. La première année scolaire de l'accompagnement est consacrée au diagnostic des actions qu’elle a déjà entreprises et de ses besoins. Elle bénéficie, pour ce faire, de l’aide d’un opérateur agréé dont l'intervention est financée par la FW-B. Une fois le diagnostic effectué, de nouvelles actions sont planifiées et une convention est établie entre l’opérateur et l'école. En contrepartie, ce dernier a accès à des formations spécifiques et à des outils ainsi qu'à des opportunités d'échanger avec d'autres écoles participantes. Certaines actions sont des passages obligés, comme la formation des équipes, la mise en place d’outils de gestion des conflits, l’information des parents et des élèves et la communication continue sur la participation au programme-cadre.[26] Reste à évaluer de manière régulière ce programme-cadre, qui demande beaucoup de temps et d’énergie aux équipes, afin qu’il porte réellement ses fruits au sein d’un maximum d’établissements, qui tous sont noyés par d’autres préoccupations.

Pistes et conclusion

Les harceleurs n’ont pas attendu les IA pour monter des images ou vidéos qui nuisent et humilient. Mais avec l’avènement des IA, ces montages paraissent de plus en plus réalistes. Nous avons vu que les IA peuvent être utilisées comme des alliées pour lutter contre le cyberharcèlement, qu’elles sont indispensables pour modérer certains contenus haineux sur le grandes plateformes, l’intervention humaine ne pouvant pas y parvenir seule. Le hic, c’est que les machines ne savent pas lire entre les lignes pour détecter l’ironie et la haine implicite. Ce qu’il faudrait, c’est un cadre politique qui ne laisse pas la machine et, en amont, les plateformes décider seules de ce qui est acceptable ou pas. Il est urgent de se préoccuper de ce fléau, car le cyberharcèlement, amplifié par les IA, marque les victimes avec des traces souvent indélébiles : troubles sur la santé mentale, aggravation de l’anxiété, décrochage scolaire, choc traumatique, culpabilité, destruction de l’estime de soi…

Les conséquences des cyberviolences montrent à quel point celles-ci touchent à la santé publique et que, avec l’avènement des IA, les élèves ont plus que jamais droit à une solide éducation aux médias (EAM), comme savoir utiliser les réseaux sociaux avec un certain esprit critique pour éviter les manipulations, apprendre des notions de cybersécurité minimale (renforcer les paramètres de confidentialité de ses comptes, être sensibilisé au transfert d’images et au consentement, etc.), être sensibilisé à un climat de respect et d’inclusion et à l’apprentissage du vivre ensemble, le cyberharcèlement lui étant intimement lié. Car nous observons que, bien que le cyberharcèlement soit punissable, les dépôts de plainte et les procès ne mettent généralement et malheureusement pas fin aux faits.

Pour l’UFAPEC, cette éducation aux médias doit commencer tôt, dès l’école primaire, pour apprendre la bienveillance en ligne, le respect de soi et des autres et donner à chacun les bons réflexes avant qu’un problème n’arrive. Mais on est en droit de se demander si cette éducation aux médias est un rôle réservé à l’institution scolaire. Le cyberharcèlement, amplifié par les IA, est un enjeu majeur qui demande une mobilisation collective et des moyens consentis à cet effet. L’éducation aux médias est appelée à se réinventer et à soutenir les parents dans leur rôle d’éducateurs pour qu’ils puissent accompagner leur enfant, en s’informant et en s’intéressant à ses pratiques.

Bénédicte Loriers