« Je suis comme Saint-Thomas, je ne crois que ce que je vois. » Longtemps, ce dicton célèbre a fait consensus. Aujourd’hui pourtant, il est remis en question par l’intelligence artificielle générative, qui permet de créer de toutes pièces des images. « C’est un changement de paradigme. Auparavant, ce qu’on voyait de nos yeux avait caractère d’évidence, aujourd’hui, on ne peut plus croire tout ce qu’on voit. L’évidence n’a plus rien d’évidente », explique Jean-Gabriel Ganascia, président du comité d’éthique du CNRS et spécialiste de l’intelligence artificielle. Avec l’avènement des outils d’IA générative, la manipulation d’images s’est démocratisée. Faire mentir des photos est devenu un jeu d’enfants. D’autant qu’il est difficile de démêler le vrai du faux, les solutions techniques n’étant pas toujours capables de déceler un trucage. Désormais, tout le monde peut générer un hypertrucage (une notion que Jean-Gabriel Ganascia préfère à celle de deepfake) bluffant de réalisme. Il suffit d’une photo publiée en ligne, d’un logiciel et le tour est joué. Nolan, 13 ans, est en classe de quatrième en région parisienne. Avec d’autres collégiens, il s’amuse à générer des contenus amusants à partir de leurs photos. Mais cette utilisation ludique peut aussi évoluer en de plus graves dérives, à l’image de la fabrication de deepfakes à contenu pornographique ou diffamatoire.
Une sensibilisation essentielle
Le 12 mars dernier, un fait divers a défrayé la chronique dans la Manche. Une douzaine de collégiennes scolarisées dans le département ont été victimes de deepfakes à caractère sexuel. Ces derniers mois, la manipulation d’image à des fins de malveillance, de vengeance et de cyberharcèlement a explosé. Les conséquences pour les victimes peuvent être désastreuses et aller jusqu’à provoquer un suicide. Axelle Desaint est la directrice d’Internet Sans Crainte, le programme national d’éducation des jeunes au numérique. En mars dernier, à l’occasion du Safer Internet Day, elle organisait à la Sorbonne à Paris une grande séance de sensibilisation auprès de 500 élèves de troisième et de seconde. L’occasion de constater que le sujet est une grande source d’angoisse pour les adolescents : « Quand on a abordé le sujet des deep nudes (des images truquées de corps dénudés), il y a eu un silence religieux dans la salle, on sent que cela parle déjà énormément aux jeunes. » Pour la coordinatrice de Safer Internet France, parler du sujet dans le cadre familial et sensibiliser les jeunes aux dangers du numérique reste essentielle pour contrer les dérives. Celle qui anime régulièrement des ateliers de sensibilisation au sujet dans les lycées se réjouit d’ailleurs du retour des séances d’éducation sexuelle et affective à l’école : « J’espère que, dans ces séances, les enjeux d’intimité, de sexualité, de rapport affectif dans l’espace numérique vont être abordés, car les adolescents sont très seuls face à ces sujets. »
Ne jamais répondre
Avec les progrès de la technologie, ce sont désormais parfois des « brouteurs », ces sinistres arnaqueurs en lignes, qui génèrent des deep nudes à partir d’images captées sur les réseaux sociaux avant de les envoyer aux victimes en les menaçant de les dévoiler à tout leur entourage. Dès lors, comment les victimes de sextorsion, le terme générique pour les extorsions basés sur la sexualité, doivent réagir ? : « C’est un peu contre-intuitif, mais il ne faut pas répondre, c’est le même principe que les spams. Répondre, c’est valider son numéro ou son e-mail. Si vous ne répondez pas, l’image ne sera jamais partagée. La bonne réponse est donc d’ignorer et de signaler aux autorités pour permettre éventuellement de repérer une adresse IP et de remonter vers un réseau d’arnaqueurs », détaille Axelle Desaint. Et dans le cas où le harceleur n’est pas un brouteur, mais bien un camarade de classe ou une connaissance ? Il convient alors d’effectuer un signalement à son établissement scolaire ou même de porter plainte auprès de la police : « Le cyberharcèlement est un délit passible de lourdes amendes, voire de peines de prison. On ne joue pas avec l’identité de l’autre », termine Axelle Desaint.
