Après le suicide de leur fils dans l'Etat américain du Kentucky, les parents d'Elijah Heacock, 16 ans, ont découvert dans son téléphone un SMS de menace réclamant 3.000 dollars pour supprimer une photo de lui nu générée par intelligence artificielle.
Comme des milliers de mineurs américains, l'adolescent a été victime d'une arnaque à la sextorsion, une forme de chantage qui prolifère avec le développement d'outils d'intelligence artificielle (IA) permettant de déshabiller numériquement une personne ou de créer des photos sexualisées - des moyens souvent utilisés contre des célébrités, mais désormais de plus en plus employés contre des enfants.
"Les personnes qui en ont après nos enfants sont bien organisées", estime John Burnett, le père d'Elijah Heacock. "Ils sont bien financés et impitoyables. Ils n'ont pas besoin que la photo soit réelle, ils peuvent générer ce qu'ils veulent puis l'utiliser pour faire chanter nos enfants."
La mort de son fils a déclenché une enquête sur le chantage sexuel alimenté par l'IA.
Le FBI a récemment constaté une "augmentation effroyable" des cas de sextorsion visant les mineurs aux Etats-Unis, les victimes étant généralement des garçons entre 14 et 17 ans. Cette menace a entraîné "un nombre alarmant" de suicides, selon la police fédérale.
Marché florissant
Dans un récent sondage, Thorn, une ONG dédiée à la prévention de l'exploitation des enfants en ligne, a révélé que 6% des adolescents américains avaient été directement victimes de photos ou vidéos de nus générées par IA.
"Les auteurs n'ont plus besoin de trouver des photos intimes d'enfants, parce que des images suffisamment convaincantes pour être nuisibles - parfois encore plus nuisibles que de vraies images - peuvent être créées en utilisant l'IA générative", a déclaré dans un rapport publié l'an dernier l'organisation britannique Internet Watch Foundation (IWF), qui lutte contre les contenus d'exploitation sexuelle en ligne.
L'IWF a identifié un "guide du pédophile" qui encourage explicitement à utiliser des sites de déshabillage pour générer du contenu dans le but de faire chanter les enfants. L'auteur du guide affirme avoir ainsi réussi à prendre au piège plusieurs jeunes filles.
Ces outils sont un marché florissant: selon Indicator, une publication américaine enquêtant sur les fraudes numériques, ils pourraient générer ensemble jusqu'à 36 millions de dollars par an.
La plupart d'entre eux dépendent des infrastructures technologiques de Google, Amazon ou Cloudflare pour fonctionner, et restent rentables malgré les mesures de répression des plateformes technologiques et des régulateurs, affirme Indicator.
Une lutte impossible
La menace ne concerne pas que les Etats-Unis: un sondage récent de l'ONG Save the Children a démontré qu'un jeune sur cinq en Espagne avait été victime de fausses photos dénudées.
Des procureurs espagnols ont indiqué cette année qu'ils enquêtaient sur trois mineurs de la ville de Puertollano (centre), qui auraient visé leurs camarades de classe et leurs professeurs avec du contenu pornographique généré par IA qu'ils distribuaient dans leur école.
Au Royaume-Uni, le gouvernement a adopté cette année une loi criminalisant la création de "deepfakes" à caractère sexuellement explicite, les auteurs risquant jusqu'à deux ans de prison.
Un texte similaire a été ratifié en mai par le président américain Donald Trump.
Le groupe Meta (Facebook, Instagram, WhatsApp) a également annoncé avoir engagé une action en justice contre une entreprise hongkongaise derrière l'application de déshabillage Crush AI, qui, selon lui, contournerait ses règles pour poster des publicités sur ses plateformes.
Mais malgré de telles mesures, les chercheurs estiment que ces applications utilisant l'IA sont résilientes.
"De nouveaux outils de déshabillage continuent de surgir", souligne Indicator, qui les qualifie d'"adversaires malveillants et tenaces".
Accueil
Envoyer à un ami
Version imprimable
