Un modèle pour comprendre la désinformation générée par les IA

La société Newsguard révélait cette semaine dans un nouveau rapport qu’elle avait identifié 49 sites d’information et d’actualités rédigés principalement par des services similaires à ChatGPT, et ce, dans sept langues différente. Pour ceux qui s’intéressent aux fermes de contenus, à l’astroturfing et plus globalement à la manipulation via les réseaux sociaux, ce n’est évidemment pas une découverte. Dans un article de recherche intitulé « Les professionnels de l’intelligence économique face aux nouvelles technologies de falsification », rédigé en avril 2022, c’est à dire bien avant la hype ChatGPT, j’analysais les opportunités que ces services offraient vraisemblablement déjà grâce à GPT3, et comment celles-ci ne manqueraient pas de s’intensifier dans les mois à venir.

Voici le modèle d’industrialisation que je proposais et dont vous trouverez l’explication ci-dessous :

1. Le client définit sa demande.
2. Le prestataire (agence de relations-presse, de communication, hacker,…) reçoit la demande.
3. Il précise les axes de la campagne (textuellement ou vocalement) et demande au modèle de langage, seul ou en mode d’action hybride avec des opérateurs humains de :
4. générer les différents types de faux contenus pertinents.
5. générer les outils informatiques et vecteurs qui permettront leur diffusion.
6. Les contenus sont délivrés automatiquement, manuellement ou en mode hybride par les outils vers différents types de médias et supports, certains originaux (réseaux sociaux, plateformes de diffusion de vidéos) et d’autres créés pour l’occasion (sites web, blogs, groupes sur les réseaux sociaux,…).
7. Les contenus sont collectés par le dispositif de veille de l’organisation cible.
8. Les professionnels de l’intelligence économique traitent l’information seuls ou aidés d’outils de traitement spécifiques. Ils en vérifient l’authenticité et préviennent les acteurs concernés de l’organisation (Direction générale, Direction informatique, cellule de crise,…) en cas d’attaque informationnelle.

Cet article paraîtra prochainement dans la Revue internationale d’intelligence économique (R2IE).