Le pape François a récemment été la cible de fake news qui ont été largement partagées sur les réseaux sociaux et ont suscité l’émoi. Des images ont ainsi été publiées montrant le pontife au bras d’une jeune femme en robe de mariée dans une église.
Les internautes ont rapidement relayé cette information en s’interrogeant sur l’éventuel mariage du Pape. Cependant, l’enquête menée par l’AFP Factuel a révélé que les photos étaient en réalité des créations générées par une intelligence artificielle (IA) appelée Midjourney.
Il ne s’agit pas de la première fois que Midjourney est impliquée dans la création de contenus trompeurs. En mars dernier, des photos montrant Emmanuel Macron en éboueur ont également été partagées sur les réseaux sociaux. Les images avaient également été créées par cette technologie de synthèse d’images.
D’autres logiciels similaires, tels que DALL-E et Stable Diffusion, peuvent également être utilisés pour créer des images très réalistes, contribuant ainsi à augmenter la désinformation.
Ces images générées grâce à l’IA peuvent facilement être utilisées pour tromper les utilisateurs des réseaux sociaux. Dans de nombreux cas, ces images sont utilisées pour diffuser des fausses informations et des rumeurs sur les personnalités publiques ou politiques. Les internautes, qui peuvent être crédules face à ces photos très réalistes, peuvent rapidement propager ces mensonges en les partageant sur différents canaux en ligne.
Les conséquences de la désinformation basée sur l’IA peuvent avoir des impacts considérables et même menacer la sécurité nationale. Les gouvernements doivent donc être très vigilants et prévoir des réglementations pour lutter contre cette menace grandissante. Par ailleurs, les éditeurs de médias sociaux et les entreprises de technologie doivent également agir pour éviter que ces contenus trompeurs ne se répandent. Des outils de détection ont ainsi été conçus pour identifier les photos et contenus générés par l’IA.
L’utilisation de l’IA pour créer des photos et des contenus trompeurs est un phénomène croissant sur les réseaux sociaux. Il est donc crucial d’être vigilant et critique en vérifiant la source des informations avant de les partager. Les gouvernements, les entreprises et les utilisateurs doivent travailler ensemble pour lutter contre la désinformation créée par l’IA.