Des nuages de désinformation alimentés par l'IA ternissent la confiance du public après la fusillade de l'ICE à Minneapolis

Les événements récents à Minneapolis ont mis en lumière comment les outils d'intelligence artificielle sont utilisés pour générer et diffuser du contenu trompeur en ligne, contribuant à la confusion et érodant la confiance dans l'information publique.

Après la fusillade mortelle de Renee Nicole Good par un agent de l'ICE, diverses images générées par l'IA et mal représentées sont apparues sur les réseaux sociaux. Celles-ci comprenaient des représentations inexactes de l'agent sans masque, des individus mal identifiés et des tatouages fabriqués, aucun d'eux ne correspondant aux conclusions officielles.

Des enquêteurs amateurs en ligne ont utilisé des logiciels d'IA dans des tentatives de révéler l'identité de l'agent masqué. Ces efforts ont produit plusieurs images contradictoires, toutes montrées par la suite comme incorrectes lorsque les autorités ont identifié l'agent comme Jonathan Ross en utilisant des procédures d'enquête standard.

Parallèlement aux images manipulées, une série de vidéos générées par l'IA a gagné en traction en ligne. Ces vidéos dépeignaient des scénarios fictifs impliquant des agents de l'ICE, tels que des confrontations avec le personnel scolaire ou des artistes, rendant plus difficile pour les spectateurs de distinguer entre des événements réels et du contenu mis en scène.

Ce que montrent les chiffres

• PeakMetrics a analysé 2,57 millions de publications sur les réseaux sociaux concernant les opérations de l'ICE à Minneapolis
• Environ 33 % de ces publications ont été identifiées comme générées par des bots
• L'analyse a couvert des plateformes telles que X, Reddit et Instagram

Des recherches ont indiqué que les systèmes d'IA capables de produire des explications trompeuses peuvent être plus convaincants que ceux qui fournissent des informations précises. Cela augmente le risque que la désinformation soit acceptée comme un fait, sapant davantage la confiance dans les rapports vérifiés.

Des experts ont déclaré que le développement rapide de l'IA, y compris la technologie des deepfakes, accélère le déclin de la confiance en ligne. En conséquence, il est devenu de plus en plus difficile pour le public de distinguer entre le contenu authentique et fabriqué.

Un consortium mondial de chercheurs et de spécialistes, y compris la lauréate du prix Nobel Maria Ressa et des universitaires de plusieurs universités, a averti du potentiel des réseaux de bots autonomes alimentés par l'IA à coordonner des campagnes de désinformation. Ces préoccupations ont été soulevées dans le contexte des prochaines élections et d'autres événements majeurs.

Les analystes ont observé que les réseaux de bots et le contenu généré par l'IA jouent un rôle de plus en plus important dans la formation de la perception publique pendant des cycles d'actualités rapides. Cette tendance a rendu la propagation de la désinformation plus efficace et répandue, en particulier lors d'incidents très médiatisés.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.