David Colon : « Nos sociétés démocratiques sont menacées par l’avènement de l’IA »

FACTUEL. La désinformation générée par l’IA est-elle une grande menace pour le monde et les processus démocratiques en 2024 ?

David COLON. Oui bien sûr et le forum qui a classé l’IA comme l’une des plus grandes menaces dans les deux prochaines années va dans ce sens. L’IA affecte toutes les étapes de production de l’information. Les acteurs propagandistes s’appuient sur des outils de plus en plus sophistiqués. Et il est certain que les multiples possibilités qu’offre l’IA facilitent le travail de ces manipulateurs de l’information.

L’IA est d’abord utilisée pour détecter automatiquement les failles des systèmes d’information, de notre personnalité, de notre psychologie, de nos émotions. Ce sont des outils qui portent à son paroxysme la persuasion individualisée de masse. Les systèmes permettent d’acheminer des contenus sur mesure pour des individus susceptibles d’adopter l’attitude recherchée par le propagandiste. Mais l’IA représente réellement une menace parce que le rythme de progression des outils est exponentiel. Entre la version 3 et 4 de ChatGPT, il y a un monde.

Quand vous créez artificiellement des divisions là où il n’y en a pas, vous semez la discorde et vous fragilisez la confiance des électeurs dans le processus démocratique. Les ingérences étrangères sont massives et de nature à porter atteinte à la sincérité d’un scrutin. 

Dans un rapport du 8 janvier, l'entrerpise américaine News Guard a dévoilé l’existence de 634 sites d’actualité non fiables générés par l’IA et couvrant une quinzaine de langues. Faut-il craindre des ingérences électorales ?

Il existe déjà des ingérences massives dans des processus électoraux. En Slovaquie par exemple, où dans un faux contenu on y entend le chef de file du parti centriste et pro-européen Slovaquie progressiste, Michal Simecka, discuter avec une célèbre journaliste de la façon dont « le vote rom » va être « manipulé » pour favoriser sa candidature. Un deepfake audio...