L’IA et les réseaux sociaux sont-ils toxiques pour la démocratie ?

« Comment les réseaux sociaux et leurs algorithmes sont-ils programmés pour nous enfermer dans ce qu’on pense déjà ? Une IA peut-elle remplacer un journaliste local ? L’IA et les réseaux sociaux sont-ils définitivement toxiques pour notre démocratie, ou les jeunes peuvent-ils en faire un outil citoyen ? » Voici quelques-unes des questions que des collégiens de St-Herblain ont eu l’occasion de poser à un panel d’experts lors d’une table ronde organisée par la Halle 6 Ouest de Nantes Université dans le cadre du festival Chtiiing.

Étaient présents : Adrien Denèle, journaliste scientifique indépendant, William Letrône, chercheur post-doctoral au CNRS en droit de la cybersécurité et de la protection des données, Patricia Serrano Alvarado, docteur en informatique, et Julien Kostrèche, directeur de Ouest Médialab. Les échanges étaient animés par Colin de la Higuera, professeur à l’université de Nantes, titulaire de la Chaire UNESCO RELIA.

Voici quelques-unes des questions que des collégiens de St-Herblain, inscrits au programme CHAMS (Classe à Horaires Aménagés en Mathématiques et en Sciences) en partenariat avec la Chaire Unesco RELIA, ont eu l’occasion de poser.

Comment l’IA et les réseaux capturent notre attention et transforment notre accès à l’info ?

Patricia Serrano Alvarado a expliqué que TikTok, Instagram et les autres réseaux sociaux utilisent les données des comportements des utilisateurs (temps passé, bouton « j’aime » activé, partages de posts…) et influencent directement le contenu regardé. « Si vous passez du temps sur du contenu joyeux, vous allez en avoir. S’il est triste, il sera triste et ainsi de suite… ». Colin de la Higuera a ajouté que, grâce aux données personnelles récoltées, les réseaux sociaux pouvaient même nous faire changer d’opinion. 

Leurs algorithmes filtrent en effet nos fils d’actualité et envoient des contenus biaisés qui nous enferment dans des bulles, c’est-à-dire des groupes de pensées qui diminuent l’esprit critique de chacun en l’absence d’opposition ou de contradiction. Cela peut avoir des conséquences sur les opinions, notamment au moment des élections. Amos Kandori, élève ingénieur à Nantes Université, a témoigné d’une expérience menée avec le chercheur Colin de la Higuera et expliqué que les interactions sur les réseaux sociaux « peuvent nous amener soit à adopter le point de vue de l’autre soit à rester sur son point de vue. Maintenant, si l’algorithme est fait de sorte que l’on soit influencé, alors on peut rejoindre un avis qui n’est pas initialement le nôtre ». 

Que pourrait changer l’accès aux réseaux sociaux aux moins de 15 ans ?

William Letrône a expliqué que le gouvernement veut mettre en place des lois pour protéger les moins de 15 ans des réseaux sociaux. Avec, par exemple, une application gouvernementale qui demande les données personnelles afin de vérifier l’âge pour entrer sur un réseau social. Créer un compte supposerait un accord des parents pour les moins de 15 ans ou certains réseaux leur seraient interdits même si les parents sont d’accord pour que leurs enfants puissent y aller. Le problème, c’est qu’en partageant les données personnelles, les utilisateurs sont plus susceptibles d’être victimes de fuite de données. 

Colin de la Higuera a évoqué l’idée que les jeunes sont plus exposés à la désinformation : « Quand ils utilisent l’IA pour rédiger du contenu pour un exposé, par exemple, ils ont l’impression que ChatGPT ne se trompe jamais. Il faut avoir la fameuse pensée critique… Pour l’instant on y est pas. Alors est ce qu’ils l’auront en interdisant les réseaux au moins de quinze ans ? » s’est interrogé le chercheur. Quelles pourraient être les options ? William Letrône a répondu que la solution résiderait dans « l’enseignement, la pédagogie, apprendre à l’école, ce qu’on appelle la littératie informationnelle. Savoir croiser les sources, il faudrait que ce soit un réflexe pour les plus jeunes. Apprendre à le faire très tôt serait une alternative à l’interdiction des réseaux sociaux pour les moins de 15 ans ».

L’IA, un assistant et non un remplaçant du journalisme

L’IA va-t-elle remplacer les journalistes, en particulier dans les médias locaux ? La réponse est clairement non pour Julien Kostrèche. L’IA ne peut pas remplacer le travail de terrain, indispensable aux médias pour faire remonter des sujets et vérifier l’information.

« L’IA est à la fois un remède et un poison », a résumé le directeur de Ouest Médialab. « Un poison au sens où elle concurrence et court-circuite les médias, réutilisant leurs contenus (souvent sans leur autorisation), facilite la production et la diffusion de fausses informations. Un remède néanmoins car elle peut faire gagner du temps sur des tâches fastidieuses et devenir un outil puissant pour mener l’enquête ». Voir à ce sujet le travail d’enquête de Mediacités sur les gaz cancérigènes dans la vallée de la chimie près de Lyon.  

Des biais culturels et politiques

Pour les experts, l’IA n’est pas neutre. Pour William Letrône par exemple, une IA entraînée par des données chinoises pourrait avoir du mal à répondre sur des sujets sensibles ou critiques sur la politique en Chine. Par ailleurs, l’IA choisit ses sources d’information. Julien Kostrèche cite par exemple l’enquête de la Revue des médias  qui montre que le quotidien Le Monde est très largement cité par ChatGPT en raison du partenariat conclu entre OpenAI et le journal.

L’IA générative a aussi développé un certain nombre de biais, qui se sont créés lors de la phase d’entraînement des modèles de langages, a expliqué Patricia Serrano Alvarado. En effet, si elle “mange” majoritairement du contenu américain ou chinois, l’IA manquera de perspective pour les autres cultures. 

Colin de la Higuera a évoqué « le piège de pensée ». Par exemple, après avoir débattu avec une vraie personne, un individu continue de questionner les arguments abordés, pour en trouver des nouveaux, ce qui permet à la pensée critique de se développer. Cependant, sur internet, le débat n’est plus. Avec les groupes de pensée, il n’y a plus cette opposition et il se retrouve à penser tous la même chose, ce qui peut représenter un danger pour la démocratie.

L’IA est un outil, pas un ami.

C’est ce que les intervenants ont rappelé aux collégiens. « L’IA est un assistant, il n’est là que pour assister sur des sujets que l’on maîtrise », selon Julien Kostrèche. Cependant, pour bien l’utiliser, il faut dépasser le phénomène d’auto-satisfaction et sans cesse remettre en question l’IA. 

Patricia Serrano Alvarado a conclu avec ces mots : « l’IA n’est pas un ami, c’est un outil ». Dans un contexte social fragilisé (notamment après la crise du Covid), beaucoup de personnes cherchent du lien sur des applications d’IA, ce qui est dangereux : être tout le temps d’accord avec l’utilisateur ne crée pas de lien social. « Vous devez vous référer aux adultes, aux professionnels qui sont compétents sur différents sujets » a conseillé l’universitaire aux collégiens, en ajoutant : « Cependant, l’IA peut être utilisée pour développer vos compétences en lui demandant d’expliquer des exercices, ou de vous “challenger” ».