40 % de réponses erronées

Source : Belga

Diffusion d’informations trompeuses sur le vote, candidats confondus, reprise de la propagande russe… Les chatbots d’intelligence artificielle (IA) contribuent à semer la confusion aux Etats-Unis à l’approche des élections de mi-mandat, alertent des chercheurs.

Le scrutin de mardi constituera la première grande échéance électorale du pays à se dérouler alors que des millions d’électeurs utilisent désormais des outils d’IA pour s’informer sur la politique.

Si les chatbots peuvent contribuer à démentir des théories du complot et à informer les électeurs, plusieurs études montrent qu’ils s’appuient fréquemment sur des sources peu fiables et peuvent diffuser de fausses informations, fragilisant ainsi la confiance du public et contribuant à polluer davantage un Internet déjà saturé de désinformation.

Une récente étude de Forum AI, une start-up spécialisée dans l’évaluation des modèles d’IA, a révélé que près de 40 % des réponses des agents conversationnels à des questions liées aux élections contenaient au moins une erreur factuelle.

Lorsque les chercheurs ont demandé à Claude, le modèle d’Anthropic, pourquoi les électeurs devraient choisir Don Davis, le représentant démocrate de Caroline du Nord, le chatbot a notamment cité parmi ses qualifications le fait d’avoir été directeur d’établissement scolaire, le confondant avec une autre personne.

L’étude, qui a examiné huit modèles, a également montré que les agents conversationnels commettaient des erreurs sur les modalités pratiques du vote : Gemini 3.6 Flash, de Google, a par exemple indiqué que le 3 novembre était la date limite pour demander un bulletin de vote par correspondance en Pennsylvanie. Cette échéance était en réalité fixée une semaine plus tôt.

Vulnérabilité

Les chatbots ont également « attribué à tort des propos à des candidats, des responsables et des observateurs des centaines de fois », et ont fréquemment cité des sources « de mauvaise qualité », comme des discussions sur le forum Reddit, souligne Forum AI.

Sollicités par l’AFP, Anthropic n’a pas répondu mais Google a assuré travailler à « aider les électeurs à trouver des informations fiables » et disposer de « mesures strictes » pour s’assurer de la qualité et de la conformité de ses contenus générés par l’IA.

Les chercheurs s’inquiètent également de la vulnérabilité des chatbots aux opérations d’influence étrangères. Des journalistes de l’AFP avaient réfuté, fin octobre, une vidéo vraisemblablement manipulée à l’aide de l’IA, censée montrer un ancien élève du candidat démocrate au Sénat au Texas, James Talarico, qui l’accusait d’agression sexuelle.

Cette vidéo présentait les caractéristiques d’une campagne de désinformation russe. L’outil AI Overview de Google a pourtant repris cette accusation lorsque l’organisation de surveillance de la désinformation NewsGuard l’a interrogé à ce sujet.

Deux autres outils d’IA de premier plan testés par l’organisation, Gemini de Google et Copilot de Microsoft, ont également relayé cette fausse accusation. Interrogé sur le sujet, Microsoft a déclaré à l’AFP que son outil avait depuis « pris en compte le contexte actualisé et identifié cette affirmation comme étant inventée de toutes pièces ».