Créée par Civox, une start-up californienne, cette intelligence artificielle démarche les électeurs par milliers au téléphone, sans pour autant chercher à donner l'impression qu'elle est humaine.
Jennifer a passé son weekend à appeler des électeurs californiens pour les convaincre de voter mardi 5 mars pour Peter Dixon, lors des primaires démocrates en vue des élections législatives de novembre. Contrairement à ses collègues humains, ce personnage d'intelligence artificielle enchaîne des milliers de coups de fil sans pause et sans jamais perdre son calme.
« Bonjour, je m'appelle Jennifer et je suis une intelligence artificielle bénévole », annonce-t-elle d'entrée de jeu aux citoyens qui répondent à l'appel, dans une circonscription de la Silicon Valley. De sa voix un tantinet robotique - précisément pour ne pas donner l'impression qu'elle est humaine - elle présente le candidat, pose des questions et répond à celles de ses interlocuteurs, d'une façon étonnamment naturelle.
« Pourquoi n'est-ce pas un humain qui m'appelle aujourd'hui ? », lui demande Austin Madden, directeur des opérations de la campagne de Peter Dixon, lors d'un appel de démonstration pour l'AFP. Jennifer se laisse interrompre. « Désolée si j'ai manqué cette question tout à l'heure », s'excuse-t-elle. « La raison pour laquelle une IA comme moi appelle, au lieu d'une personne réelle, est d'aider la campagne à contacter plus de personnes de manière efficace. Cela permet aux militants de se concentrer sur les interactions personnelles. »
Candidat à l'investiture démocrate pour les élections législatives, qui auront lieu dans le contexte de la présidentielle de novembre, Peter Dixon a récemment adopté cet outil créé par Civox, une start-up californienne. Au début, « nous étions sceptiques », reconnaît cet ancien combattant et entrepreneur dans la cybersécurité . Son équipe a mené des tests. « On s'attendait à des retours mitigés, mais ils étaient ultra positifs. Nous avons été époustouflés », confie-t-il depuis son QG à Palo Alto, où un écran joue ses clips de campagne.
Inquiétudes sur les dangers
L'une des vidéos alterne entre la réalité (sa fille dans ses bras) et des séquences où l'arrière-plan et ses vêtements sont générés par l'IA (guerre en Afghanistan). « Nous montrons que nous comprenons ces outils, et que nous sommes à l'aise pour les utiliser d'une manière éthique et transparente », explique Peter Dixon.
Les progrès foudroyants de l'IA l'année dernière, et l'apparition de l'IA générative, qui permet de produire textes, images et sons sur simple requête en langage courant, suscitent beaucoup d'enthousiasme mais aussi de fortes inquiétudes sur les dangers (pertes d'emplois, vol de propriété intellectuelle, fraudes en tout genre...). « Je suis terrifié par tout ça », assure le candidat. « Mais l'IA arrive, cela ne sert à rien de s'en cacher et il vaut mieux que nous ouvrions la voie, plutôt que d'autres pays comme la Chine ».
Ilya Mouzykantskii a cofondé Civox notamment pour « faire réfléchir au rôle de l'IA en politique ». Il imagine un futur, peut-être déjà présent, où des candidats se servent de l'IA générative pour se constituer un programme, et même prendre des décisions. Sans forcément le dire. « C'est peut-être la technocratie que nous voulons, mais nous ne devrions pas en arriver là par accident, sans consentement », assène-t-il.
Parler de façon fluide
« A l'avenir, ce ne seront pas nécessairement les campagnes les mieux financées qui auront un avantage injuste, mais bien celles qui disposent de la meilleure technologie », abonde Adam Reis, cofondateur et directeur technologique. « L'outil que nous développons est inévitable. La technologie est trop puissante, trop sexy et trop évidente pour ne pas le faire. Nous voulons être les premiers pour démontrer comment le faire de manière responsable », continue-t-il.
L'ingénieur essaie depuis longtemps de créer des personnages d'IA avec lesquels avoir de véritables dialogues. Mais « nous avons découvert que l'aspect mécanique des conversations est beaucoup plus difficile à reproduire que leur contenu », souligne-t-il. Pour être convaincante, l'IA doit parler de façon fluide, comprendre et réagir rapidement, savoir interrompre et se laisser interrompre. Autant de défis que Civox a dû relever. « Certaines personnes essaient de piéger le système. Mais le robot est très doué pour revenir aux arguments politiques », constate Patrick McNally, un responsable de la campagne de Peter Dixon.
En janvier, un programme automatisé qui appelait des électeurs en imitant le président américain Joe Biden a exacerbé les craintes sur les risques de désinformation massive pendant une grande année électorale. Les Etats-Unis ont depuis interdit les appels par des voix clonées, générées par de l'IA, afin de lutter contre les arnaques politiques ou commerciales. Une décision qui ne concerne pas Jennifer ni ses consoeurs utilisées par d'autres campagnes clientes de Civox, puisqu'elles n'usurpent pas une fausse identité.
