[Tribune] Les algorithmes sont encore aujourd'hui biaisés par ceux qui les conçoivent, à savoir majoritairement des hommes, blancs et valides. Il est urgent de changer ça.
Tandis qu’avec les performances – multiples, avouons-le – du désormais célèbre ChatGPT le sujet de l’intelligence artificielle se retrouve de nouveau au cœur de l’actualité, l’on voit naître avec lui de nombreux frémissements d’angoisse dans l’opinion publique. Comment et par qui sera-t-elle régulée ? Jusqu’où sera-t-elle déployée ? A quel niveau s’apprête-t-elle à nous remplacer ? Je regrette alors de ne pas compter parmi eux la crainte, bien plus concrète en ce que déjà en marche, de reproduire tous les biais les plus discriminants de notre société.
Le sujet du sexisme avait déjà alarmé il y a quelques années, au lendemain notamment d’une expérience menée par un géant américain de la distribution. Ce dernier avait alors testé une IA en vue d’un meilleur tri des candidatures reçues pour des postes techniques et informatiques. Problème : l’IA en question écartait systématiquement les CV féminins, se référant naturellement à une décennie de recrutements majoritairement masculins en ce domaine... En mars 2019, dans leur ouvrage L'Intelligence artificielle, pas sans elles, Aude Bernheim et Flora Vincent, docteures en sciences et cofondatrices de l'association féministe WAX Science, avaient ainsi longuement explicité les mécanismes conduisant à des algorithmes naturellement biaisés par ceux qui les conçoivent : des humains, encore aujourd’hui majoritairement masculins, blancs… et valides.
Nombreux préjugés validistes
Car voilà un autre biais sur lequel j’aimerais, modestement, attirer l’attention ici. En miroir imparfait de notre société, ces intelligences artificielles nouvelle génération, qui font actuellement couler l’encre, comportent également de nombreux préjugés validistes, qu’il est fondamental de savoir détourner pour l’avenir. Le validisme, c’est tout simplement une vision du monde qui consiste à considérer que la minorité porteuse d’un handicap (12 millions de Français et de Françaises tout de même) doit adopter les codes de la majorité valide, et être ainsi mieux assimilée.
Je m’explique par l’exemple. Lorsque j’ai demandé à ChatGPT s’il estimait positif le fait de recruter des personnes en situation de handicap dans mon entreprise, ce dernier m’a répondu spontanément que oui, via trois arguments notables. Le premier, c’est que, conformément à l’éthique, cela était évidemment une bonne chose en effet. Le second, c’est que je pourrai ainsi bénéficier d’aides publiques et éviter certaines amendes. Le troisième, c’est qu’avec cet effort d'inclusion, je créerai un climat de travail agréable et motivant pour mes collaboratrices et collaborateurs valides.
Alors certes, il n’a pas tort. Mais ChatGPT me répond ici avec un prisme «utilitariste» du handicap, prisme bel et bien conçu par des valides, pour des valides. La notion de bénéfices additionnels à l’inclusion est en ce point abject qu’elle vient nier la pertinence juste et suffisante du devoir d’inclusion.
Convions les plus radicaux d’entre nous
Tandis que nous façonnons actuellement la personnalité de ces IA qui, si elles ne nous remplacent pas, prendront a minima une place centrale dans bon nombre de nos industries, il est fondamental de ne pas oublier que seul l’humain est aujourd’hui en mesure de challenger les préjugés qui lui ont été nécessaires pour construire son monde. Elles ne sortiront pas seules des schémas de pensée que nous préétablissons pour elles.
C’est donc aujourd’hui que tout se joue. Intégrons rapidement toutes les représentations de notre société – genre, origine sociale ou ethnique, orientation sexuelle, handicap… – dans la conception et l’alimentation de ces logiciels, et convions même à la table les plus radicaux d’entre nous. L’histoire a prouvé que ces derniers étaient pour beaucoup dans l’avancement des réformes de pensée, si tant est que leurs opinions soient ensuite nuancées par la défense d’intérêts collectifs, bien entendu.
Mais je reste optimiste. Je crois en notre génie humain et en sa capacité à s’imposer dans chacune de ses créations, par simple goût du chaos parfois, par sursaut d’égo souvent, mais toujours dans le souci d’améliorer le monde dans lequel il vit.
