Miguel Benasayag : « On est en train d’éclipser la singularité du vivant »

Avec les nouvelles technologies et l’IA, l’homme augmenté devient une réalité. En quoi cela altère-t-il ce qui fait notre humanité?

Miguel Benasayag. Quand j’ai publié le Cerveau augmenté, j’ai observé un mécanisme typique de l’évolution à travers la simplification du cerveau par délégation des fonctions à sens unique. Un chauffeur de taxi qui conduit avec le GPS depuis le début a les noyaux sous corticaux, qui cartographient le temps et l’espace, atrophiés. La communauté scientifique le sait et dit: «et alors?». Toute le monde considère que l’on vit un pivot évolutif, que c’est comme ça, que le cerveau sera hybridé et connecté à des réseaux de machines, que l’homme de demain ne pourra pas faire certaines tâches en autonomie…

Et quel est le problème ?

Je dis qu’on est en train d’éclipser tout ce qui fait la singularité du vivant. D’un point de vue biologique et neurobiologique, mon travail a été de montrer les différences irréductibles avec la machine. Depuis Socrate, on vit avec une articulation logique qui veut qu’un humain qui pense bien pense le bien. On a vite touché les limites de cette imbrication en nous apercevant qu’on pouvait penser très bien et penser le mal. Face à l’échec de la rationalité humaine, l’idée est de s’appuyer sur une machine non défaillante, non soumise aux pulsions, à la subjectivité, aux aléas sociaux, etc. Or, l’ignorance de la singularité de la culture et du cerveau est dangereuse car si l’on traite un cerveau à travers le prisme de la machine, on le formate. C’est quelque chose de beaucoup plus fort qu’une idéologie totalitaire. Ces technologies sont en réalité très colonisatrices. Elles réduisent le champ biologique à une somme de mécanismes qui seraient modifiables et augmentables, oubliant que le vivant incorpore au coeur même de ses processus une négativité irréductible. Le vivant réactualise le passé, se projette dans un avenir imprédictible, se fonde sur des failles, du décalage, et non sur le présent permanent comme la machine. Le devenir est une dimension de tout être vivant que l’on ne peut ni programmer ni modéliser de façon complète. Ce qui constitue notre singularité repose donc sur le non calculable, le non prédictible, la contingence. Ce qui est ignoré c’est que la nature de l’humain est structuré sur des bases différentes de la technologie. On peut modéliser l’ADN et les chromosomes, mais le problème vient de ce qu’on prend le modèle pour la chose.

Vous refusez l’idée qu’à partir d’un profil-type du fonctionnement de l’être humain, on puisse réduire l’humain à ce fonctionnement…

En effet. La cartographie du cerveau montre des mécanismes de fonctionnement très fins. Elle permet de savoir quels neurones s’activent quand on pense le numéro 5, ce qui a donné lieu à des expériences d’Hitachi, il y a vingt ans déjà, où avec des capteurs d’hémoglobine non intrusifs, un bras robotique était capable de faire un geste imaginé par un cobaye. La question est de savoir si ce que l’on a modélisé épuise ou non la chose. Certains disent: «pas encore». Moi je dis que le fonctionnement est modélisable mais l’existence, c’est-à-dire le sous-bassement de ce qui est modélisable, ne l’est pas.

Yann Le Cun, «scientifique en chef» de l’IA chez Facebook, estime que le meilleur ordinateur du monde équivaut au cerveau d’un enfant de deux ans…

Quantitativement, c’est peut-être le cas. Mais là n’est pas l’essentiel. L’important est que l’on se dise que c’est la même chose qualitativement. Laurent Alexandre estime qu’il faut désormais des neuro-éducateurs ou des neuro-pédagogues. Comme dit Jean-Pierre Changeux, on est en train d’abolir la barrière entre le mental et le neural. On peut voir aujourd’hui les circuits qui produisent la subjectivité, les concepts. En modélisant la pensée avec des algorithmes, on réduit la pensée à ces circuits neuronaux, et on aboutit à une barbarie totale.

Vous considérez que Laurent Alexandre, cofondateur de Doctissimo et essayiste à succès, est dangereux. Pourquoi? 

C’est le nouveau messie de sociétés déboussolées qui apporte à la fois la prophétie et la solution. Face à un chaos écologique qui se calcule en dizaines d’années, il nous dit avec des procédés rhétoriques - qui comporte à la fois la question et la réponse - qu’on va vivre mille ans. C’est un homme de réseaux et de conquête qui ne se présente pas comme un transhumaniste mais porte le combat de la Singularity University. Il rétablit une nouvelle promesse pour dire par exemple que ceux qui s’opposent à Monsanto sont comme les médecins qui pratiquaient des saignées au XVIIIe siècle. Il défend la sélection des embryons au nom d’une vision eugéniste des cerveaux supérieurs, des winners. Il dit ce que les gens qui ont très peur ont envie d’entendre. Ce dont on a besoin de comprendre de façon urgente, c’est que notre société est un ensemble : on a besoin des forts en maths et des cancres car c’est précisément ce qui permet de penser la complexité. La pensée eugéniste ne conçoit que l’excellence. Mais elle s’oppose au b.a.-ba de la vie.

Qu’est-ce qui distingue l’homme de la machine? L’IA peut semble-t-il, écrire un livre ou peindre une toile. Mais elle ne peut pas exercer un esprit critique…

Je peux faire en sorte que la machine mélange des peintures mais ce n’est que l’œil humain, dans sa subjectivité et son esprit critique, qui trouvera cela beau. On peut aussi créer une machine pour faire un roman mais le vivant est toujours fondé sur une faille qui est le décalage avec soi-même. J’ai rencontré en Italie à la fin 2018 une chercheuse américaine qui a constaté que les circuits profonds de la mémoire à long terme s’atrophient à travers la lecture sur écran et le zapping. Le stockage mémoriel passe par la production de protéines qui, par un mécanisme du type prion, peut modifier même l’ADN. Donc, à travers une lecture qui ne mobilise que des circuits rapides et frontaux, le cerveau se modifie physiologiquement et anatomiquement. On peut toujours affirmer qu’on n’a plus besoin de cette structuration profonde compte-tenu des capacités de stockage informatique. Mais cela reviendrait à se tromper sur le rôle fondamental de la mémoire, qu'il faut comprendre comme une dynamique de permanence dans le changement. La mémoire est le seul phénomène d’identité. Sans production physique et subjective de mémoire, nous n'avons plus accès qu'à une dimension encyclopédique objective et on élimine l’identité même de l’individu. Une mémoire saine est une mémoire qui sélectionne, modifie et oublie. Cela relève de notre propre singularité.

Mais ne peut-on pas soutenir que ce n’est pas très important de ne pas mémoriser une chose si l’on connaît la porte d’entrée pour y accéder ? Après tout, si on sait où c’est stocké sur un disque dur…

Si l’on veut une mémoire immédiate et un accès encyclopédique, oui. Mais, alors, la sélection de l’information par chacun d’entre nous est éliminée au nom d’une hiérarchisation extérieure. Et, encore une fois, nous ne sommes que mémoire.

On voit se développer des phénomènes de hacking qui perturbent les organisations les plus parfaites s’appuyant sur les algorithmes. Est-ce un nouveau type de résistance ?

Je vois en effet ces phénomènes comme autant de formes de résistance devant des affirmations totalitaires. Mais de façon plus soft, face aux grandes modifications du rapport au monde de l’humain, nous avons besoin de mécanismes de régulation. Ces mécanismes nécessitent d’avoir des gens qui pensent et des grains de sable dans le système. 

Le big data a été au cœur de l’élection d’Emmanuel Macron pour cibler certaines catégories de votants. Est-ce une interférence de la machine dans le devenir politique d’un pays ?

On a eu dans les années 1970 le groupe des dix, avec Jacques Attali, Edgar Morin, Michel Rocard… Les experts prétendaient orienter le choix de l’électeur en prenant en charge la complexité techno-scientifique du monde. Aujourd’hui, les sachants sont au service du big data. Il y a une délégation des décisions stratégiques pour nos sociétés qui se fait naturellement vers la machine… J’ai fait un livre sur la médecine et l’abus de pouvoirs où l’on voyait comment la technologie devenait un foyer de valeurs en soi. Sur Paris et sa banlieue, avoir un enfant trisomique est rarissime. Comme les examens pré-nataux permettent de savoir très tôt s’il y a un risque de malformation, on déclenche l’avortement. Il n’y a eu aucune décision politique et eugéniste en ce sens, mais comme la technique a rendu possible l’examen pré-natal très poussé, c’est ce qui est. Tout ce que la machine rend possible devient inévitablement obligatoire à très court terme. 

Avec l’intelligence artificielle, plusieurs études pointent des risques sur l’emploi qui sont perçus comme tel par les Français. Là aussi, la machine aura-t-elle forcément le dernier mot?

Laurent Alexandre fait une comparaison entre WhatsApp et Renault, en montrant que la valeur est inversement proportionnelle au nombre de salariés. Ce que ne comprend pas Laurent Alexandre, qui est comme une machine, c’est que Renault est comme un organisme vivant, avec des gens qui travaillent, qui luttent… Le vivant n’est pas évaluable de façon linéaire car ce temps-là ne mesure pas les cycles. Il prend des tours et des détours pour vivre. Si on aliène sa vie à une jauge extérieure qui ne correspond pas à son mode de fonctionnement, on ne vit pas sa vie. Pour un corps, gagner du temps n’existe pas. Vivre avec le temps de la montre signifie sortir de soi, ne pas habiter son existence.

Le transhumanisme prépare selon vous un monde d’«apartheid». Pourquoi?

D’un point de vue biologique, toute espèce au sein de laquelle des individus prennent trop d’importance par rapport à l’espèce elle-même se met en danger. Le transhumanisme est une chimère de l’individu qui croit qu’il peut être immortel car il pense que la vie se réduit à la sienne. Un monde dans lequel on ne vit que dans un entre soi et où l’on coupe ses liens avec le vivant est un monde d’apartheid. Admettons que l’on vive 200 ou 300 ans. Du point de vue des ressources naturelles, c’est une horreur. Il faudrait qu’une immense majorité vive très mal pour que quelques-uns vivent très longtemps.

Que signifie le phénomène des Gilets jaunes en termes d’organisation politique, de rejet des élites et des médias…?

L’indépendance des États-Unis a commencé par une taxe excessive sur le thé. C’est de l’excès de l’élite que naissent les grands mouvements de contestation. Les Gilets jaunes avancent une négativité, un non, qui s’opposent au pur fonctionnement, face à un président qui représente l’excès de modélisation par-delà de la vie. Macron fonctionne dans un système hors-sol à lui. N’importe quel élu sait qu’il doit composer avec le vivant et qu’on ne gère pas un pays en faisant des modèles dans son cabinet. Mais Macron a tellement rempli les failles avec de la com qu’il a fini par tomber dans le trou. Après, il faut voir comment raviver la démocratie. Les grandes révoltes horizontales, de la base, ont beaucoup de mal à trouver une organisation qui les continue. Il reste donc un point d’interrogation : que va devenir ce mouvement si tout est capitalisé par le Rassemblement national ou un nouveau mouvement Cinq étoiles, sachant que la haine est le meilleur anxiolytique du monde? C’est ce qui m’inquiète un peu. La tendance mondiale est de remplacer les vieilles institutions universalistes par des positions relativistes qui s’expriment en nationalismes, régionalismes, courants identitaires, etc.