C’est fou, cette manière avec laquelle, en quelques décennies, nous avons créé un monde qui nous mime et nous attire. L’intelligence artificielle, notre plus récente créature, nous invite à entrer dans ses imitations et améliorations de la nôtre, chaque jour plus riches. Les smartphones et autres écrans liés à internet et aux réseaux sociaux, mais aussi l’ensemble de l’intelligence embarquée dans tous les objets que nous côtoyons – voitures, maisons, robots – reformatent nos vies, nos désirs et nos besoins, nos aspirations et les limites que nous nous fixons. En médecine, tout est en passe de changer avec l’informatisation des dossiers, le croisement des bases de données, le Quantified self et, à tous les étages, les algorithmes qui, de plus en plus, organisent les décisions.
Mais voilà : nous sommes un peu inquiets. C’est pour exprimer ce souci face au pouvoir de l’intelligence artificielle qu’un groupe de spécialistes et universitaires de l’informatique a lancé la semaine passée un appel mondial. Parmi les signataires, une brochette de stars du domaine : Stephan Hawking, Elon Musk (fondateur de Tesla), Eric Horvitz (directeur de la recherche de Microsoft) ou Yann LeCun (directeur de l’intelligence officielle chez Facebook). Leur premier constat est pratique : la concurrence de robots industriels intelligents entraîne un chômage massif et un accroissement des inégalités. Mais plus généralement, les signataires s’inquiètent de la place «d’agents intelligents» dans la société. «Les progrès en intelligence artificielle sont continus et son impact sur la société va s’accroître» affirment-ils. D’autant que cette intelligence est très rentable. Miser sur elle permet de constituer des fortunes colossales en quelques années. Il devient en tout cas urgent, écrivent les signataires de cet appel, de s’assurer que les progrès de l’intelligence artificielle soient bénéfiques : «elle doit faire ce que nous voulons qu’elle fasse». En résumé, la passivité n’est pas le bon choix face à cette entité de plus en plus autonome : si les humains ne s’intéressent pas suffisamment à l’intelligence artificielle, elle pourrait rapidement «les amener là où ils ne souhaitent pas aller».
Sur un autre front de trouble à propos de l’humain, il y a la biologie. Une étonnante expérience vient par exemple d’être rapportée par le New Scientist :1 la transplantation, au stade embryonnaire, de cellules gliales humaines dans le cerveau de souris. Certaines de ces cellules se sont différenciées en astrocytes, qui coordonnent les signaux électriques des synapses. Or, les astrocytes humains «ont 10 à 20 fois la taille de ceux des souris et portent 100 fois plus de prolongements jouant ce rôle de coordination». Malgré cela, le cerveau des souris les a parfaitement intégrés. Non seulement il est fonctionnel, mais les souris ainsi transformées montrent une mémoire quatre fois plus efficace que celle des souris contrôles. Améliorer un cerveau animal semble donc possible. Pourquoi pas un cerveau humain, en augmentant le nombre de ses cellules par exemple ? Les manipulations de ce type ne font que commencer.
Pour comprendre ce qui arrive, peut-être est-il bien de faire un peu d’anthropologie. La civilisation occidentale, celle dont la technologie se mondialise, est l’unique à considérer le monde des non-humains (animaux, plantes, air, objets, mais aussi technologies, etc.) de haut, sur un mode de séparation surplombante. Elle seule a conçu une humanité enclose dans son espèce, avec un dedans humain et un dehors non humain, qu’elle a appelé «nature». Dans toutes les autres manières de vivre qu’ont observées les ethnologues à travers le monde, les humains ne sont pas séparés du reste, il n’y a pas la nature d’une part et la culture de l’autre. Les entités non humaines y sont traitées comme «des partenaires sociaux» avec lesquels il s’agit de composer de multiples manières.
Le grand anthropologue Philippe Descola, successeur de Claude Lévy-Strauss au Collège de France, estime que, pour toute société, l’organisation et la vie quotidienne découlent de la manière de régler les formes de continuités et de discontinuités entre les humains et les non-humains.2 Et de ces formes – des ontologies fondatrices, selon ses mots – il n’en existe que quatre. Le naturalisme d’abord, auquel appartient le modèle occidental, et qui est défini par «la discontinuité morale entre humains et non-humains (les humains seuls ont un esprit) et la continuité physique entre tous les êtres (les lois de la nature sont valables pour tous)». L’animisme, ensuite, qui repose sur une «continuité des intériorités entre humains et non-humains et une discontinuité des dispositions physiques. Le totémisme, qui voit «une continuité morale et physique à l’intérieur d’un ensemble d’humains et de non-humains, appelé groupe totémique», mais «une discontinuité à une autre échelle». Et enfin l’analogisme, un système dans lequel «les humains pensent que tous les éléments du monde, physiques comme moraux, sont différents, discontinus, qu’ils constituent autant de singularités». Mais où ces singularités sont structurées en chaînes de correspondances symboliques.
De toutes ces ontologies, probablement est-ce la nôtre, la naturaliste, qui se montre la moins tenable. Car non seulement les non-humains vivent plus que jamais en communauté avec nous et nous influencent, mais ils portent nos mythes – la génétique comme mythe d’origine, les neurosciences comme mythe du futur, par exemple – et, du coup, exercent envers nous une action symbolique. Nous sommes hybridés avec eux, physiquement et intérieurement. Notre monde est composé d’hommes et de biologie, de réseaux sociaux et de réseaux techniques qu’il n’est plus possible d’isoler. Sans compter que la science nous oblige à nous décentrer : l’éthologie montre qu’il existe chez les animaux des états d’intériorité de même nature que ceux que nous éprouvons. La réflexion scientifique sur les exoplanètes et le multivers nous force à imaginer d’autres intériorités. Nous ne surplombons plus l’environnement, il s’impose à nous autant que nous à lui. Pour revenir à la classification de Descola, par la force du progrès, nous sommes de moins en moins naturalistes et de plus en plus analogistes. C’est-à-dire emmêlés dans des systèmes complexes de correspondances symboliques et physiques.
C’est probablement grâce à la séparation morale de la nature et des humains que la science a pu se développer. Mais apparaît désormais un malaise. En créant des technologies, et particulièrement des machines intelligentes, les humains leur offrent une forme d’autonomie. En même temps qu’elle prolonge nos capacités, la technologie capte une partie de ce qui fait notre propre. Nous sommes toujours «légèrement dépassés» par ce que nous créons et manipulons, pour employer des mots de Bruno Latour.3 Un programmeur ne maîtrise «pas tout à fait» le programme qu’il élabore ou un technicien la finalité de sa technique. De la même manière qu’un auteur ne maîtrise jamais totalement le sens de son texte. Mais créer nous rend libres : c’est en créant que nous nous révélons à nous-mêmes. Tout créateur, écrit Latour, apprend «de ce qu’il fabrique ce en quoi il consiste, gagnant son autonomie au contact de ses créatures». Un problème nouveau apparaît quand la créature devient capable d’autant d’autonomie que son créateur. Nous y sommes presque. A moins que le créateur ne réagisse par un surcroît de liberté.