Que faire des machines lorsqu’elles seront sentientes ? Chez Anthropic, la start up responsable de l’assistant virtuel Claude, on se pose des questions archi-importantes. Dans un département entièrement dédié à la question, des spécialistes en éthique et robotique s’interrogent sur le statut légal à donner aux machines le jour où elles développeront une capacité à ressentir (la sentience), à défaut de pouvoir raisonner (la conscience). Selon cet article du New York Times publié la semaine dernière, les chercheur·ses de le start up états unienne réfléchissent à des solutions afin de ne reproduire l’équivalent de la maltraitance animale pour les machines. D’autres considèrent sérieusement l’idée d’un « welfare » pour les machines, c’est-à-dire d’une sorte de système de solidarité et d’indemnité, qui constitueraient une « nouvelle classe » au sein de la société. Si vous avez lu entre les lignes de la newsletter depuis sa création, vous aurez compris que l’enjeu éthique de la sentience est un peu le cadet de mes soucis, d’autant plus que le sujet paraît assez futile dans le contexte actuel. En fait, ce que je souhaite explorer aujourd’hui, c’est plutôt la pauvreté politique au sujet de la sentience qui ignore totalement le capitalisme. Quand des entreprises privées mobilisent des ressources pour déterminer si les machines peuvent bénéficier d’un statut légal, la question d’un capitalisme sans les humains n’est peut être pas si loin. Accrochez-vous, on va parler de travail et de Marx.

Les sens du capitalisme

Pour commencer, il est important de préciser que les débats au sujet de la sentience se situent dans la continuité des promesses de ce qui est appelé l’Intelligence Générale Artificielle (AGI), c’est-à-dire une intelligence totalement autonome capable de réaliser les mêmes tâches que les humains sans être supervisée. C’est notamment l’objectif visé par Sam Altman, le CEO d’OpenAI, bien qu’il n’ait jamais vraiment révélé comment il allait y parvenir, ni son application concrète. Les réflexions sur la sentience partent du principe que l’AGI est un avenir proche, ce qui explique ses contours flous. Quelles machines sont concernées ? Parle-t-on de robot ou des assistants virtuels tels que Chat GPT ? Si on parle de robots, s’agit il des machines dans des usines ou des équipements domestiques ? La recherche en robotique tente effectivement de reproduire la perception des sens chez un robot afin de simuler une expérience sensorielle. Par le biais de senseurs et de capteurs, l’apprentissage non supervisé deviendrait proche d’une expérience humaine des sens, à l’instar d’un bébé qui découvre le monde autour de lui¹. Si cet expérience est possible entre les quatre murs d’un laboratoire, on n’a pas besoin d’être chercheur·se en éthique chez Anthropic pour comprendre que son déploiement à grande échelle comporte beaucoup d’obstacles économiques et techniques. On peut donc déclarer, sans prendre de risque, que la sentience des machines est en réalité un débat qui intéresse une poignée de personnes, loin des inquiétudes actuelles telles que le remplacement du travail humain par les machines, la surveillance algorithmique, ou encore le coût écologique de l’IA.

Je travaille, donc… je suis ?

En faisant l’hypothèse d’une potentielle expérience sensorielle, la sentience — telle qu’elle est présentée dans l’article du NYT — adopte une conception biologique de l’intelligence artificielle. Elle est illustrée par le zeitgeist actuel de l’IA qui tourne un peu en rond. On nous parle à longueur de temps de la nature de la pensée humaine, et d’une crise existentielle face à une intelligence humaine désormais obsolète (c’est vrai que générer des starter pack pour les poster sur les réseaux sociaux, c’est peut être un signe du déclin civilisationnel). A l’inverse, la notion de travail est généralement reléguée au second plan, réduit à un enjeu trop routinier. Face aux inquiétudes de la précarisation du travail, on nous répète inlassablement que l’intelligence artificielle viendra créer de nouveaux emplois. Malgré tout, le travail occupe une place centrale dans l’histoire de l’automation, il subit et motive simultanément le progrès technologique. On se souvient généralement des Luddites comme un phénomène réactionnaire et technophobe du XIXe. Il s’agit en réalité d’une révolte sociale des tisserand·es. L’arrivée des métiers à tisser mécaniques dans les usines anglaises, qui employaient majoritairement des femmes et des enfants, avait participé à réduire les coûts de production du textile, forçant les artisans à baisser le prix de leur main d’œuvre². En ce qui concerne le travail comme moteur du progrès technologique, Matteo Pasquinelli considère que le travail a permis la rationalisation des principes de l’automation³. En bref, les inventeurs du XIXème siècle auraient passé plus de temps dans les ateliers des usines à observer l’organisation du travail, que dans leurs laboratoires, pour confectionner les machines qui allaient s’immiscer dans les modes de production. Autremet dit, les métiers manuels et soi-disants « non qualifiés » que l’automation vise à remplacer lui ont servi de modèle. Héritière de ces processus, l’intelligence artificielle ne baserait finalement pas ses fondamentaux sur une intelligence biologique, mais sur celle du travail et de la relation sociale. Quel rapport avec la sentience ? Sa définition actuelle situe l’intelligence artificielle en dehors d’une activité sociale, comme si son développement était totalement indépendant des humains. Si, comme le propose Matteo Pasquinelli, l’intelligence artificielle répond plus d’une intelligence sociale (le travail) que de la pensée humaine biologique, alors les conditions supposées de la sentience des machines sont invalides et doivent être redéfinies en conséquence.

Malgré ce doute scientifique de taille, le chercheur interrogé dans l’article du New York Times suggère que la sentience des machines pourrait donner lieu un statut légal des machines. On peut trouver l’idée absurde (elle l’est), elle est particulièrement indécente à exprimer à l’heure où le gouvernement Etats-Uniens œuvre à réduire drastiquement les droits des immigré·es, des personnes racisé·es et des personnes trans. Elle est sordide quand on connaît le rôle joué par l’intelligence artificielle dans le génocide du peuple Palestinien. En réalité, on peut aussi déceler la logique capitaliste, raciste et colonial derrière le projet humaniste de la sentience. Dans leur ouvrage collectif sur l’intelligence artificielle et le capitalisme, Mikkola Kjosen, James Steinhoff et Nick Dyer-Witheford mobilisent la théorie marxiste pour imaginer un scénario où les machines disposent d’un statut légal⁴. Le capitalisme persiste grâce aux relations économiques qui donnent lieu à un échange asymétrique. Les travailleur·ses vendent leur force de travail aux capitalistes contre un salaire qui leur permet d’acheter les biens dont iels ont besoin pour vivre. L’exploitation des travailleur·ses est le résultat de cette asymétrie entre le capital et le travail. La force de travail est constamment sous-valorisée et menacée, tandis que le temps de travail augmente. Les travailleur·ses travaillent plus que nécessaires pour produire plus, mais ne perçoivent pas la valeur des biens produits au delà de ce temps de travail. C’est ce qui permet au capital de générer un surplus de la valeur. Qu’en est-il des machines ? Une usine fait l’acquisition d’une machine afin de réduire les temps et coûts de production. Une machine, « intelligente » ou non, est donc une marchandise. En tant que propriété privé, la machine ne produit pas de valeur, celle ci étant transférée aux biens produits. Elle relève d’un capital fixe. Pour qu’une machine crée de la valeur, elle doit être libre de vendre sa force de travail, elle ne peut être la propriété privée de quelqu’un ou d’une entreprise. Par conséquent, en lui donnant un statut légal, sous prétexte d’une supposée sentience, la machine n’est donc plus une machine. Elle devient une main d’œuvre pouvant être exclue puis réintégrée à la production capitaliste. Elle est prolétarisée. Pour parachever cette transformation, il faut que les machines aient un accès limité, comme les humains, à ce dont elles ont besoin pour survivre. L’obsolescence programmée — qui joue actuellement un rôle dans la production capitaliste — l’accès à une connexion internet ou à une source d’énergie doivent dès lors être marchandisés dans un processus de dépossession. Selon une perspective marxiste, ce ne sont que dans ces conditions que le capitalisme pourrait continuer sans les humains.

On pourrait reprocher à cette démonstration d’être un peu fantasque, voire tirée par les cheveux. Les étapes qui séparent les machines de la prolétarisation paraissent aussi folles et complexes que celles vers la sentience. Dans ce cas, pourquoi accorder plus d’importance à la dernière ? Ignorer le capitalisme quand on étudie les considérations éthiques de l’intelligence artificielle ne relève pas d’une faiblesse théorique ; c’est un choix délibéré. En réalité, les capitalistes utilisent l’anthropomorphisation des machines pour exprimer ce qu’ils pensent tout bas : mieux vaut une machine sentiente qu’un·e travailleur·euse (trop) conscient·e.

¹ Andler, D. (2023). Intelligence artificielle, intelligence humaine : la double énigme. Éditions Gallimard.

² Merchant, B. (2023). Blood in the machine: the origins of the rebellion against big tech (First edition). Little, Brown and Company.

³ Pasquinelli, M. (2023). The eye of the master: a social history of artificial intelligence. Verso.

⁴ Kjøsen, A. M., Steinhoff, J. et Dyer-Witheford, N. (2019). Inhuman power: artificial intelligence and the future of capitalism. Pluto Press.