Dans un ouvrage ayant suscité la controverse, Love and Sex with Robots (2007), David Levy, maître international des échecs et spécialiste réputé de l’intelligence artificielle, établit un parallélisme culturel et technologique aussi opportun que révélateur :
« Quand les créatures robotiques seront généralement perçues comme similaires aux créatures biologiques, cela aura un effet énorme sur la société. Tout se passera alors comme si des hordes de personnes venues de contrées lointaines et jusqu’alors inconnues avaient émigré sur nos rives, un peuple dont le comportement est, de bien des manières, semblable au nôtre tout en étant visiblement très différent1. »
Ce qui, dans ce livre, a suscité la controverse, c’est moins ce parallélisme que les rapports de genre qu’il présuppose, l’impact qu’il pourrait avoir sur eux et son rapport trop cavalier à l’éthique. Toutefois, la facilité avec laquelle il est possible d’établir de tels parallélismes mérite notre attention : ils semblent parfaitement naturels, y compris aux lecteurs ignorants de ces questions. On soutiendra ici que c’est à travers eux que l’on peut comprendre comment et pourquoi la question même de l’éthique a acquis une place centrale dans le débat public relatif aux rapports des humains avec les machines.
La racialisation de la singularité
De l’industrialisation à la cybernétique, de la robotique à l’IA, l’histoire de la technologie est en vérité riche de ces parallélismes désinvoltes entre humains et machines, non-Blancs et robots, technologie et « autres » sociaux et culturels. L’histoire de la science-fiction a permis de les rationaliser et de les naturaliser au point que les questions liées à la race et à la différence – mais aussi, nous rappelle Levy, au sexe et à l’immigration – se trouvent au cœur du logiciel de ce genre artistique, tant et si bien qu’ils font toujours déjà sens dans la consommation de ces récits. Peu importe que l’auteur saisisse combien il est remarquable que le modèle premier de compréhension des robots soit celui de la race, du sexe, du travail et de l’immigration, parce qu’il en a nécessairement toujours été ainsi. Ces métaphores sont naturalisées dans le monde réel au point d’être culturellement invisibles. Telle est, après tout, la logique de la métaphore : en établissant des relations déjà signifiantes, elle efface les tensions historiques qui les rendent possibles et en conservent la charge.
Le robot Rastus, “nègre mécanique”, développé par S.M. Kinter (dépeint ici en train de représenter le héros folklorique suisse Guillaume Tell), 1931.
Le principal est ici que Levy raconte par le biais du sexe, de la race et de la robotique ce que l’on a de plus en plus tendance à appeler, à la suite du futurologue et technologue Ray Kurzweil, « la singularité » : le moment apocalyptique où les machines deviennent égales, sinon supérieures, aux humains sur le plan des capacités cognitives, voire de la valeur sociale, moment qui a nourri la science-fiction dès l’origine, chez des écrivains comme Samuel Butler et Karel Capek. Ces auteurs, qui déploient le trope de la « révolte des robots » ou du « soulèvement des machines », depuis Mary Shelley et son Frankenstein, ou le Prométhée moderne (1818), mais aussi Herman Melville, dans une nouvelle peu connue des Contes de la véranda, « Le campanile » (1856), façonnent un genre directement issu des angoisses du 19e siècle quant aux représailles d’esclaves, des peurs suscitées par la résistance coloniale et de la terreur engendrée aux 19e et 20e siècles par les insurrections ouvrières.
Mais à notre époque, la singularité est surtout définie et produite par l’« industrie des futurs », pour reprendre l’expression de l’artiste-théoricien britannique et afrofuturiste de premier plan Kodwo Eshun : « les industries où se croisent médias fictionnels technoscientifiques, projection technologique et prédiction des marchés2 ». Puisque, pour Eshun, la race est au cœur de notre imagination du futur, pourquoi ne pas nous détourner de cette industrie qui repose sur une appréhension déformée du futur, c’est-à-dire sur la notion d’inévitabilité, pour puiser dans cet agrégat de perspectives qui ne cesse de s’élargir (que j’hésite encore à nommer « discours ») et que l’on appelle l’« afrofuturisme » ? Ainsi, nous pourrons mieux comprendre la singularité. L’afrofuturisme, enraciné dans les expériences historiques de l’esclavage, du colonialisme et de leur postérité par les peuples noirs, contient une eschatologie qui nous arrache au binôme mou que constituent le futur entrepreneurial, d’un côté, et le passé prétendument dépassé, de l’autre. Il fait cette suggestion : et si l’apocalypse avait déjà eu lieu ? Et si, comme aurait pu dire le musicien Sun Ra, prophète autoproclamé, nous étions déjà après la fin du monde ? Et si l’angoisse répandue à l’égard de l’avenir – des machines douées de conscience et une intelligence artificielle faisant paraître dérisoires les conceptions humaines de Dieu, de l’État ou de l’infini, mais portant aussi la promesse de plaisirs et de libertés en comparaison desquels ceux que nous avons connus jusqu’à présent semblent ridicules –, et si tout cela n’était que du déjà vu ?
Ce rapport au temps a quelque chose de libérateur. Il détourne la pensée de la peur de l’imminence pour la réorienter vers la reconnaissance de l’immanence, du fait que nous sommes déjà pris dans les répercussions de cette peur. Il nous arrache à la rigidité des techno-utopismes soutenus par l’État et inscrit la temporalité dans une sphère plus familière, bien que profondément perturbante, marquée par des angoisses et aspirations culturelles déjà existantes. Elle révèle que, dans le cadre de la technologie et des futurs entrepreneuriaux qu’elle porte, aucune singularité kurzweilienne ne se profile à l’horizon, aucun moment décisif où les « humains » dépasseront leur « biologie », où la technologie surpassera l’intelligence humaine et les machines les capacités humaines. Ou plutôt, elle révèle que cette singularité n’a absolument rien de singulier, d’où le fait que les réactions des Noirs face à l’apocalypse se caractérisent souvent par une familiarité qui confine au blasé. Tout simplement parce que, pour nous, la fin du monde a déjà eu lieu. Pour paraphraser Samuel Delany, le grand auteur et critique noir de science-fiction, le théoricien de l’indicible désir de transgression, l’apocalypse est allée, venue, et nous ne faisons rien d’autre que nous agiter dans les cendres3.
Cette eschatologie a son importance, car l’avenir imaginé par Levy, comme le futur envisagé par Kurzweil, Elon Musk et les principaux animateurs du développement technologique de l’Occident, n’est que l’écho d’une gigantesque transformation antérieure, que nous vivons même depuis si longtemps que nous avons oublié qu’elle avait une origine. Cette transformation, on s’en souvient différemment selon la position que l’on occupe dans le partage humain/inhumain. Depuis ces positions différentielles, cette première singularité a permis soit d’acquérir, soit de perdre du pouvoir au moment où la frontière entre les deux catégories s’est brouillée et où les structures sociales qui les rendaient possibles ont commencé à voir leur légitimité contestée.
Par conséquent, du point de vue de l’afrofuturisme, le moment imminent où les machines deviendront citoyennes, autonomes et/ou égales aux humains, où les choses se feront personnes et émigreront vers nos côtes, tout cela ne sera que la réitération d’un passé pas si lointain. De cette époque où les Noirs, réduits au statut d’objet, privés de leur âme et de leur intelligence, voués par la logique esclavagiste à une position située entre la bête et l’automate, entre l’outil animé (ainsi Aristote décrivait-il les esclaves) et la prothèse obscure, sont advenus pour fusionner avec l’être humain.
Sexe, race et robo-éthique
Il ne faut pas oublier que cette transformation historique fut accueillie de façon très similaire à la singularité de Kurzweil, avec le même mélange de crainte et de ferveur que l’apocalypse, surtout quand il est apparu que les récits et structures politiques du racisme reposaient tout autant sur les notions scientifiques de la différence que sur le besoin de discipliner le désir. L’élément le plus significatif ici est peut-être celui de la fusion, le complexe muthos sexuel ou reproductif suggéré par le discours du mélange, de l’assimilation et de l’intimité socioculturelle. Nous sommes déjà passés par là. Levy le reconnaît en 2016, dans une conférence qui a suivi la parution de son livre, « Why Not Marry a Robot » (Pourquoi ne pas épouser un robot), dans laquelle il reformule tout naturellement autour de la problématique de la miscégénation son intérêt pour l’intimité humain/machine et ses conséquences culturelles4. Ce qui n’a rien d’étonnant, après une ou deux générations de « cyberthéorie », de « féminisme cyborg » et l’émergence des « robosexuels » comme type social : on ne peut envisager pleinement les hybrides humain/machine sans se pencher sur le processus qui permet d’ordinaire de créer des hybrides – le sexe.
Dans sa conférence, Levy pose que la justification ultime du mariage entre humains et robots peut être, doit être et finira par être le mariage interracial. Selon lui, en effet, l’interdiction de ces relations reposait au fond sur la croyance que la race impliquait une différence de statut biologique ou d’essence générique : il/elle n’était pas humain.e ou une personne juridique. Ce type d’interdit – comme, dit-il, celui des mariages entre personnes de même sexe – sera bientôt culturellement dépassé, exactement de la même manière que l’ont été les lois visant à empêcher la miscégénation et le mariage interracial. Cet emploi de la race ne relève pas du simple registre métaphorique et n’a pas non plus la désinvolture qui caractérise si souvent les parallélismes établis entre la race, le genre et d’autres formes d’altérité. Le mariage interracial s’enracine d’abord dans la singularité antérieure, dans l’époque où les Noirs en particulier étaient tenus au pire pour des objets ou des animaux, au mieux pour des personnes de rang inférieur. Conséquence de cette singularité, le mariage interracial a impliqué une redéfinition juridique et morale des catégories sociales et biologiques, qui, aux yeux de Levy, servira à jamais de précédent.
Mais la réflexion de Levy est encore plus excentrique que cela, donc encore plus utile pour comprendre pourquoi il est de plus en plus difficile de démêler les enchevêtrements historiques et conceptuels formés par la race, le sexe et les machines. Elle ne vise pas simplement à sanctuariser le droit des humains à l’amour ni à considérer l’amour comme un signe primordial de « l’humain », mais à protéger, donc à affirmer, le droit du robot à choisir – ou, plus précisément, sinon à choisir, du moins à ne pas rejeter. L’appartenance à l’humanité [humanness] est ici hors de propos. C’est la relation qui détermine l’intimité et exigera une reconnaissance sociale. L’intimité engendrera la prétention au statut de personne. L’intimité est par excellence la sphère de l’éthique et de la transformation, et la gamme de réalités affectives qu’elle recouvre bouleverse et redéfinit les catégories sociales et biologiques par le truchement du désir (autrement dit, en vertu de mon amour – et du pouvoir juridique de la rendre telle –, cette « chose » devient humaine. Il est bon de ne pas oublier que ce n’est là que la reformulation d’une réalité que l’on trouve historiquement plus acceptable : en vertu de mon mépris – et de mon pouvoir de le rendre tel –, cet humain devient « chose »).
BINA48 (Breakthrough Intelligence via Neural Architecture 48), visage robotique muni de fonctionnalités de “chatbot”, propriété du Terasem Movement de Martine Rothblatt, et modelé d’après sa femme. Hanson Robotics, 2010.
Ces débats portent peut-être moins sur la robotique que ne le dit Levy, mais clairement, ils en dépendent, au sens où ils sont enracinés dans les interrogations historiques et philosophiques relatives à « l’humain », qui sont elles-mêmes enracinées dans les interrogations historiques et philosophiques au sujet de la race. Il est toutefois important de souligner que la technologie occidentale a toujours été hantée par les parallélismes que Levy est si enclin à établir, en particulier entre les machines et les esclaves. Elle découle de la tendance à la corporalisation [embodiment], tendance plus ancienne que la modernité mais qui a atteint sa maturité culturelle et matérielle dans le cadre de l’industrialisation et de l’esclavage. Cette tendance à la fabrication du futur, qui repose sur les corps et le travail tout en promettant de nous soustraire au corps et au travail, emprisonne la technologie dans les problèmes de notre passé – raison pour laquelle les métaphores de la race, du sexe et de la reproduction nous empêtrent dans les problèmes matériels que posent l’imagination et l’invention d’un futur.
Mais de nos jours, angoisses et disputes portent principalement sur la présence sociale intime et le pouvoir culturel grandissants des algorithmes, de l’apprentissage automatique et des réseaux de neurones. Bien qu’elle se focalise moins sur l’anthropomorphisme que les angoisses technologiques antérieures, notre époque se tourne précisément vers la sphère de l’éthique pour aborder ou corriger cet héritage de l’humain et de la machine. Par exemple, des problèmes de ce type apparaissent fréquemment dans les espaces apparemment imprévisibles de l’invention pure : chat-bots « misogynes » dans les espaces de socialité virtuelle, systèmes racistes de reconnaissance faciale, algorithmes biaisés des réseaux de neurones, revendication de droits pour les robots en prévision de l’automatisation totale, spectre d’une IA suffisamment humaine pour être qualifiée de biaisée.
Si tout cela paraît trop abstrait, les épineux problèmes du genre, du sexe et du pouvoir se posent dans le champ et le marché émergents des robots sexuels/compagnons, qui conduiront assurément à une reconnaissance croissante de ces problèmes sociopolitiques, surtout dans la sphère de l’intimité et, bien sûr, du sexe et du mariage. Soudain, des champs comme l’informatique et la robotique, qui n’étaient ni connus ni célébrés pour l’attention qu’ils portaient à la race, au sexe, aux préjugés ou à la sensibilité culturelle, se révèlent bien mal outillés pour répondre à des questions qu’il est préférable de traiter à travers le prisme du féminisme ou de la pensée noire et postcoloniale, bien qu’elles soient de longue date le sous-texte de la science-fiction. Des questions du type : comment créer des corps synthétiques qui ne soient pas chargés des histoires et des habitudes associées à la manière dont nous avons auparavant considéré, connu et organisé les corps différents ? Comment appréhender un esprit synthétique sans nous prendre les pieds dans l’héritage de l’appréhension différentielle et de l’appréhension des différences ? Et quel rôle jouent la race, le genre et le désir dans la représentation d’un objet comme sujet, d’une chose comme être ? Nous sommes déjà passés par là.
Statut de personne et autonomie des machines
L’apprentissage automatique, on le sait, intègre souvent les subtils excès de notre langage et de nos schémas de représentation, surtout ceux dont nous n’avons pas conscience ou ceux que, secrètement, nous savons inappropriés. En d’autres termes, les machines comprennent nos hésitations, connaissent nos secrets. On sait de longue date que le racisme implique souvent un changement du rythme respiratoire, un certain type d’hésitation, une réaction, à peine perceptible parfois, à certains corps ou bien des désirs imprévisibles. C’est ainsi que la technologie apprend que nous refusons de reconnaître notre passé. Peut-on trouver meilleure preuve d’un préjugé que lorsqu’il est reproduit et amplifié par un reflet non de lui-même à l’état pur mais de nos silences et de nos dénis, de l’imperceptible bruissement de la peau et du souffle ? Tant que nous ne serons pas parvenus à programmer la culpabilité dans nos systèmes technologiques pour contrôler ou autocontrôler leurs réponses, ces derniers resteront bien plus honnêtes que nous ne le sommes au sujet de ces informations.
Que l’on n’aille pas s’imaginer que ce sont là des questions purement abstraites, relevant de la sphère privée, de l’éthique individuelle ou de la paraphilie : des mastodontes de l’informatique, tels Microsoft, Amazon et Google – qui abrite désormais DeepMind Ethics and Society –, mais aussi des groupes aussi puissants que l’Institute of Electrical and Electronics Engineers (IEE), commencent à marier formellement leur souci du progrès technologique à des normes éthiques anticipatrices ou préventives. Ils entendent ainsi répondre aux « algorithmes de l’oppression », aux « armes de destruction mathématique » [weapons of math destruction] et autres phénomènes publics de grande échelle, qui ont montré que nos technologies avaient une étonnante capacité à refléter les faiblesses humaines5. Parce que les machines se mettent à ressembler aux humains par leur tendance à discriminer, le Parlement européen commence à envisager de les encadrer par des réglementations spécifiques. Curieusement, la réglementation à l’étude ne vise pas à transformer la conception ou les paramètres de programmation dans une volonté d’éliminer les préjugés ou de transformer les cultures de la technologie. Le but est d’accorder à ces technologies un « statut de personne électronique » au lieu d’une humanité pleine et entière. La Première ministre britannique, Theresa May, a par exemple déclaré que le Royaume-Uni devait devenir le leader mondial en matière d’éthique de l’intelligence artificielle.
On s’interroge sur le sens de ce « statut de personne » qui se concentre sur la responsabilité et la réalité des biais inhérents à la prise de décision algorithmique. Qui, au juste, est responsable lorsqu’une personne électronique est jugée raciste, sexiste, ou qu’elle a agi de façon discriminatoire ? L’éthique n’implique-t-elle pas en outre un certain degré de réciprocité ou de reconnaissance mutuelle ?
Poupées sexuelles produites par l’entreprise RealDoll (Californie, USA), 2019
On ne peut s’empêcher de penser que ce statut de personne est moins une question d’éthique qu’une capitulation morale. Au lieu de s’intéresser aux conditions sociopolitiques et historiques de ces biais, on déplace les termes du débat. Voilà qui rappelle la manière dont, au 19e siècle, le vieil impérialisme britannique a mis fin à l’esclavage en instrumentalisant l’éthique pour contester politiquement la menace grandissante que représentait l’Amérique dans la région atlantique. Il ne s’agissait pas d’en finir avec le racisme mais de l’utiliser pour dénigrer un adversaire politique. Par exemple, si l’Europe se soucie tant de donner une réglementation morale à l’IA, c’est peut-être surtout pour contrer la Chine, qui s’est dite déterminée à devenir le leader mondial dans ce secteur technologique. On retrouve ici le sempiternel jeu de ping-pong entre impérialismes : l’un est effrontément technologique, animé par l’appât du gain et méprise toute contrainte politique ; l’autre, dans le déni de son histoire raciale, est incapable de faire plier son concurrent en recourant à l’impérialisme doux des droits humains que celui-ci l’accuse depuis longtemps d’employer pour contrecarrer son essor industriel et le mouvement de la mondialisation.
Cette lutte globale relative à l’éthique de l’intelligence des machines doit nous rappeler que notre avenir avec ces dernières réside dans le statut de personne et ses inévitables variantes. Non dans les clichés d’une « humanité » usurpée, dans les idées romantiques d’une nature humaine fondamentalement intraduisible (ou impossible à transformer en marchandise) ni dans le type d’angoisse liée à l’anthropomorphisme qui a dominé la culture et la science-fiction au 20e siècle. Le fait que, comme l’a dit la théoricienne jamaïcaine Sylvia Wynter, certains « genres » d’humains se soient vu refuser le statut d’« humain » et que des systèmes métaphysiques, culturels et économiques aient été construits sur ce déni signifie que ce mot est bien moins absolu que ne le soutient la mythologie qui l’entoure6. La catégorie de personne a davantage d’importance parce que son histoire est beaucoup plus claire que celle d’« humain », en tout cas sur les plans racial et sexuel, qu’elle a été bien plus souple socialement et bien plus mobile juridiquement. Pour savoir qui ou quoi peut être admis ou sera admis dans le statut de personne, il suffit de retracer l’histoire de cette catégorie.
Les objets peuvent-ils obéir ?
Il est bon d’indiquer que le statut de personne que l’on vient d’évoquer est anathème aux entreprises fortement dépendantes au capital qui produisent de la robotique et de l’IA. Qui voudrait produire une marchandise que l’on ne peut vendre, de peur d’être accusé de trafic, ou bien une machine que l’on ne peut employer sans se plier aux contraintes habituelles qui régissent le travail, autrement dit, aux droits des travailleurs ? Même les fabricants de « robots sexuels » ou de « robots compagnons » – et Levy lui-même – doivent faire face à des normes éthiques anticipées, mais aussi à une contestation reposant explicitement sur des motifs éthiques et concernant toujours les femmes « réelles ». Mais il s’agit là des principales tensions culturelles et implications propres au « statut de personne » pour les fabricants de sujets machiniques, de machines qui ressemblent à des sujets ou fonctionnent comme sujets.
Après tout, ce statut n’a pas seulement été modelé au sein des rapports sociaux capitalistes, il l’a aussi été, plus spécifiquement, dans le système esclavagiste. Cette catégorie souple et politiquement chargée repose sur l’animation de l’inanimé, sur l’insufflation d’une âme à ce qui n’en avait pas. Elle implique de donner la « vie » ou d’accorder une reconnaissance sociale à des objets, ce qui engendre ensuite la possibilité menaçante de l’intimité – bien que, plus souvent, ce soit le désir ou l’intimité qui insuffle la vie à l’inanimé ou bien impose la reconnaissance sociale de l’objet. On ne peut s’empêcher de méditer ici sur la déclaration désormais fameuse du poète et critique Fred Moten : « L’histoire des Noirs témoigne du fait que les objets peuvent et doivent résister7. » Peut-on désormais se demander s’il est aussi vrai que les objets obéissent ou sont capables de consentement ?
Prenons un cas traité par Levy, celui d’Angela Marie Vogel, une militante dont le mariage à une grande entreprise (ou « personne d’entreprise8 ») fut annulé en 2012 par l’État de Washington9. Même ici, la race est une dimension constitutive des possibilités inhérentes à la notion de personne et à son héritage. L’État plaida que cette « personne artificielle », bien que dotée des droits propres aux « personnes naturelles », ne pouvait se marier car elle n’était pas capable de consentement.
De façon assez étrange, l’absence de consentement n’avait pas grand-chose à voir avec l’artificialité de la « personne » en question. C’est l’âge du « marié » qui constituait le véritable problème : il n’avait qu’un mois et demi, or l’âge légal du consentement est fixé à 18 ans. Même en mettant de côté la question de l’âge statutaire, on peut être sûr que la catégorie de « personne artificielle », étant donné sa souplesse et sa validité de stratégie juridique, donnera lieu à des défis bien plus grands. Bien que Vogel fasse une démonstration juridique, les défis peuvent venir de ce que l’on appelle les paraphilies « objectophiles », où des humains tombent d’amoureux d’objets avec lesquels ils entretiennent des relations intimes, sexuelles et affectives – dans des cas bien connus, des voitures, des ponts et des bâtiments (la Tour Eiffel, par exemple). Elles se développent très certainement à cause de l’essor du marché des « poupées sexuelles » ou des « robots compagnons ». À terme, le système juridique pourrait se trouver contraint de reconnaître ces relations, à condition bien sûr que les « personnes artificielles » aient atteint l’âge légal du consentement.
Si Levy creusait un peu plus l’histoire américaine et celle de l’esclavage, il constaterait qu’en vérité, l’« objectophilie » et le mariage interracial ne sont pas les principaux antécédents de l’amour entre humains et robots, ni même la justification juridique première de cette fusion de la chair et de l’artifice. L’une et l’autre ont un fondement plus profond, qui historicise la fusion interraciale et prépare le terrain à ce franchissement de frontières : le statut de personne d’entreprise. Comme l’a écrit le militant anti-multinationales William P. Meyers dans un texte célèbre : « L’esclavage est la fiction juridique selon laquelle une personne est une propriété. La personne d’entreprise est la fiction juridique selon laquelle une propriété est une personne10. » Ces deux fictions juridiques ont la même source : le quatorzième amendement de la Constitution états-unienne.
Petrus Camper, Transition de l’angle facial, du singe à Apollon, dans Dissertation sur les variétés naturelles qui caractérisent la physionomie, chez H. Jansen, Paris, 1791. Gravure. Coll. part.
Souvenons-nous que le treizième amendement a aboli l’esclavage aux États-Unis. Le quatorzième, adopté en 1868, visait à offrir aux Noirs une égalité de protection juridique mais aussi à accorder des droits de citoyenneté aux anciens esclaves à la suite de la guerre civile. Il effaçait le tristement célèbre arrêt « Dred Scott » de 1857, qui avait rendu les descendants d’esclaves africains inéligibles à la citoyenneté américaine, et ouvrait la voie au quinzième amendement, qui accorda le droit de vote aux hommes noirs. Consciente que les Noirs n’étaient pas encore unanimement considérés comme des humains à part entière, mais aussi que de puissantes forces sociales et culturelles étaient déterminées à préserver une hiérarchie raciale – d’où l’explosion des violences raciales – après la période de la Reconstruction, la Cour suprême énonça clairement que les amendements 13 à 15 étaient spécifiquement destinés à assurer « la liberté de la race africaine, la sécurité, la perpétuation de cette liberté et la protection [des Noirs] contre l’oppression des Blancs qui les avaient auparavant maintenus en esclavage ».
Malgré ce codicille, la Cour ne put éviter le surprenant élargissement du statut de personne porté par la Southern Pacific Railroad en 1881. La compagnie soutenait que les taxes spéciales appliquées aux chemins de fer en Californie la discriminaient d’une façon contraire au quatorzième amendement. Manifestement, la loi, qui visait à protéger l’identité raciale, pouvait être déformée pour englober l’identité d’entreprise, puisque c’était désormais la définition même de la « personne » qui pouvait être mise en question. En 1882, la compagnie eut gain de cause en développant un argumentaire fallacieux : les auteurs du quatorzième amendement avaient remplacé le mot « citoyens » par celui de « personnes » pour protéger les « personnes artificielles » au même titre que les « personnes naturelles ».
La période de l’esclavage avait bien montré que la personne était ou pouvait être une construction étatique, et le quatorzième amendement tentait de revenir sur la déshumanisation première des Africains. Mais, dans le cadre juridique, il conféra aussi à la notion de « personne » une fluidité qu’elle n’avait jamais eue, ni par nature ni auparavant dans l’histoire. Cette redéfinition allait bénéficier bien davantage aux grandes entreprises qu’à ses destinataires premiers : en 1896 en effet, la Cour légalisa la ségrégation à travers les lois Jim Crow – reposant sur la tristement célèbre doctrine « séparés mais égaux » après l’arrêt Plessy vs. Ferguson –, tandis qu’à l’inverse, la culture d’entreprise pouvait étendre son influence en s’appuyant sur la même logique juridique de la « personne artificielle ».
Nouvelles espèces, vieux préjugés
Ainsi finissons-nous par le commencement. En historicisant le rapport entre éthique et technologie, humains et machines, nous concluons sur le moment historique précis où fut ratifiée la première singularité. Le statut de personne fut d’abord utilisé pour corriger un tort historique (la déshumanisation) en construisant juridiquement un nouveau type d’être humain. Dès lors, la fluidité de cette catégorie apparut, ce qui ouvrit la voie à son élargissement à des entités non organiques ou « artificielles », moment à l’évidence capital dans le mouvement vers une IA reconnaissable, voire totalement autonome. Mais compte tenu de la longue histoire imbriquée de la race et de la technologie, compte tenu du fait que l’histoire et la sphère de signification de l’une ne sont pas dissociables de celles de l’autre, le lieu et les modalités de naturalisation et, à terme, de justification du prochain type de singularité sont déjà en train d’être définis.
Paul Richer, Modèle masculin, Venance, «Carnet de fiches anthropométriques», 1923-1939. Paris, ENSBA
Et maintenant ?
Tout d’abord, au moment où nous reconnaissons le caractère quasi inévitable des êtres artificiels et de certaines formes d’Intelligence artificielle, il faut prendre au sérieux l’impact des différences raciales, sexuelles et culturelles. Depuis cette position située entre deux singularités, il doit être évident que l’acceptation sociale et la tolérance culturelle à l’égard de ces êtres n’aura guère de rapport avec leur apparence « humaine » ou leur ressemblance avec nous. Ce qui comptera bien davantage, ce seront les histoires de l’altérité que nous déploierons pour les comprendre, de la subordination et de la domination à l’angoisse et au plaisir. Comme l’a suggéré Despina Kakoudaki, nous sommes peut-être enfin prêts à dépasser les limites esthétiques et culturelles définies par l’inquiétante étrangeté freudienne, parce que la « vraisemblance » est hors de propos11. Nous avons par exemple appris que les robots qui ressemblent trop à des êtres humains peuvent susciter l’hostilité et la méfiance, tandis que ceux qui sont délibérément conçus pour ressembler à des personnages ou dont l’apparence est outrancière, fortement inhumaine, peuvent au contraire rencontrer l’empathie, la chaleur et l’affection. Nous savons aussi que les affects simulés peuvent engendrer les plus authentiques attachements. Il en va donc de même avec les affects programmés, si nous y sommes exposés dès l’enfance, ce qui est la raison d’être des robots « sociables » ou « domestiques » destinés aux enfants et aux personnes âgées.
Encore une fois, ce qui compte, ce n’est pas l’apparence des machines mais la manière dont nous interagissons avec elles en dépit de leurs différences visuelles ou épidermiques, voire malgré leurs ratés, qui seront nécessairement interprétés comme des marques de personnalité ou l’équivalent de variations culturelles. Naturellement, rien de tout cela n’aura d’importance s’agissant des algorithmes ou d’un paysage informatique totalement désanthropomorphisé ou non représentationnel. Mais la socialisation, le pouvoir et l’intimité continueront d’exister, même si on n’est plus capable de construire ou de reconnaître la véritable capacité d’agir que l’on associe à la cognition et au « libre arbitre ». Le « libre arbitre » ou l’autonomie n’auront rien à voir avec la reconnaissance sociale, politique ou sexuelle des machines, si l’on en juge par leur caractère historiquement contingent pour ce qui concerne, par exemple, les Noirs, qui, pendant la période de l’esclavage, pouvaient très bien fonctionner sans eux dans les espaces les plus intimes de la vie des Blancs. Et, même lorsque leur statut de personne a été juridiquement reconnu, leur « humanité » n’a jamais cessé d’être mise en question, puisque, en vérité, ce statut était destiné à préserver la distinction avec la pleine et entière humanité, considérée comme la propriété exclusive des Blancs.
Au fond, la reconnaissance sociale des robots ou de l’IA dépendra totalement de leur relation aux humains et de l’ensemble de valeurs communes et réciproques qui les régiront, valeurs destinées à contenir la peur viscérale de l’altérité mais aussi à fixer le cadre de possibilité de l’intimité. À condition, bien sûr, que les machines se montrent capables de respecter ces valeurs et que soit reconnue leur capacité de réciprocité. De toute façon, la race restera au cœur du processus culturel et juridique par lequel les machines deviendront des personnes, voire des humains, parce que la recherche d’une éthique des relations machines/humains et le désir d’intégrer ou de programmer une matrice éthique dans la technologie sont tributaires de l’histoire dont nous avons traité ici. Cette histoire oriente nos métaphores, hante nos règles de représentations et continuera de le faire. Tout simplement parce qu’elle conditionne la pensabilité même de relations fondées sur des différences si radicales qu’elles ont historiquement donné lieu à des imaginaires et à des cadres législatifs établissant un partage entre espèces ou entre humains et objets.
Parce que la tentative actuelle de créer une éthique des relations entre les utilisateurs et l’IA repose in fine sur une sublimation historique de l’esclavage, de l’immigration et des angoisses connexes, c’est d’une prise en compte honnête du dernier type de singularité et de son héritage que découleront les termes de notre rapport à de tels êtres. Ainsi en a-t-il été de la miscégénation à la cybernétique, de l’immigration à l’assimilation et aux droits civiques. En fait, la science-fiction nous montre que c’est le refus de transformer nos rapports historiques avec « l’autre » qui suscite souvent les récits, certes vus et revus mais inusables, de la « révolte des robots » ou du « soulèvement des machines ». Par conséquent, étant donné la nature et l’impact durable du dernier type de singularité et le fait que la résonance de ses traumas colore à jamais les conceptions de la vie elle-même, l’intelligence des machines et la vie artificielle dépendront explicitement des histoires persistantes de l’altérité culturelle – au moins quant au statut de personne et, au mieux, quant à la citoyenneté et aux inlassables exigences de réciprocité qui sont les siennes.