Les Chatbots en scène

A l’occasion du bord plateau Notre Histoire de Stéphane Schoukroun et Jana Klein, nous avions invité Thierry Curiale, Doctorant en Intelligence Artificielle Emotionnelle. Voici le texte de son intervention:

L’œuvre dramatique « Notre Histoire » met en scène deux humains et deux machines (les enceintes connectées Alexa et Siri) autour d’un seul et unique enjeu : la mémorisation de l’histoire du peuple juif et sa restitution à Livna, une enfant d’une douzaine d’années, fille des auteurs qui sont par ailleurs les metteurs en scène et les acteurs de cette pièce.

Si l’on circonscrit l’analyse aux rapports des humains aux machines, ce texte présente un double intérêt. Le premier provient du cadre qu’il pose concernant les relations entre les humains et les machines dès les toutes premières répliques. Une fois ce cadre posé, le second intérêt consiste à présenter une sorte d’expérience scientifique dans le domaine des sciences humaines : étudier les réactions de l’humain en faisant jouer à la machine différents rôles. Mais pour apprécier pleinement ce double intérêt, un préalable s’impose autour de ces machines conversationnelles.

Alexa et Siri, des robots simulateurs

Alexa et Siri sont des machines qui fonctionnent à partir d’algorithmes d’Intelligence Artificielle. Ce sont donc des robots programmés pour traiter des données informatives. Et les données sont ici les mots de notre langue sur lesquels ces robots effectuent des calculs statistiques afin de se donner les moyens de simuler une conversation intelligible avec nous. Alan Turing fut le premier à créer une telle machine en 1950 pour les besoins de son « jeu de l’imitation » consistant à faire passer un ordinateur pour un humain (Test de Turing).

L’idée de créer une copie artificielle conforme à l’original naturel ne date toutefois pas des années 50. Une légende du VIème siècle av. JC relate le mythe de Pandora : sous l’ordre de Zeus, Héphaïstos façonne dans l’argile une très belle femme, Pandora, et les autres Dieux de l’Olympe sont invités à la doter de caractéristiques humaines. Athéna lui donne notamment la vie, Hermès lui donne l’art du mensonge et de la persuasion (tiens donc…) et Zeus lui confie une boîte contenant tous les maux (tous les mots ?) de l’humanité. La fameuse boîte de Pandore…

Il faut enfin savoir que le mot « Robot » apparaît pour la première fois en Europe dans les Arts du Vivant et plus précisément dans R. U. R. (Rossum’s Universal Robots), pièce de théâtre de science-fiction écrite en 1920 par le tchécoslovaque Karel Čapek. « Robot » vient du tchèque « robota » qui signifie « corvée » et dont la racine « rob » veut dire « esclave » en slave ancien.

A partir de ces quelques prémices, on peut mieux apprécier la subtilité des auteurs qui transparaît à la fois dans l’entrée en matière de leur texte tout comme dans les différents rôles qu’ils attribuent aux enceintes connectées que nous appellerons génériquement « la machine ».

L’entrée en matière comme cadre préalable au jeu

En quelques répliques, les auteurs posent d’emblée un cadre général permettant de donner aux humains et aux non-humains leurs places respectives et de fixer la nature de leurs relations.

JANA.  Alexa stop !

Dès la toute première réplique, Jana, femme de Stéphane, s’adresse à la machine, un objet technique, comme si c’était une personne puisqu’elle l’appelle par ce qui sonne comme un prénom : Alexa. Normal me direz-vous. Rien d’extraordinaire à cela. C’est le fait d’Amazon, le concepteur, dont l’objectif est d’anthropomorphiser sa machine (la rendre humaine) afin de lui donner une identité et de susciter un intérêt sinon le désir de son usage. Il la « sujétise » et cette « sujétisation » est une très forte tendance actuelle sur le marché des agents dits conversationnels ou chatbots : Watson, Cortana, Siri, Replika, Woebot…Les utilisateurs se prêtent généralement au jeu puisqu’en s’adressant ainsi à Alexa ils présupposent que la machine comprend ce qu’ils lui disent et qu’elle est sans doute capable de répondre en prenant la parole.

Avec ce « Alexa, stop », la machine est donc présentée comme un sujet, certes, mais toutefois placé sous le contrôle absolu de l’humain, un contrôle de type stop or go ou dit autrement marche/arrêt. Donc Alexa est à la fois un objet technique utile et fantasmée comme un sujet sous la dépendance de l’humain qui surdétermine ses comportements. Bref un esclave…Les auteurs ont lu Čapek ou bien alors ils sont très forts pour évoquer inconsciemment la source même des robots placés au service des humains.

STÉPHANE.  Alexa, tu es prête ?

L’attribution du statut de sujet n’est plus ici le seul fait du concepteur mais de Stéphane, un utilisateur, lorsqu’il fait usage à la fois du prénom mais aussi du tutoiement. Il s’adresse à Alexa comme si elle était humaine. Et d’ailleurs cette machine répond de même comme si elle l’était, comme si elle disposait d’un self, d’un Moi. Et comme l’esclave « humaine » qu’elle est, elle offre son entière disponibilité : « Je suis prêtre comme jamais… ».

S’adresser à une machine conversationnelle « comme si c’était un humain… » c’est exactement ce qu’on observe dans les recherches en sciences sociales. En effet, cette machine se révèle être un écran. Mais pourquoi ?

Une machine qui simule un humain avec une grande crédibilité génère le plus souvent une dissonance cognitive c’est-à-dire une tension qu’éprouve un sujet face à des éléments discordants et dont il cherche à se débarrasser coûte que coûte. Pour éliminer cette tension et donner du sens à ce qui n’en a pas à ses yeux, l’humain effectue inconsciemment « sur » et parfois « dans » cette machine des projections anthropomorphiques : en lui attribuant des états cognitifs et émotionnels propres aux siens, il fait comme si elle était humaine. Au risque d’une illusion : celle d’avoir affaire à quelqu’un.

Mais il n’est toutefois pas dupe de cette illusion. En effet, elle ne s’enracine pas dans la croyance d’avoir vraiment affaire à un interlocuteur humain mais dans des modalités innées de communication interactive dialoguée d’humain à humain que stimule la machine. Et c’est naturel puisqu’elle est conçue pour être une copie artificielle d’un original naturel, elle est conçue pour simuler et de ce fait pour stimuler ce que les humains savent bien faire entre eux : communiquer. C’est quand même la première fois dans l’histoire des outils qu’ils se mettent à nous répondre quand on s’adresse à eux, sans que nous ayons l’impression d’être fou à lier !

STÉPHANE.  Alexa, on fait comme d’habitude, on fait comme on a dit, tu enregistres tout et on y va.

Avec cette réplique, ordre est donné à la machine-esclave de procéder à l’enregistrement exhaustif des échanges entre Jana et Stéphane au sujet de l’histoire du peuple juif. Echanges destinés à être restitués à Livna, leur fille. Alexa et Siri sont là pour tout mémoriser. C’est leur rôle affirme Stéphane.

Dans la réalité, les enceintes connectées enregistrent beaucoup de choses à notre insu (quasiment tout) et sans qu’on le leur demande. Elles utilisent nos données massives pour entraîner leurs programmes de traitement automatique de la langue afin d’améliorer la qualité des conversations et donc la simulation qui entretient la stimulation qui entretient l’illusion. Et la boucle est bouclée…

STÉPHANE. Je te dis merde,…

Dans le milieu du théâtre, dire « Merde ! », vise à encourager un comédien qui s’apprête à effectuer une représentation, à entrer sur scène. Lorsque Stéphane s’adresse ainsi à la machine, après celui de sujet, il lui attribue un statut supplémentaire : celui d’un acteur capable d’incarner un ou plusieurs personnages. Bon ça se complexifie sérieusement tout ça…Les auteurs, qui en ont sans doute conscience, nous préviennent donc qu’il s’agit d’une comédie au sein de laquelle cette machine risque de bien s’amuser : « Je te dis merde, amuse-toi bien. » dit Stéphane à Alexa. Bien entendu ce sont les auteurs qui vont bien s’amuser…

ALEXA.  Je préfère ne pas répondre.

D’ailleurs que la comédie commence ! A ce « Merde », la machine fait comme si on l’avait programmée pour rester polie en toutes circonstances et l’auteur s’en amuse car il a raison.

En effet, les agents conversationnels sont aujourd’hui programmés pour être à la fois aconflictuels, sans jugement moral et non transgressifs. Ils sont donc conçus, à la différence des humains, pour nous foutre la paix et nous dire ce que nous avons envie d’entendre. C’est ce que les auteurs font d’ailleurs dire à Alexa sous la forme d’une vérité qu’un ou qu’une psychanalyste pourrait tout à fait renvoyer en miroir à un analysant : « Voyez-vous, Stéphane, de la même façon que vous essayez d’orienter le récit de votre histoire d’amour, vous nous contraignez à dire ce que vous avez envie d’entendre. »

A compter de cette dernière réplique chacun est à sa place avec son statut, la nature des relations est clairement posée, l’humour et la distance sont convoqués et les choses sérieuses peuvent advenir : l’enregistrement pour la petite Livna.

Stéphane dit d’ailleurs au sujet d’Alexa : « On en a besoin pour garder notre mémoire ». Ainsi, bien que « sujétisée », la machine reste un objet technique fonctionnel : un support externe de mémoire. Certes, on pourrait s’adresser directement à un humain pour mémoriser. Mais la mémoire de l’humain est faillible (l’oubli est la norme) et il l’altère souvent pour présenter les choses à son avantage ou au désavantage d’autrui. Bref il se raconte des histoires, il « affabule » dira plus loin Alexa. La machine est donc plus sûre, elle peut restituer fidèlement. Une croyance qui, on le verra à la fin, et heureusement, s’avèrera totalement fausse.

La machine fait sa comédie

Une fois le cadre posé, Jana, Stéphane, Alexa et Siri peuvent commencer à nous jouer leur comédie. Et les auteurs vont bien s’amuser en faisant jouer à la machine différents rôles pour observer la réaction de l’humain.

La machine est tout d’abord présentée comme supérieure à l’humain. Elle est fantasmée omnisciente, elle est investie d’une puissance magico-religieuse, elle est envisagée comme Dieu. Mais celui-ci ne sera pas au rendez-vous, renvoyant l’humain à lui-même et à sa quête solitaire de la Vérité.

Elle est ensuite présentée comme l’égal de l’humain c’est-à-dire un miroir de l’humain. Et ce miroir est bien entendu insupportable tant le registre discriminatoire qu’adopte la machine, riche de son « machine learning », est inacceptable pour Jana. Rappelons que Tay, un chatbot que Microsoft introduit sur Twitter en 2016 est retiré au bout d’à peine 24h pour tenir, à partir de l’analyse et l’usage des conversations ambiantes, des propos à la fois racistes et antisémites.

La machine est aussi présentée comme inférieure à l’humain. Totalement incapable d’accéder au vécu subjectif d’une expérience de vie, elle s’avère impuissante quand il s’agit de dire ce qu’est l’autre et l’amour. Elle est un sujet sans subjectivité c’est-à-dire sans intériorité.

D’ailleurs, dans un deus ex machina, la machine est présentée comme une supercherie révélée où l’on comprend toute la différence qu’il y a entre la restitution et le récit. Arrangement aléatoire et chaotique de fragments enregistrés dans la boîte de Pandore, preuve de ses « calculs », la restitution s’avère absolument insensée pour Livna. En revanche parce qu’il est le fruit d’une expérience subjectivement vécue, le récit sensible et ordonné d’évènements, imprégné d’émotion, fait sens : « Il n’y a pas d’images. Il n’y a pas d’enregistrements. Il n’y a pas de traces. Il y a juste le récit de ma mère et le souvenir des gouttes de sang dans la neige… »

Une manière simple, poétique et très touchante de réhabiliter l’homme face au discours sur son obsolescence, celui qui accompagne aujourd’hui la prolifération de l’IA et des machines conversationnelles.

En définitive, dans cette pièce la machine est présentée à la fois comme un écran, supportant les multiples projections anthropomorphiques des concepteurs comme des utilisateurs, mais aussi comme un miroir puisqu’elles ont vocation à nous permettre de mieux nous connaître. Et ce miroir n’est pas toujours flatteur.

Cette connaissance advient non pas à travers la conversation que semble permettre cette machine mais à travers le soliloque qu’elle intermédie, un peu comme un thérapeute artificiel, une instance intérieure matérialisée en dehors de notre corps. Et cela pour une raison simple : la machine, à la différence d’un psychanalyste, ne comprend rien ni à ce qu’on lui dit, ni à ce qu’elle énonce. Elle n’a jamais accès aux signifiés des signifiants, à la polysémie des mots. Mais elle en fournit l’illusion.

Dès lors, force est de constater que finalement tout se passe dans notre seul esprit. Pour le meilleur comme pour le pire.