“L’emprise insidieuse des machines parlantes. Plus jamais seul” – Serge Tisseron : en route vers le “capitalisme affectif” ?

Chatbots, enceintes connectées, assistants vocaux … Vous en avez vu, vous en avez entendu, vous en avez même peut-être une chez vous, dans votre chambre, votre salon ou votre salle de bain. Pourtant, on vous ressasse sans cesse que ces machines parlantes vous espionnent, qu’elles récupèrent vos données, vous analysent, font de vous des produits numériques … à raison. C’est même un véritable problème de société dont on ne perçoit que la partie émergée. Avec L’emprise insidieuse des machines parlantes, plus jamais seul, Serge Tisseron, psychiatre, docteur en psychologie, et membre de l’académie des technologies, dépasse les critiques habituelles pour nous emmener explorer les profondeurs de cette réalité, ce qu’elle implique comme bouleversements, l’urgence qu’il y a à envisager ces outils avec plus de recul … de méfiance ?

Un lien nouveau entre l’homme et l’outil

Pour mesurer l’impact de ces machines parlantes dans notre quotidien, il faut initialement comprendre la relation qui nous entretenons avec. Avant le XIXeme siècle, l’outil s’adaptait à l’homme qui le concevait et l’utilisait comme bon lui semblait. Avec la Révolution industrielle, un premier changement s’opère, considérable : dans une logique de productivité, l’homme s’adapte à la machine, et non l’inverse. En témoigne le film Les Temps modernes de Charlie Chaplin. 

Quelle tournure prendrait ce long métrage à l’heure d’aujourd’hui ? C’est toute la question. A l’heure de la Révolution numérique, un lien nouveau se tisse entre l’homme et l’outil, un lien d’adaptabilité réciproque. Il ne s’agit plus d’imposer à l’homme ou à l’outil une manière de procéder, mais plutôt de les inciter à se comprendre réciproquement, à s’accepter. L’objectif des fabricants numériques est clair : le digital doit satisfaire les humains dans leur quotidien. Toujours plus.  Et Serge Tisseron d’interroger les conséquences de cette motivation en mettant en lumière les limites et les dangers de pareille logique. 

« Il a été montré que, si un ordinateur supplie son propriétaire de ne pas l’éteindre, celui-ci hésitera même si il est conscient de l’artifice : 13 personnes sur 85 testées on refusé d’éteindre un robot programmé pour avoir cette attitude ; les autres ont mis plus de temps, invoquant la peur de faire quelque chose de mal … ou même de déplaire à la machine.« 

Intelligences artificielles émotionnelles

Vous l’aurez compris, le point qu’aborde principalement l’auteur de ce livre n’est pas la récolte et l’analyse des données, mais bien l’aspect émotionnel de ces nouveaux usages. Les machines parlantes ont pour vocation de devenir ce que l’on appelle des “intelligences artificielles émotionnelles”. Leur fonctionnement consiste principalement à nous donner la possibilité d’interagir avec elles, et plus précisément à échanger des émotions, à partager de l’affection ainsi qu’à entretenir une relation affinitaire. Mais comme vous le savez, ce qui différencie si bien la machine de l’Homme, c’est sa capacité à être doté d’une âme, d’une aspiration émotionnelle réelle et non programmée. C’est sur ce point que Serge Tisseron appuie sa recherche : Il est impossible de partager réellement des émotions avec une machine, il s’agit uniquement d’une simulation. 

Un premier problème, évident, apparaît : si des machines ont la capacité de nous stimuler émotionnellement, de s’adapter à nous pour répondre à toutes nos attentes, serons-nous réellement capables de conserver des relations “classiques” avec les personnes qui nous entourent ? Il s’agit ici de cerner jusqu’à quel degré ces machines auront la capacité d’altérer nos relations sociales. Si une intelligence artificielle est en mesure d’écouter, de comprendre et de simuler une empathie permanente, serons-nous toujours aptes à dialoguer avec des individus tournés vers eux-même à attendre que vous finissiez de parler pour raconter leur propre histoire ? Voici qui remet en question la construction sociale des individus, dans leurs interactions. 

L’enfant et le robot

Si l’auteur appuie fortement sur ce point, il insiste aussi sur les conséquence sociales de ces machines auprès des enfants. Quand on parle de digital, les enfants se retrouvent souvent au coeur des débats. La pensée commune tend à dire que les écrans sont mauvais et nocifs pour les individus en bas âge. En revanche, les machine parlantes soulèvent de nombreux problèmes bien plus importants en matière d’éducation et de développement des enfants. Serge Tisseron craint tout d’abord que les parents perçoivent les machines parlantes comme une alternative bénéfique aux écrans. Ce qui est trompeur. Si les écrans ont la capacité d’accaparer l’intérêt des plus jeunes, les assistants vocaux seront aussi, voire plus addictifs, et impacteront la construction sociale et personnelle des petits. 

Ces derniers auront du mal à distinguer l’homme et la machine, certaines difficultés à saisir les mimiques sociales qui nous permettent d’interagir entre nous. C’est d’autant plus inquiétant que ces appareils auront la capacité de comprendre parfaitement les plus jeunes. Peut-on raisonnablement croire que les parents comprendront mieux les rouages de Minecraft qu’une machine capable d’exploiter et de comprendre n’importe quelle donnée ? Certes, si les enfants utilisent des écrans, ils ne peuvent en parler qu’avec des individus humains. Mais qu’en sera-t-il lorsque l’enfant pourra dialoguer avec un robot doté de compréhension, de connaissance et d’empathie ? Avec à la clé le risque que la perception de ce qu’est une “personne” change radicalement ?

Mutations humaines à venir

Résumons : l’homme, à force de discuter avec ces machines parlantes émotionnelles, va probablement voir sa nature changer. Et se faire prendre au piège tendu par les GAFA, qui, en construisant ces mécanismes capables de simuler des émotions, créent le mirage d’une relation affective. Pour Serge Tisseron, ces outils nous pousseront à nous renfermer sur nous même, car ils partageront naturellement le même avis que nous, ils comprendront nos émotions, ils nous valoriseront et nous aideront dans notre quotidien. Mais ils n’échangeront pas véritablement, comme nous pouvons le faire avec les individus qui nous entourent, certes plus réfractaires que ces machines mais certainement plus réels. Serge Tisseron va plus loin dans sa réflexion, en questionnant la capacité de ces appareils à transformer à la fois la nature d’une “personne” et la perception que l’on en a.

Il est clair que nous allons entrer dans une nouvelle ère, celle du dialogue digitalisé entre une personne humanisée et une entité déshumanisé, et sans aucun doute construire de nouvelles mécaniques d’interaction sociales. On pense toujours que ces choses là n’arriveront pas, que jamais nous ne vivrons une aventure amoureuse semblable à celle romancée dans le film Her, que nous ne serons jamais amené à traquer des “répliquants”. Et pourtant, d’une certaine manière, si nous fantasmons tant ces évolutions digitales, c’est en partie car nous sommes prêts à les accueillir. 

———————–

Vous êtes peut-être réfractaire à l’intelligence artificielle ; ou vous rêvez d’un monde digital affectif. Dans tous les cas, la lecture de ce livre d’une richesse incroyable s’impose, par l’urgence qu’il exprime. Si nous connaissons une partie des dérives possibles, beaucoup d’autres nous échappent, de même les remèdes envisageables. Il ne s’agit pas ici de stopper le développement de ces outils, mais de les comprendre et de sensibiliser le lecteur à ces dérives possibles. Ce ne sont pas les industriels qui le feront, dont l’objectif est clairement de nous faire adopter ces technologies toujours plus invasives et monétisées. 

Vincent « Un simple racoon » MICHERON

Et plus si affinités

http://www.editionslesliensquiliberent.fr/livre-L_emprise_insidieuse_des_machines_parlantes-604-1-1-0-1.html