Serge Tisseron : « Communiquer avec des machines comme avec des humains constitue une rupture anthropologique majeure ! »

Tout d’abord, pouvez-vous nous dire quelles sont ces « machines parlantes » dont il est question dans votre livre et en quoi sont-elles dangereuses pour chacun d’entre nous ?

Serge Tisseron : « On peut actuellement en distinguer quatre types : de la plus simple à la plus complexe, il s’agit de l’enceinte connectée répondant à quelques ordres simples, du robot conversationnel capable de rudiments de conversation,du compagnon digital qui ajoute à sa voix une présence personnalisée sur un écran, et bien entendu du véritable robot doté d’une voix semblable à celle d’un humain.

Parce que ces machines parlent, beaucoup d’utilisateurs vont les créditer de compétences qu’elles n’ont pas, et leur faire confiance pour des choix de plus en plus intimes en oubliant qu’elles sont programmées par d’autres humains.

Certains vont même peut-être leur confier leurs enfants en pensant qu’elles sont moins nocives qu’un écran alors qu’elles le sont tout autant, si ce n’est plus ! ».

L’échange vocal direct avec la machine se substitue donc au clic, à la commande manuelle… C’est une vraie « révolution anthropologique » dites-vous… Pouvez-vous développer cet aspect ?

Serge Tisseron : « La seule introduction de la voix dans une machine, sans rien changer à son apparence, suffit à produire chez ses utilisateurs l’illusion qu’elle posséderait une véritable personnalité. La voix est la preuve d’une présence. C’est pourquoi communiquer avec des machines comme avec des humains constitue une rupture anthropologique majeure : jusqu’où des machines parlantes comme des humains se verront-elles attribuer des qualités humaines ?

Jusqu’où des machines capables de nous comprendre, de nous répondre et de nous servir pourront-elles être considérées comme plus importantes que des humains « sans utilité » ? 

En plus de la voix, ces machines sont de plus en plus capables « d’empathie » … Cela peut-il avoir des répercussions sur le lien social, l’attachement aux autres, la sphère affective ? Vous parlez même de machines fragiles et attentionnées…

Serge Tisseron : « Les machines sont évidemment incapables d’avoir des émotions et des sentiments, mais leurs fabricants font de grands efforts pour nous inviter à l’imaginer.

En effet, plus nous avons l’impression qu’une machine est attachée à nous, et plus nous avons tendance à nous attacher à elle et à lui confier une part de notre intimité. Au risque d’oublier que tout ce que nous lui racontons nourrit les immenses bases de données des fabricants qui finiront par nous connaitre mieux que nous-même.

En même temps, pour que ces machines soient bien acceptées, il faut écarter l’image du robot dangereux qui pourrait s’avérer plus puissant que l’homme. C’est pourquoi certains roboticiens fabriquent des machines qu’ils appellent « vulnérables ». Elles sont conçues de façon à donner envie de leur venir en aide. Leur seul but est de nous rassurer sur notre supériorité et nous faire oublier que d’autres robots, beaucoup moins visibles, peuvent menacer nos libertés ».

A ce propos, des situations comme le confinement et la règle de la distanciation sociale peuvent-elles favoriser l’avènement de la machine parlante qui serait alors la seule relation fréquentable sans risque… ? Est-ce, selon vous, une préfiguration d’une société dépourvue de contacts sociaux physiques, de proximité relationnelle ?

Serge Tisseron : « Pendant ce confinement, nous nous sommes habitués à interagir par la voix seule, ou bien en voyant le visage de notre interlocuteur sur un écran. Aucune machine ne peut simuler un humain dans sa présence physique, mais une machine peut très bien fournir l’équivalent d’une voix et d’un visage sur un écran. Autrement dit, nous avons probablement vécu pendant ce confinement l’étape qui sépare la communication entre humains en présence physique et la communication entre un humain et une machine munie d’une voix et d’un visage humain.

Si des compagnons digitaux avaient été disponibles pendant le confinement, il est probable que beaucoup d’entre nous auraient engagé une relation privilégiée avec eux.

En effet, nous ne pouvons pas toujours trouver un humain pour lui raconter ce que nous éprouvons et pensons, mais un compagnon digital, lui, est toujours disponible ! ».

Comment ces nouvelles générations de machines parlantes peuvent-elles affecter le fonctionnement de nos fonctions cognitives ? Certains minimisent le risque en rappelant qu’il ne s’agit-là que d’outils programmés par l’homme. Pour vous, quels sont les risques, notamment pour notre santé mentale ? Et, en particulier, chez les adolescents ?

Serge Tisseron : « Tout d’abord, plus une voix artificielle se rapproche d’une voix humaine, et plus nous sommes enclins à lui prêter des émotions réellement humaines, même si nous savons qu’elle n’en n’a pas. Cela pourrait accroître de manière significative la propension humaine à l’anthropomorphisation et amener certains à préférer des machines avec lesquelles ils partagent leurs émotions à des humains qui s’y montrent indifférents.

Mais surtout, ces machines toujours disponibles et affables pourraient engendrer de nouvelles formes de manipulation.

Tout en prétendant nous aider à mieux gérer et contrôler nos vies, elles nous imposeraient leurs propres rythmes et leurs propres régulations bien plus encore que les réseaux sociaux aujourd’hui. Ce ne sont pas ces machines que je crains, ce sont ceux qui les programment… ».

Est-il possible, d’après vous, de contenir l’expansion de ces technologies et de faire en sorte qu’elles ne soient ni intrusives ni toxiques pour notre santé mentale ? Peut-on imposer des règles éthiques à ces machines et lesquelles ?

Serge Tisseron : « Bien sûr. Mais à condition de comprendre que dans nos relations aux machines, le maillon faible, c’est l’homme !

Elles nous rendent des services, bien entendu, mais leurs fabricants exploitent aussi nos faiblesses pour nous en rendre dépendants bien au-delà de ce qu’il est nécessaire pour en profiter.

Par exemple, ils leur donnent des voix féminines avec le risque de renforcer les stéréotypes de genre. Ou bien, au lieu de réfléchir aux moyens d’éviter un attachement émotionnel problématique à leurs machines, notamment de la part des enfants et des personnes âgées, ils cherchent au contraire à l’exploiter pour fidéliser des clients et élargir la capture de leurs données personnelles ».

Comment pouvons-nous nous prémunir face à cette menace ? Et comment s’en sortir si l’on est déjà sous l’emprise insidieuse de ces machines ?

Serge Tisseron : « Il y a urgence à poser autour de ces questions les bases d’un débat citoyen en prenant en compte toutes les attentes des consommateurs sans privilégier celles qui s’avèrent les plus lucratives à court terme pour les fabricants. Les pouvoirs publics doivent en réguler les usages et y poser des limites, et les parents doivent protéger leurs enfants de leurs effets problématiques. Enfin, ne sous estimons pas le pouvoir des consommateurs que nous sommes. Nous avons le moyen de faire en sorte que certaines améliorations soient introduites sur ces produits en refusant d’acheter des modèles qui sont plus destinés à nous séduire par quelques performances spectaculaires qu’à nous être vraiment utiles ».

Propos recueillis par Nasser Negrouche

Serge Tisseron est psychiatre et docteur en psychologie HDR, membre de l’Académie des technologies, membre du Conseil scientifique du CRPMS (Université de Paris), président de l’Institut pour l’Étude des Relations Homme-Robots (IERHR). Il est l’auteur d’une trentaine d’essais, dont 3-6-9-12 : apprivoiser les écrans et grandir (Érès).