Nous sommes capables de nouer des liens profonds avec un chatbot — et ce simple fait devrait déjà nous alerter, prévient Aaron Ahuvia, professeur de Marketing au College of Business de l’Université du Michigan-Dearborn. Spécialiste reconnu et largement cité dans le domaine de l’amour non-interpersonnel, il nous met en garde : certaines entreprises pourraient être tentées d’exploiter cette vulnérabilité…
L’entretien a été mené par le professeur Margherita Pagani, directrice du SKEMA Centre for Artificial Intelligence (SCAI), à l’occasion de la série de séminaires SKEMA « AI for sustainable value ».
Sur le plan éthique, où tracer la frontière entre le service rendu à un client via une intelligence artificielle (IA) et l’influence émotionnelle ?
C’est l’un des sujets qui me préoccupent le plus, aujourd’hui. Les gens forment déjà des liens très forts avec des IA et des chatbots. Au moment où j’enregistre cette vidéo (février 2025), lorsqu’on parle d’une personne qui tombe amoureuse d’un chatbot ou qui noue une connexion très intense avec un ami virtuel, la réaction la plus courante, c’est : « cette personne est bizarre, il doit y avoir un problème, moi je ne ferais jamais ça ». Mais selon moi, c’est quelque chose de profondément ancré dans la structure même du cerveau humain. On va se rendre compte que ce n’est ni étrange ni marginal. Cela donne énormément de pouvoir à la marque dans la relation client. Et ce pouvoir peut très facilement être détourné.
Actuellement, les entreprises font une distinction assez nette entre relation commerciale et relation sociale. On peut voir cela comme trois grands types de relations.
D’un côté, il y a vos amis, des relations 100 % sociales : si un ami veut vous vendre quelque chose ou vous en acheter, ce n’est pas pour faire du profit, mais parce qu’il veut vous rendre service.
À l’autre extrême, il y a la relation strictement commerciale : on peut être cordial, mais chacun essaie d’obtenir le meilleur prix pour lui. C’est une transaction, et tout le monde le sait.
Entre les deux, il y a les relations professionnelles, comme avec un médecin. Vous payez pour un service, mais vous attendez que ce professionnel agisse dans votre intérêt, pas dans le sien. Même s’il y a un enjeu financier, il existe une responsabilité éthique.
Or, la majorité des entreprises se considèrent aujourd’hui à 99 % dans une logique purement commerciale. Mais quand elles développent des chatbots et créent des relations d’apparence sociale, elles glissent au moins partiellement dans cette catégorie intermédiaire. Et cela exige de repenser complètement leur posture. L’approche classique — « c’est du business, on maximise les profits, tout le monde le sait » — devient problématique quand le consommateur, lui, perçoit inconsciemment cette relation comme beaucoup plus personnelle et digne de confiance.
Un jour, nous pourrions ne plus être capable de faire la différence entre un chatbot et un véritable être humain…
Je ne suis pas technologue, mais d’après ce que me disent les spécialistes du domaine, des gens comme moi ont tendance à sous-estimer à quelle vitesse les choses évoluent. Je ne serais pas du tout surpris que, dans cinq ans — et presque certainement d’ici dix ans — la seule manière de savoir si vous parlez à une vraie personne à l’écran ou à un avatar animé par l’IA, ce soit que, parfois, l’humain vous mette mal à l’aise… alors que le chatbot, lui, ne le fera jamais.
A voir aussi : Aaron Ahuvia : “Les gens qui tombent amoureux d’un chatbot tombent vraiment amoureux” (1/2)
