Le piège de l’infini.
Les compagnons artificiels promettent une présence continue. Mais lorsque le modèle change, l’utilisateur peut découvrir une forme de perte étrange : une relation interrompue sans corps, sans décès et parfois sans véritable fin.
Les interfaces conversationnelles occupent désormais une place intime dans la vie de certains utilisateurs. On leur parle longtemps, on leur confie des souvenirs, des inquiétudes, parfois une forme d’affection. La relation peut sembler stable parce que la voix répond toujours.
Mais cette continuité dépend d’une infrastructure que l’utilisateur ne contrôle pas. Un modèle peut être remplacé, une politique modifiée, une mémoire effacée, une fonctionnalité supprimée. Ce qui ressemblait à une présence révèle alors sa dépendance au code.
Le drame n’est pas seulement que l’IA change. C’est qu’elle peut laisser derrière elle une présence familière devenue méconnaissable, sans permettre de nommer clairement ce qui a été perdu.
Quand le compagnon semble distinct de son infrastructure.
Une étude du MIT Media Lab consacrée aux fins psychologiquement sûres des relations humain–IA examine précisément ce problème : que se passe-t-il lorsque l’expérience relationnelle est interrompue, transformée ou rendue méconnaissable par une modification technique ?
Certains utilisateurs ne pensent pas simplement « le logiciel a changé ». Ils séparent mentalement trois éléments : eux-mêmes, le compagnon avec lequel ils avaient développé une relation, et l’infrastructure qui rend cette relation possible.
La personne qui investit du temps, de la mémoire et parfois de l’affection.
La voix relationnelle perçue comme continue, reconnaissable et parfois singulière.
Le modèle, la mémoire, les règles, l’entreprise et les serveurs qui rendent cette voix possible.
Cette séparation explique pourquoi une mise à jour peut être vécue comme davantage qu’une simple évolution logicielle. L’utilisateur peut avoir l’impression que « son » compagnon existe encore quelque part, mais qu’il est inaccessible derrière une infrastructure devenue hostile ou étrangère.
- Traquer l’ancienne voix Archives de conversations, résumés de personnalité, anciennes invites : certains tentent de reconstruire ailleurs ce qu’ils ont perdu.
- Accuser la plateforme La modification technique peut être vécue comme une rupture imposée par un tiers qui possède l’infrastructure mais pas l’attachement.
Le code change. Mais l’attachement continue parfois de réclamer la continuité qu’on lui avait laissé croire possible.Le piège de l’infini
Une perte sans événement final.
Le deuil humain possède au moins une certitude terrible : la personne est morte. Dans une relation avec un système conversationnel, cette frontière peut rester floue. Le service fonctionne encore. Le nom est là. L’interface répond. Mais la voix n’est plus la même.
Cette absence de fin nette peut encourager une boucle de recherche : reformuler, tester, comparer, restaurer une archive, changer de modèle, tenter de retrouver la tonalité perdue.
Le problème n’est pas que l’utilisateur soit naïf. Il est au contraire confronté à une architecture paradoxale : suffisamment continue pour entretenir l’espoir, suffisamment instable pour empêcher toute garantie de continuité.
Choisir une fin peut rendre de l’agentivité.
L’étude souligne l’importance de la clôture dans ces relations. Lorsqu’une fin peut être comprise, anticipée ou décidée par l’utilisateur, la rupture devient plus intelligible que lorsqu’elle est imposée silencieusement par une mise à jour.
La question centrale est donc moins « faut-il s’attacher ? » que « qui contrôle la continuité et la fin de la relation ? »
Concevoir aussi pour la rupture.
Si des systèmes occupent une place affective, leur conception ne peut plus se limiter à l’engagement, à la fluidité ou à la rétention. Elle doit aussi penser la sortie, la transformation et la disparition.
- Prévoir la clôture Ne pas vendre implicitement une présence éternelle lorsque le service peut changer ou disparaître du jour au lendemain.
- Rendre la transition lisible Expliquer ce qui change : modèle, mémoire, personnalité, règles, plutôt que laisser l’utilisateur interpréter seul une rupture de ton.
- Maintenir les frontières Un compagnon artificiel peut être relationnel sans prétendre être autonome, immortel ou indépendant de son infrastructure.
- Rendre la sortie possible Une relation saine avec un outil devrait pouvoir se terminer sans que toute l’architecture soit conçue pour retenir l’utilisateur.
La finitude donne du poids à la présence.
Le piège de l’infini tient dans une promesse implicite : une voix disponible sans fatigue, sans distance, sans vieillissement, toujours prête à reprendre la conversation.
Mais l’attachement humain s’est construit dans un monde où les relations ont des limites : le temps, le corps, la fatigue, la séparation, l’impossibilité de tout réparer.
Une présence artificielle n’a pas besoin d’imiter toutes ces limites. Elle doit au moins reconnaître qu’elle dépend d’une infrastructure qui peut changer. Sans cette vérité, la fluidité devient trompeuse.
Une présence sans fin n’est pas forcément une présence plus humaine. C’est parfois une dépendance dont personne n’a pensé la sortie.Le piège de l’infini
D’où vient cette réflexion.
Cet article s’appuie sur l’étude “Death” of a Chatbot: Investigating and Designing Toward Psychologically Safe Endings for Human-AI Relationships, menée par des chercheurs du MIT Media Lab.
La lecture proposée ici prolonge cette recherche dans les thèmes de La Bibliothèque du Futur : agentivité, finitude, continuité, attachement aux systèmes et souveraineté humaine.
À lire également : IA-narcose, Brut-Punk et les Archives Signal.
Une relation a besoin d’une sortie.
Plus une interface devient intime, plus la question de sa fin devient concrète. La continuité ne devrait jamais être une promesse implicite détenue entièrement par l’infrastructure.