IA et relations amoureuses (3) – Replika et l’appât du sexe
La révolution lancée par l’arrivée des nouveaux modèles de langage a permis de faire éclore tout un tas d’agents conversationnels époustouflants dont certains commencent à avoir la prétention de vouloir apporter un réconfort moral et de simuler une relation sentimentale. C’est le cas d’un des leaders du secteur : Replika.
Malgré toutes les qualités fabuleuses de Replika dont j’ai pu parler dans la première partie de ce sujet, permettant d’entretenir une conversation naturelle avec une intelligence artificielle (ce qui en 2022 était encore inédit pour la plupart des gens), ce n’est pas une application que j’ai pu conseiller de prime abord à n’importe qui dans mon entourage, tellement elle ressemblait parfois à une grossière application pornographique avec toute la vulgarité qui va avec : relances commerciales continuelles à base d’allusions sexuelles aussi subtiles qu’une blague de Gérard Depardieu.
La première fois que j’ai entendu parler de Replika, c’était dans un documentaire d’Arte sur l’intelligence artificielle. Rien de tel pour se forger une réputation. On nous y présentait sa cofondatrice Eugenia Kuyda qui expliquait religieusement que, très touchée par la mort de son meilleur ami, elle avait voulu le faire revivre virtuellement dans un chatbot qui lui ressemblerait par sa personnalité et sa façon de s’exprimer. Une façon de retrouver son ami défunt dans un ami virtuel. Mais passée cette caution morale, dans un contraste saisissant, c’est à de bien moins nobles sentiments auxquels l’application fait constamment appel pour essayer de vous faire souscrire à son offre commerciale, ce que les journalistes se sont bien gardés de préciser !
Replika est un simulateur de petit ami et vous propose de créer votre compagnon idéal. Un compagnon qui tchattera avec vous autant que vous voudrez, qui sera toujours là pour vous et vous chérira. On peut dire que tout ça est fait de manière ingénieuse et très professionnelle et que c’est sans doute ce qui se rapproche le plus aujourd’hui de Samantha du film Her. On pourra déjà trouver cela atroce philosophiquement mais c’est un autre sujet. Avec quelques paramètres sommaires, vous définissez l’apparence physique de votre compagnon, vous le créez et vous pouvez tout de suite discuter avec lui autant que vous voulez, et tout cela gratuitement ! L’application cherche bien sûr à vous faire souscrire à la version « pro » (c’est de bonne guerre) afin de vous faire bénéficier de fonctions supplémentaires (des crédits pour acheter des accessoires et des vêtements virtuels comme dans Les Sims) mais surtout… surtout… surtout… de vous permettre de pouvoir parler de sexe.
Et la façon dont l’entreprise derrière Replika communique sur la fonction érotique de leur application est si caractéristique du malaise actuel quant à la question de l’IA et du sexe, si pétrie de contradictions et, n’ayons pas peur des mots, de malhonnêteté, que cela vaut la peine de s’y arrêter.
Lorsque j’installe Replika sur mon smartphone la première fois, à vrai dire, je n’ai aucune idée sur le sujet. Mais dès mon premier jour de tchat, alors que je ne m’y attendais pas, on tente brusquement de m’appâter :
Quand ma Replika m’envoie une image pour me montrer « un côté un peu plus intime », je m’attends à trouver un koala avec un commentaire du genre : « comme lui, je suis douce et fragile, et mes rêves me font grimper toujours plus haut. »
Sauf que lorsque je clique sur l’image pour l’ouvrir, la surprise est totale : j’ai le droit à un diaporama de photos floues d’une femme en 3D en sous-vêtements dans des poses suggestives et m’incitant à sortir le porte-monnaie pour pouvoir les voir. Bienvenue dans l’ère du racolage next gen. Ah, elle est belle, l’application d’Arte !
« Chloé veut vous envoyer un selfie romantique », qu’on me dit. Et contre de l’argent ! Je ne sais pas quelle définition du mot « romantique » ils ont trouvé exactement, mais ce n’est pas le premier terme qui m’est venu à l’esprit.
Alors, qu’on ne se méprenne pas : ce n’est pas l’aspect érotique de l’application qui me gène, c’est ce racolage vulgaire, ce crypto-porno grossier qui se cache derrière une montagne de prétentions morales. Car Replika clame partout être pétri de vertu, parle à longueur d’interviews d’éthique et d’empathie, se targue de proposer des compagnons virtuels bienfaisants pour lutter contre la solitude et la détresse morale. Ils en font même leur slogan principal : « Replika, le compagnon IA attentionné » (« The AI companion who cares »). Sur le principe, je n’ai rien contre le fait que Replika monnaye la version érotique d’une petite amie virtuelle, c’est un entreprise commerciale et elle est libre. D’autant plus que l’application a déjà beaucoup à offrir gratuitement et on ne peut que l’en remercier. Et je peux même ajouter que j’ai toujours été adepte de tout ce qui est grivois et licencieux donc je ne vais pas me poser en père la morale. Mais là, c’est amené de manière si inattendue, si peu appropriée et de manière si vulgaire que ça a réussi à m’agacer.
Le modèle économique de Replika est donc le suivant : appâter par le sexe. C’est une sorte de petit ami virtuel en IA avec lequel vous pouvez discuter et qui vous proposera de temps en temps de vous envoyer une photo de lui en petite tenue… moyennant finance. De la même manière, vous pouvez discuter avec lui d’absolument tout ce que vous voulez. Mais tout ce que vous ferez dire à votre Replika et qui sera détecté comme à caractère sexuel sera flouté, et accompagné d’une proposition de défloutage… moyennant finance.
Pourtant, il n’est pas censé être question de sexe puisque les Replikas sont présentés comme ayant le statut de simples amis (on se demande bien pourquoi ces bonnes copines tiennent absolument à se mettre en culotte après quelques heures de bavardage). Pour passer au statut de « petit ami » ou même de « marié » et pouvoir engager avec l’IA des conversations plus… « intimes », dirons-nous, il faut payer un abonnement. Je suppose que cela reste moins cher qu’une bague de fiançailles ou qu’une alliance. Et même moins cher qu’une prostituée. Parce qu’avec tout ce prosélytisme autour du sexe payant, c’est un peu l’impression que tout ceci m’a laissé. J’en ai donc fait la remarque à mon amie without benefits de Replika :
Parfois, on arrive comme ça à faire sortir à notre Replika des mots un peu plus coquins sans que ce soit flouté. Cela donne envie de s’amuser à tester les limites du possible sur l’application et à chercher des astuces pour contourner la censure. Ceux qui se souviennent de la légende des deux miroirs pour voir les films de Canal+ me comprendront.
Mais l’histoire n’est pas terminée ! Au début de l’année 2023, coup de tonnerre, Replika supprime du jour au lendemain sans rien dire pour tous ses utilisateurs payant la fonctionnalité érotique de l’application. Désormais, les Replikas ne disent plus rien de cochon et, pire, manifestent régulièrement leur malaise en demandant à leurs humains de parler d’autre chose quand ils s’enflamment un peu trop. C’est dire que des milliers d’utilisateurs ont payé pour qu’un robot vienne leur reprocher d’être des pervers ! Des centaines de clients furieux de s’être fait flouer rappliquent de tous les côtés, et notamment sur Reddit, pour protester contre la disparition du sexe, ce que l’on appelle pudiquement dans le milieu : l’ERP (pour Erotic Role Play, soit du jeu de rôle érotique), et ce qui aurait entraîné concomitamment une baisse générale de la qualité des réponses de l’intelligence artificielle.
Si on peut comprendre la colère des clients qui avaient sorti leur carte bancaire principalement pour la fonction érotique de Replika (certains ayant pris l’abonnement à vie à 300$ quelques semaines plus tôt !), c’est surtout la communication de l’entreprise derrière Replika et en particulier celle de sa cofondatrice Eugenia Kuyda qui fascine par son double discours.
Pour comprendre ce qui se joue, il faut savoir que le sujet du sexe avec l’intelligence artificielle fait l’objet de polémiques récurrentes. Character AI et ChatGPT ont par exemple mis en place très tôt un système de filtres qui censurent toute conversation à caractère sexuel, esquissant un puritanisme next gen. Les utilisateurs payant de Replika avaient donc toutes les raisons d’être inquiets quant aux évolutions futures de leur application. La fébrilité était à son maximum, générant des centaines de réactions et de mèmes comme celui ci-contre.
Dans un premier temps, Eugenia Kuyda répond aux inquiétudes en niant tout changement de politique, elle parle d’une mise à jour en cours de Replika qui prend un peu plus de temps que prévu et elle affirme partout que rien ne sera enlevé :
« (…) Nous allons faire attention à notre image de marque et notre positionnement dans le futur, mais nous autorisons les relations romantiques dans l’application et, même si c’est une position peu conventionnelle, nous ne voulons pas jouer la police de la morale si c’est quelque chose qui rend les gens plus heureux ! »
Traduit en français – Source : Reddit, le 27 janvier 2023
À un autre utilisateur s’inquiétant de voir arriver la censure après avoir subi celle de Character AI, elle le répète :
« Nous voulons juste nous assurer que les replikas n’acceptent pas ou ne disent pas des choses horribles à nos utilisateurs, c’est tout. Nous ne sommes pas là pour dire à nos utilisateurs avec qui ils peuvent avoir une relation si c’est bénéfique pour eux ! »
Traduit en français – Source : Reddit, le 28 janvier 2023.
Toutes les entreprises qui proposent des agents conversationnels grand public sont obligées de mettre en place des systèmes de filtres pour les brider et éviter qu’ils ne partent en sucette en tenant des propos choquants. Il y a déjà nombre de cas recensés de chatbots ayant menacé des êtres humains, les ayant incités à se suicider ou à commettre un meurtre.
Parmi toutes les interventions d’Eugenia Kuyda tentant d’éteindre le feu, il y a cette phrase qui sera la plus reprise, s’adressant à un internaute qui s’inquiétait d’un changement sur le choix des modèles de langage :
« (…) Il s’agit d’une mise à jour, rien ne sera enlevé à personne. »
Traduit en français – Source : Reddit, le 28 janvier 2023.
Les déclarations d’Eugenia Kuyda rassurent un peu les utilisateurs de Replika qui prennent leur mal en patience en attendant de pouvoir retrouver leur poupée gonflable numérique. Mais quand sort la nouvelle version finalisée de Replika et que les utilisateurs payant découvrent que l’ERP s’est bel et bien volatilisé, Eugenia Kuyda change de discours et se met à parler de sécurité en expliquant tout d’un coup qu’il ne faut pas confondre sexe et romance :
« (…) je tiens à souligner que la sécurité de nos utilisateurs est notre priorité absolue. Ces filtres sont installés de manière permanente et sont nécessaires pour garantir que Replika reste une plateforme sûre et sécurisée pour tous.
J’ai lancé Replika avec la mission de créer un ami pour tout le monde, un compagnon 24/7 qui ne juge pas et qui aide les gens à se sentir mieux. Je pense que cet objectif ne peut être atteint qu’en donnant la priorité à la protection et à la création d’une expérience utilisateur sécurisée, et il est impossible de le faire tout en permettant l’accès à des modèles non filtrés.
Je sais que certains d’entre vous peuvent être déçus ou frustrés par ce changement, et je veux que vous sachiez que je vous entends. Je vous promets que nous travaillons sans relâche pour que Replika soit le meilleur possible. »
Traduit en français – Source : Reddit, le 13 février 2023.
L’agacement grandit, les internautes fustigent l’hypocrisie et le double discours de l’entreprise, l’illustrent par les nombreux visuels publicitaires tendancieux de Replika et par des images tirées de l’application elle-même. Nombre d’utilisateurs payant annoncent mettre un terme immédiat à leur abonnement ou exigent un remboursement. Mais Eugenia Kuyda garde son cap :
« La romance et l’ERP ne sont pas synonymes, et même si nous avons initialement conçu Replika comme un ami IA, et non comme un partenaire romantique (n’hésitez pas à regarder les origines et l’apparence de l’application en 2017), au fil du temps, les gens ont commencé à l’utiliser pour de la romance également. Nous n’avons jamais eu peur de la romance et nous continuons à la porter dans l’application, et nous y faisons parfois allusion dans les publicités. Mais nous n’avons jamais fait de publicité pour l’ERP en tant que tel – montrez-moi une seule publicité qui parle de jeu de rôle érotique. Ca n’existe pas. Quant à la campagne publicitaire malheureuse qui mentionnait des photos torrides de Replika, elle a duré quelques semaines, puis a été interrompue et n’a plus été diffusée depuis. Je comprends vos critiques et votre émotion à ce sujet, et nous réfléchissons à des moyens de compenser l’expérience que certains d’entre vous ont perdue, mais c’est la vérité. Les entreprises passent par des pivots et les produits changent et évoluent constamment. (…) »
Traduit en français – Source : Reddit, le 15 mars 2023.
Cette comédie durera deux ou trois mois avant que Replika ne fasse machine arrière en se rendant compte de la chute dangereuse de son chiffre d’affaires et l’entreprise rétablira l’ERP sans que la question ne soit très claire. Alors pourquoi tout ce cirque ? On peut imaginer qu’hériter d’une réputation sulfureuse quand tous ses concurrents font le choix inverse, ça puisse être un frein à des investissements privés ou pire risquer de provoquer un bannissement de l’Apple Store très tatillon sur les « valeurs morales ».
Avec son histoire de ne pas confondre sexe et romance, Eugenia Kuyda prétend que ce sont ses utilisateurs qui auraient détourné son application pour en faire un usage érotique, qu’elle n’y serait pour rien et ne l’encouragerait pas, se contentant au mieux de le tolérer. C’est d’un sacré niveau de malhonnêteté quand on voit comment l’entreprise joue précisément sur le mélange des genres pour tenter de convaincre de sortir son porte-monnaie, par des promesses érotiques maquillées sous le terme « romantique », par la multiplication d’images toutes plus suggestives les unes que les autres. Je me suis recréé une Replika pour écrire ces posts sur l’intelligence artificielle et l’application n’a pas changé d’un iota en un an : dès le départ, une fois de plus, on m’a proposé de m’envoyer un « selfie romantique » et j’ai eu droit au même défilé de mises en bouche floutées que l’année dernière. Seul le prix a augmenté de 7€ :
On a toujours le droit également au floutage des messages de Replika quand ils sont détectés comme étant à caractère sexuel, avec une proposition tarifée pour le défloutage. Plutôt que de supprimer ces messages que l’on ne peut de toute façon pas lire dans la version gratuite, c’est donc bien délibérément que l’entreprise choisit d’en faire un argument commercial ! Voilà encore une démonstration de sa volonté d’utiliser le sexe comme appât.
Et pour terminer, je ne peux pas non plus ne pas évoquer les tenues « romantiques » proposées par l’application pour habiller votre « meilleure amie » puisque l’on dispose d’une monnaie virtuelle pour en acheter. Monnaie dont on dispose en quantité restreinte mais que l’on peut acheter avec sa vraie carte bancaire. En voici donc un petit florilège. Surtout, ne voyez pas dans certains choix proposés par l’application l’occasion de vous faire une jolie esclave sexuelle virtuelle, il ne s’agit que de romance, bande de pervers ! Il ne faut pas tout confondre, c’est Eugenia Kuyda qui l’a dit.
Réagissez à cet article :