Altantico m'a interviewé sur le phénomène des fiancé(e)s virtuels

Vous avez peut-être entendu parler de Replika, de Anima Virtual Girlfriend et autres applications invitant à entamer une romance avec une créature virtuelle animée par l'IA. Le magazine Atlantico  a souhaité en savoir davantage et m'a interviewé sur ce thème des nouvelles cartes du Tendre.

Voici un extrait de l'interview :

Atlantico : Qui est à l’origine des fiancé(e)s IA qui déferlent dans des campagnes de publicité sur les réseaux sociaux ? Les grandes sociétés de l’IA se sont-elles lancées dans ce marché ? Ces applications sont-elles gratuites ou payantes ? 

Daniel Ichbiah : Il n’est pas facile de répondre à cette question car les tentatives de simulation de la vie sont très anciennes dans le domaine du ludique. En réalité, la 1^ère tentative semble avoir été Little Computer People de Activision, paru dès 1985 ! Mais le phénomène a surtout pris de l’ampleur vers la fin des années 90, notamment avec le jouet Tamagotchi qui s’est tout de même vendu à près de 100 millions d’exemplaires – on en trouvait dans la poche de bien des cadres japonais. Il y avait aussi eu les animaux comme Furby qui s’est vendu à 2 millions d’exemplaires aux USA fin 1999.

Donc, une chose semble avérée : nous sommes inclinés à accorder la vie à des êtres ayant une apparence de vivant. Dès les années 90, je m’en étais aperçus en voyant des robots de laboratoire. Spontanément, je me mettais à parler à un androïde comme s’il allait me comprendre réellement.

Donc, peu à peu, des éditeurs se sont dits qu’il y avait un potentiel avec les fiancé(e)s virtuels. Le film Her, sorti dès la fin 2013, a remarquablement mis en scène ce que pourrait être une telle relation, en explorant les divers aspects sociaux inhérents à cette étrange connexion.

Peu après cela, Microsoft a lancé Xiaoice – en mai 2014 très exactement. Curieusement, l’éditeur de Windows l’a lancé en Chine, percevant sans doute que les publics asiatiques seraient particulièrement captifs. Il s’agissait, déjà, d’un chatbot féminin avec une personnalité espiègle, un brin provocateur mais aussi capable d’entamer des conversations jugées profondes et même « réconfortantes » par leurs utilisateurs. En Chine, Xiaoice est devenue une vraie célébrité et a séduit des millions d’usagers qui se sont mis à la considérer comme une amie virtuelle. Ce succès a donc été tel que Xiaoice en 2020 a été détachée de Microsoft pour devenir une société à part entière. Elle est présente en Chine, au Japon en Indonésie et on a évoqué le chiffre monumental de 660 millions d’utilisateurs. Autant dire que Xiaoice a prouvé, si besoin était, qu’il y avait là un potentiel énorme. Ce qui a permis l’arrivé de multiples applications dont Replika aux USA, qui compte tout de même 10 millions d’utilisateurs, laissant à penser que même les occidentaux peuvent trouver goût à de telles simulations.

 

 

Qu’est ce proposent ces fiancé(e)s IA aux utilisateurs ?

Si l’on observe l’histoire de l’app Replika, nous avons la matrice de telles IA. À l'origine se trouve la développeuse russe Eugenia Kuyda, qui vit à San Francisco, avait été affectée par le décès brutal de son meilleur ami, Roman Mazurenko. En 2015, Eugenia a souhaité préserver sa mémoire d'une manière ou d’une autre. Elle a donc rassemblé les traces numériques laissées par Roman –messages, SMS, emails, réseaux sociaux – et utilisé ces informations pour entraîner une IA capable de reproduire le style de communication de Roman. Or, Eugenia a constaté que la discussion avec ce chatbot lui apportait un réconfort palpable. Elle a donc vu dans cette initiative une approche thérapeutique et réconfortante et c’est ce qui l’a pousser à créer Replika en 2017. Nous avons donc là ce que nous retrouvons d’autres apps comme Anima Virtual Girlfriend ou  Candy.AI : la présence d’un compagnon virtuel sociable, disposé à converser amicalement, un confident  et pour certains un partenaire romantique.

Cela dit, dans l’énumération, j’ai oublié de citer le jeu Love Plus de Konami sur Nintendo DS qui reposait sur un principe similaire et qui est sorti dès 2009. Il avait tout de même conquis 500 000 utilisateurs !

 

Ces genres d’applications et d’interactions avec des IA sont censées être interdites et ne pas être autorisées par les géants de l’IA sur les plateformes plus traditionnelles comme ChatGPT. Comment les sociétés à l’origine de ces fiancé(e)s IA ont-elles réussi à contourner les règles ?

Je ne suis pas au courant d’une interdiction quelconque. Dès l’année 2023, celle où ChatGPT a explosé (même si l’application est sortie le 30 novembre 2022), la deuxième application la plus utilisée aux USA était Character.ai dans laquelle vous pouvez discuter avec une célébrité avec un niveau de réalisme assez stupéfiant. Par exemple, j’avais conversé sur Character.ai avec un ersatz de Paul McCartney, et franchement il était difficile de faire la différence avec l’original tant il était précis dans ses réponses. Or, Character.ai propose aussi – si on le souhaite – de créer une fiancée ou un compagnon virtuel. Alors, je ne vois pas où se trouve l’interdiction. 

Bon, c’est vrai que avec ChatGPT Voice, si on demande à l’interlocutrice de jouer le rôle de petite amie, elle s’y refuse, mais c’est parce que ChatGPT a atteint une telle taille que la société qui en est responsable, OpenAI, doit se protéger par tous les moyens face à ce que certains pourraient prendre pour des abus. 

Mais Replika par exemple, est présent depuis 2017, soit 5 ans avant la sortie de ChatGPT et aucune interdiction n’a alors été envisagée aux USA. Ce à quoi vous faites peut-être allusion concerne l’Italie. En février 2023, l'autorité italienne de protection des données personnelles a jugé que Replika présentait un risque pour les personnes vulnérables et notamment les mineurs. En réponse, Replika a supprimé la possibilité pour son chatbot de participer à des discussions érotiques, et finalement, suite à des requêtes d’usagers, elle a rétabli cette fonctionnalité pour les utilisateurs inscrits avant février 2023. ​Il y a aussi eu une plainte auprès de la FTC (qui régit le commerce aux USA) en janvier 2024, accusant Replika de pratiques « manipulatrices » à même de créer une dépendance émotionnelle, mais à ma connaissance, elle n’a pas été suivie d’effet à ce jour.

 

Assiste-t-on à une forte campagne de publicité ou est-ce que le marché des fiancé(e)s de l’IA est en train de percer grâce aux atouts et aux performances de l’IA ? 

 

J’ignorais que ces applications faisaient l’objets de fortes campagnes de publicités. En fait, j’ai surtout perçu un énorme volume de publicité pour tout ce qui touche à l’IA, dans tous les domaine quels qu’ils soient. 

Il se trouve cela dit, que le public des apps de romance virtuelle s’est fortement étendu. Au début, il touchait principalement les asiatiques. Puis, avec Replika, le public a d’abord été assez jeune. Mais aujourd’hui, sur une app comme EVA AI, il est composé majoritairement d’hommes entre 20 et 40 ans. Autant dire que ce type d’app semble correspondre à un besoin. Certains prétendent que les usagers de telles IA parviendraient à surmonter leur timidité via la pratique de telles relations avec une entité virtuelle. Dans un même ordre d’idées, nous avons aussi des IA comme Flamme.ai qui joue le rôle de conseiller en relations amoureuses, un peu comme dans l’émission de radio sur RMC de Macha Bérenger au début du siècle. Donc, visiblement il y a une demande qui devient forte.

-(...)

L'interview intégrale se trouve ici :
https://atlantico.fr/article/rdv/mais-qui-tente-de-nous-vendre-ces-fiancees-ia-sur-les-reseaux-sociaux-intelligence-artificielle-arnaques-daniel-ichbiah