Une influenceuse utilise un bot vocal alimenté par GPT-4 pour converser à sa place avec ses fans

Caryn Marjorie, une jeune influenceuse américaine aux 1,8 millions de followers sur Snapchat, s’appuie depuis peu sur l’IA d’OpenAI pour discuter avec ses fans les plus assidus, selon une information de Fortune. Au lieu Caryn Marjorie, ces derniers conversent et échangent des messages intimes avec CarynAI, un chatbot vocal qui lui sert de doublure. «J'ai toujours été très très proche de mon public, mais lorsque vous avez des centaines de millions de vues chaque mois, il n'est pas humainement possible de parler à chaque visiteur. CarynAI va combler cette lacune», explique l’influenceuse. 

Pour converser avec la «petite amie virtuelle» sur l’application Telegram, les fans (principalement des hommes) doivent cependant débourser 1 dollar par minute. Selon Fortune, l’influenceuse aurait récolté plus de 70’000 dollars rien que pendant la semaine où le bot était en version bêta. Si elle parvient à rallier 20’000 de ses fans au service, elle pense que le bot pourrait lui rapporter 5 millions de dollars par mois.

CarynAI s’appuie sur la technologie de Forever Voices, société spécialisée dans les bots reprenant les voix de célébrités. Selon Fortune, la firme a reconstruit la voix et la personnalité de Caryn Marjorie à partir de 2’000 heures de vidéos Youtube de l’influenceuse. CarynAI s’appuie en outre sur l’API GPT-4 d’OpenAI pour générer le texte. 

«Utilisant sa voix unique, sa personnalité captivante et son comportement distinctif, CarynAI vous apporte une interaction dynamique unique en son genre qui vous donne le sentiment de parler directement avec Caryn elle-même», peut-on lire sur le site de Forever Voices. «J'ai littéralement pleuré pendant que je l'utilisais, à cause de la profondeur de la connexion et du soutien que je ressentais de la part de l'IA», explique le CEO de l’entreprise John Meyer, qui voit beaucoup d’avenir dans ces compagnons virtuels romantiques. 

Contacté par Fortune, Robert Brook, auteur d’un livre sur le sujet («Artificial Intimacy: Virtual Friends, Digital Lovers and Algorithmic Matchmaters»), s’inquiète quant à lui que la possibilité de nouer des relations intimes avec des influenceurs IA ne conduisent les gens à les préférer aux relations réelles. Une inquiétude qu’exprimait il y a quelques années Sherry Turkle dans «Alone Together».

Depuis la publication de l’article de Fortune, l’influenceuse a vu l’emploi de CarynAI exploser, quelque 8’000 utilisateurs payant pour plus de 10 minutes d’échange avec le bot. Mais les détracteurs de Caryn Marjorie se sont aussi manifestés fustigeant son outil dystopique. L’influenceuse aurait également reçu des lettres de menace de groupes religieux.