Et voici AutoGPT, un ChatGPT qui s'affranchit des questions posés par les humains
Les déclinaisons de ChatGPT se multiplient. A l'image d’AutoGPT, qui donne de l'autonomie au modèle GPT-4. Ce programme expérimental a lui-même une déclinaison maléfique: ChaosGPT.
Une IA a fait le buzz ces derniers jours: AutoGPT. De quoi s’agit-il? Pour faire court, cet outil est un script qui automatise ChatGPT. Sur sa page Github, le développeur qui a lancé le projet, Toran Bruce Richards (connu en ligne sous le pseudo Significant Gravitas), explique qu’Auto-GPT est une application expérimentale à code source ouvert basé sur GPT-4 (le large modèle de langage d’OpenAI au cœur de ChatGPT). L’outil en combine les «pensées», selon le terme du développeur, pour atteindre de manière autonome un objectif précis.
Interrogé par le site spécialisé MotherBoard (Vice), Toran Bruce Richards explique que la capacité de fonctionner avec un minimum d'intervention humaine est un aspect crucial d'Auto-GPT. «Il transforme un grand modèle de langage, qui est essentiellement un auto-compléteur avancé, en un agent indépendant capable d'effectuer des actions et d'apprendre de ses erreurs», ajoute le développeur.
Des cas d’usage à clarifier
Quels sont les cas d’usage d’AutoGPT? Selon l’article de MotherBoard, le programme pourrait par exemple développer un site web, créer une newsletter, compiler des pages en ligne en réponse à la demande d'un utilisateur, et accomplir d'autres tâches comprenant de multiples étapes et un processus d'itération. Reste que la communauté de développeurs investie dans le projet n’a visiblement pas encore d’idées bien précises des applications envisageables. En témoigne une annonce du 18 avril sur le groupe Discord de Significant Gravitas: «Nous recherchons des exemples uniques de cas d'utilisation ayant des implications dans le monde réel.»
ChaosGPT, la face sombre d’AutoGPT
On ne sait pas si l'auteur de ChaosGPT s’est manifesté suite à cette annonce… Toujours est-il que ce développeur anonyme a publié une vidéo sur Youtube, présentant sa «version modifiée d'Auto-GPT utilisant l'API officielle d'OpenAI», décrite comme une «IA destructrice, assoiffée de pouvoir et manipulatrice» dont la mission consiste à détruire l'humanité… ChaosGPT ne semble heureusement pas très abouti. L’un des commentaires sous la vidéo fait ainsi observer: «La question est de savoir si elle progressera un jour ou si elle se contentera de compiler sans cesse davantage d'informations sur les armes les plus meurtrières de l'histoire de l'humanité. Quand sera-t-elle capable de se dire que suffisamment d'informations à ce sujet sont suffisantes, et sera-t-elle prête à décider de passer à l'étape logique suivante, à savoir l'obtention/utilisation de ces armes?».
Reste que les expérimentations autour des déclinaisons de ChatGPT illustrent d'emblée les enjeux éthiques et les risques que posent le développement de tels outils (lire aussi >> La drôle d’éthique d’OpenAI). Dans sa «system card» qui accompagne GPT-4, l’éditeur anticipe d'ailleurs ce genre de dérives, notant qu’il est «essentiel de comprendre comment GPT-4 interagit avec d'autres systèmes pour évaluer les risques que peuvent présenter ces modèles dans divers contextes réels.»
