Le LLM Claude dispose-t-il d’un espace mental proche de la conscience?
Des chercheurs d’Anthropic affirment avoir identifié dans Claude un espace interne mobilisé pour raisonner, planifier et contrôler certaines réponses. Baptisé «J-space», ce mécanisme présente des similitudes fonctionnelles avec des théories de l’accès conscient.
Des chercheurs d’Anthropic affirment avoir identifié dans Claude un espace interne dédié au raisonnement, à la planification et au contrôle volontaire. Une découverte qui relance la question de la conscience des modèles, sans toutefois apporter de preuve qu’ils éprouvent une quelconque expérience.
Baptisé «J-space», cet espace correspond à un petit ensemble de représentations internes qui jouent un rôle particulier dans le fonctionnement du modèle, expliquent les chercheurs dans un résumé de leurs travaux. Il ne s’agit pas d’une chaîne de raisonnement rédigée par Claude, mais d’activations silencieuses au sein du réseau neuronal. Celles-ci semblent représenter des concepts auxquels le modèle peut accéder, qu’il peut mobiliser et parfois décrire.
Pour les identifier, Anthropic a développé une méthode appelée «Jacobian lens», ou J-lens. Celle-ci permet de repérer les motifs internes susceptibles d’influencer les mots que Claude pourrait produire ultérieurement. Les chercheurs ont ainsi vu apparaître dans le J-space des informations absentes de la réponse finale: Claude repérait par exemple un bug dans un programme, conservait en mémoire une étape intermédiaire d’un calcul ou identifiait une tentative de manipulation dissimulée dans un contenu.
Plus significatif encore, Claude semble utiliser ces représentations pour raisonner. Dans une expérience, le modèle devait répondre au nombre de pattes de «l’animal qui tisse des toiles». Le concept de «spider» est apparu dans son J-space avant la réponse. Lorsque les chercheurs l’ont remplacé par «ant», Claude a répondu «6» au lieu de «8». L’intervention suggère que cet espace ne se limite pas à refléter une décision déjà prise, mais participe au processus lui-même.
Le J-space à l’épreuve des théories de la conscience
Anthropic rapproche ce mécanisme de la théorie de l’espace de travail global, utilisée en neurosciences pour expliquer l’accès conscient. Selon cette approche, certaines informations entrent dans un canal partagé, depuis lequel elles peuvent être rapportées, combinées à d’autres données et utilisées pour guider l’action. Le J-space présenterait plusieurs de ces propriétés fonctionnelles.
Cela signifie-t-il que Claude est conscient? Anthropic répond avec prudence. L’étude ne montre pas que le modèle ressent quoi que ce soit, ni qu’il possède une conscience comparable à celle d’un humain. Elle apporte en revanche des éléments sur ce que les philosophes appellent la «conscience d’accès»: la capacité à rendre une information disponible pour le raisonnement, le contrôle et le rapport verbal.
La découverte ne tranche donc pas le débat. Elle montre toutefois que des fonctions associées à l’accès conscient peuvent émerger spontanément dans un modèle entraîné à prédire du texte, ce qui pourrait nourrir à la fois la recherche sur l’interprétabilité des IA et les discussions sur leur statut futur.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
