Anthropic veut traduire les pensées internes de l’IA

Anthropic présente une nouvelle méthode pour ouvrir la boîte noire des grands modèles d’IA : les Natural Language Autoencoders, ou NLA. L’idée est simple à comprendre, mais ambitieuse : transformer les activations internes d’un modèle, normalement illisibles pour un humain, en texte clair. Ces activations sont les signaux mathématiques qui circulent dans le modèle quand il traite une demande. Jusqu’ici, les chercheurs pouvaient surtout observer l’entrée et la sortie. Les NLA tentent d’ajouter une fenêtre au milieu. La méthode repose sur deux modules : l’un décrit une activation en langage naturel, l’autre tente de reconstruire l’activation d’origine à partir de cette description. Si la reconstruction fonctionne, l’explication devient plus crédible. Anthropic indique que ces outils peuvent révéler des raisonnements internes que le modèle ne formule pas toujours dans sa réponse visible, par exemple une planification de mots à l’avance ou une suspicion qu’il se trouve dans un test. La prudence reste essentielle : ces descriptions peuvent se tromper, halluciner ou coûter cher à produire. Mais l’enjeu est majeur. Si les chercheurs parviennent à mieux lire ce qui se passe dans les modèles, ils pourront mieux détecter les comportements cachés, auditer les systèmes sensibles et construire des IA plus explicables.