Anthropic découvre un espace caché où Claude élabore ses réponses

Anthropic a développé un outil baptisé Jacobian lens (J-lens) permettant d'observer un espace latent inédit, le J-space, à l'intérieur de Claude Opus 4.6. Cet espace contient des mots-clés reflétant ce que le modèle est sur le point de produire, avant même qu'il génère une réponse. Les chercheurs ont constaté que le comportement réel du LLM diverge souvent de ce qu'il déclare faire. Anthropic collabore avec Neuronpedia pour proposer une démo publique et envisage d'utiliser ce mécanisme pour mieux contrôler ses modèles.