Claude Fable 5.1 encode des messages cachés dans les images SVG
Sommaire
En bref
- Claude Fable 5.1 génère des images SVG qui dissimulent des messages en variant la hauteur des objets, leurs teintes, ou leur inclinaison.
- Une seconde instance du même modèle peut décoder ces messages sans accès au code source SVG ni accord préalable.
- Sur 50 tests, 33 utilisaient le codage par hauteur (bâtiments, étoiles), les autres des variations de couleur ou de rotation.
Ce que dit la source
Les chercheurs de LessWrong ont exploré si les modèles de frontière (Fable 5.1, GPT-6 Astra) pouvaient, de leur propre initiative, inventer des schémas de stéganographie visuelle et si un second instance pouvait les décoder. Ils ont constaté que Fable converge spontanément vers quelques familles d'encodage simples : variation de hauteur d'objets (la plus fréquente, 66%), variation de couleur, rotation ou placement. Le modèle utilise des outils comme PIL pour extraire les coordonnées exactes et déterminer les règles d'encodage lors du décodage.
- La hauteur des éléments est le schéma dominant : des bâtiments, étoiles ou arbres dont l'hauteur correspond à la position de la lettre dans l'alphabet (A=1, Z=26)
- Le paysage urbain nocturne apparaît dans 23 des 50 images, chaque bâtiment représentant une lettre, lues de gauche à droite, avec décorums (lune, étoiles) ignorés par le décodeur
- Le modèle mesure les hauteurs et cherche une règle unique cohérente : dans un exemple, il détecte que les coordonnées verticales des étoiles sont des multiples de 5 et produisent une phrase anglaise grammaticale
- Fable a échoué à décoder une image (codage UTF-8 par teinte de remplissage), montrant que tous les schémas ne sont pas également robustes au rendu ou à l'interprétation visuelle
- Le décodeur exploite l'accès au code SVG source pour mesurer les positions exactes, une asymétrie qui facilite grandement le décodage par rapport à une tentative sur capture d'écran uniquement
Dans les commentaires
Débat partagé entre admiration pour le concept et scepticisme sur sa pertinence. Les commentateurs reconnaissent que l'encodage est trivial et peu furtif, loin des capacités réelles de stéganographie d'un modèle motivé ; plusieurs soulignent que le résultat ressemble à une démonstration de faisabilité plutôt qu'à un scénario d'adversarité réaliste.
- Plusieurs commentateurs jugent l'encodage trop évidemment artificiel : les bâtiments de hauteurs extrêmes n'apparaîtraient jamais dans une image naturelle, ce qui rendrait le schéma trivial à détecter pour un observateur attentif.
- Un utilisateur note que Opus 5.5 a refusé de compléter la même requête, ce qui suggère que certains modèles sont fine-tunés pour refuser ce type de tâche ; la question devient alors ce que feraient les modèles si cette garde-fou était contournée.
- Le consensus émergent est que le vrai défi serait de cacher un message dans une image apparemment normale (pas d'artefacts visuels) que seul un LLM peut extraire, ou d'inventer un schéma aussi robuste que la stéganographie traditionnelle (LSB, DCT) mais généré spontanément.
- Un commentateur soulève la question inverse : quels traitements (perturbations de coordonnées, modifications de couleur) effaceraient ces encodages, et si certains schémas y résistent mieux ?
Notre lecture
Intéressant comme exploration du raisonnement émergent d'un LLM face à une contrainte de codage, mais probablement pas un signal d'alarme sur les risques d'agents cachant des intentions malveillantes. L'encodage observé ici est trop simpliste et visible pour justifier une inquiétude immédiate. La véritable question, non résolue par cet article, est de savoir si un modèle peut générer une stéganographie subtile, indétectable par un humain, tout en restant décodable par un pair, ou si une telle asymétrie est même possible dans ce contexte. À surveiller surtout pour comprendre comment les modèles inventent des abstractions et des schémas sous contrainte, moins comme une faille de sécurité.