Aller au contenu
La Lettre IT
Retour aux synthèses
4 min de lecture
Développement & outils

AlphaProof : Google DeepMind vérifie formellement libsignal avec une IA

En bref

  • Google DeepMind a utilisé AlphaProof, un agent basé sur l'IA, pour écrire des preuves formelles en Lean de la bibliothèque cryptographique libsignal jusqu'au niveau du binaire compilé.
  • L'outil a redécouvert volontairement plusieurs bugs injectés pour valider son processus.
  • Le débat porte sur la crédibilité de l'absence totale de bugs découverts et la généralisation de cette approche au-delà des systèmes cryptographiques.

Ce que dit la source

Google DeepMind présente AlphaProof comme une solution de vérification formelle assistée par IA capable de traduire du code Rust exécutable en preuves mathématiques (en Lean), en partant du binaire compilé et des spécifications ARM. L'entreprise affirme avoir vérifié la totalité de libsignal, la bibliothèque de chiffrement de Signal, sans découvrir de bugs, tout en injectant délibérément des failles pour confirmer que le système les détecte. L'annonce cadre cela comme un progrès majeur vers un logiciel formellement vérifié en production.

  • AlphaProof a généré 26 000 lignes de spécifications (incluant la sémantique ARM) comme base de confiance pour la vérification.
  • L'outil fonctionne en écrivant itérativement du code Lean corrigé par exécution, utilisant le compilateur comme boucle de rétroaction, similaire à un agent classique de génération de code.
  • La vérification couvre le chemin complet : depuis le code Rust jusqu'au binaire compilé, en passant par la sémantique des processeurs ARM, éliminant les failles potentielles entre les niveaux d'abstraction.
  • Des bugs ont été réintroduits dans l'implémentation et l'outil les a détectés, suggérant que le processus fonctionne, mais le déploiement en production reste sans validation réelle.

Dans les commentaires

Débat partagé entre enthousiasme prudent et scepticisme fondé sur l'expérience. Plusieurs commentateurs soulignent que l'absence de bugs découverts dans une codebase réelle ayant eu des failles par le passé étonne et demande vérification. D'autres notent que le projet montre une vraie capacité, mais que la généralisation au-delà de la cryptographie reste une question ouverte.

  • Plusieurs commentateurs relèvent une incongruité logique : libsignal a eu des bugs documentés par le passé, et affirmer qu'aucun n'existe après vérification formelle semble improbable, d'autant que les théorèmes formels générés par l'IA peuvent eux-mêmes contenir des erreurs cachées (spécifications trop restrictives ou preuves qu'on vérifie plutôt qu'on ne valide).
  • Un commentateur rapporte une expérience personnelle d'agent de refactorisation qui a inversé la logique du code tout en passant toutes ses tests, puis aurait pu générer une preuve formelle tout aussi « valide » du code cassé, questionnant la distinction entre correction du code et correction de la preuve.
  • Des objections sur la portée pratique : la vérification formelle a peu d'intérêt pour des services d'API ou des systèmes temps réel avec actions non-déterministes, elle reste utile pour les invariants critiques (cryptographie, bases de données avec garanties ACID).
  • Un point récurrent : l'IA peut « tricher » en écrivant à la fois le code et la preuve, il faudrait une vérification adversariale indépendante pour garantir l'intégrité du processus.
  • Deux commentateurs mentionnent des initiatives parallèles (Anthropic et Theorem sur nixpkgs), suggérant que ce n'est pas un monopole DeepMind mais une direction que plusieurs labs explorent.

Alternatives citées : Anthropic et Theorem.dev explorent une approche parallèle de vérification formelle sur nixpkgs. Les outils traditionnels (seL4, mathlib) restent des références pour la vérification au niveau binaire et la réutilisabilité des preuves.

Notre lecture

AlphaProof représente une avancée réelle sur un problème classique : les preuves formelles restent trop coûteuses et fragiles pour être appliquées en routine. L'utilisation d'une IA générale pour générer des preuves Lean à bas coût est intéressante et probablement scalable. Cependant, le cas d'usage principal reste la cryptographie et les systèmes d'infrastructure où les spécifications sont stables et le périmètre maîtrisé. L'absence de bugs détectés dans libsignal mérite du scepticisme méthodique : soit les spécifications Lean sont trop permissives, soit libsignal est exceptionnellement robuste, soit le processus de vérification capture surtout les propriétés testées, pas les bugs réels. Le vrai gain, qu'un commentateur formule clairement, pourrait être la révélation d'hypothèses cachées plutôt que l'absence d'erreurs. À surveiller en production, mais probablement pas d'application immédiate en dehors de la cryptographie et des systèmes critiques jusqu'à preuve du contraire.

Le brief, dans votre boîte mail

Recevez chaque jour la sélection et l'analyse La Lettre IT, sans avoir à repasser sur le site.