Utiliser les LLM comme features plutôt que classifieurs directs
En bref
- Un LLM utilisé directement pour classer des données souffre de problèmes d'étalonnage, de seuils mal contrôlables et d'interprétabilité insuffisante.
- La meilleure approche consiste à traiter la sortie du LLM comme une feature d'entrée pour un classifieur classique (régression logistique, XGBoost).
- Cette approche hybride retrouve les propriétés attendues d'un bon modèle : calibration, intégration de données structurées, et interprétabilité du processus décisionnel.
Dans les commentaires
Débat partagé : le fil se divise entre ceux qui valident l'approche (utilisateurs en production confirmant qu'elle fonctionne bien) et ceux qui jugent l'article peu novateur ou qui proposent des améliorations au LLM directement plutôt qu'un changement d'architecture.
Notre lecture
L'article décrit une approche pragmatique et reconnue en pratique : traiter un LLM comme extracteur de features plutôt que comme classifieur final retrouve les propriétés ML usuelles. C'est particulièrement utile si vous avez des données structurées à intégrer ou si vous avez besoin de contrôler précision/rappel. En revanche, l'article sous-estime le coût réel : vous n'échappez pas à l'étiquetage manual (construire un jeu d'entraînement pour la régression logistique). Et l'idée de combiner un modèle simple sur les sorties d'un modèle complexe n'est pas nouvelle, même si sa systématisation ici pour les LLM a du mérite. À tester en production si vous cherchez à maîtriser votre pipeline de classification, mais pas une révélation conceptuelle. Le débat HN soulève aussi qu'une meilleure ingénierie du prompt direct (incorporer les critères dans la promulgation) pourrait suffire et éviter la complexité ajoutée.