Une étude consacrée aux méthodes d’arrêt anticipé pour les grands modèles de raisonnement montre que l’interruption du raisonnement généré peut réduire l’utilisation de tokens, mais que le compromis entre précision et fiabilité varie selon les modèles et les tâches. Les chercheurs ont évalué ces méthodes dans les domaines du raisonnement mathématique et scientifique, de la génération de code et de la factualité, à l’aide de cinq modèles et d’un protocole de rejeu commun.
L’article présente le Target-Integrated Token Efficiency (Tite), une mesure qui compare l’utilisation de tokens d’une méthode à celle d’un oracle, pour différentes cibles de précision. Dans les expériences rapportées, l’oracle — qui choisit parmi plusieurs budgets de raisonnement discrets — a obtenu une précision supérieure à celle du raisonnement naturel, complet, des modèles dans plusieurs contextes. Par exemple, pour le raisonnement mathématique et scientifique, gpt-oss-20b a obtenu 0.894 avec l’oracle, contre 0.824 avec le raisonnement complet. Pour la génération de code, R1-Qwen3-8B a atteint 0.514 avec l’oracle, contre 0.382 avec le raisonnement complet ; sur les benchmarks de factualité, le même modèle a obtenu 0.730 contre 0.540.
Ce potentiel ne signifie pas que les techniques d’arrêt existantes parviennent de manière fiable à trouver le meilleur moment pour interrompre le raisonnement. L’étude indique que les méthodes plus agressives, notamment DTSR-1 et CoDE-Stop, utilisaient souvent moins de tokens, mais subissaient d’importantes pertes de précision. DEER, EntroCut et PUMA ont présenté, dans certains cas, des compromis plus favorables entre précision et efficacité, mais aucune méthode n’a été systématiquement la meilleure dans tous les contextes.
Les résultats montrent également pourquoi la précision, à elle seule, peut être trompeuse. Pour le raisonnement mathématique avec gpt-oss-20b, Statistical Early Exit a égalé la précision du raisonnement complet, à 0.824, mais a enregistré un score TITE de 0.191. DEER et EntroCut ont obtenu une précision moindre, de 0.773, mais des scores TITE plus élevés, de 0.381 et 0.380. Les auteurs indiquent que les méthodes actuelles peinent encore à repérer des points d’arrêt fiables tout en maintenant à un faible niveau le coût de leur vérification.
Les chercheurs ont également vérifié si les réponses restent correctes à mesure que le raisonnement se poursuit. Ils ont constaté des cas où la justesse diminuait aux étapes ultérieures davantage que ne le prévoyait leur modèle du bruit de décodage. Leurs vérifications de fiabilité ont aussi révélé que le raisonnement se poursuivait après une interruption forcée et que certaines sorties présentant une réponse correcte dès le début s’appuyaient sur un raisonnement justificatif plus faible. Ces résultats suggèrent que l’évaluation de l’arrêt anticipé doit aller au-delà des économies de tokens et de la précision de la réponse finale, et examiner si le raisonnement conservé étaye la réponse.
Sources: arXiv cs.AI.