How LLMs got better at reasoning: A few advances from 1906 to 2021, and then from 2022 to 2026
Year: 2026
Type: conference-paper
Abstract: L'exposé présentera quelques idées ayant contribué à l'amélioration des performances des LLM dans des tâches de "raisonnement" (notamment, mathématiques et programmation). Certaines concernent l'entraînement du modèle, d'autres une meilleure exploitation d'un modèle déjà entraîné (donc à l'inférence). Une avancée importante est l'utilisation de l'apprentissage par renforcement avec récompenses automatiquement vérifiables (RLVR). Lorsque les réponses peuvent être vérifiées automatiquement, le modèle peut apprendre sans qu'il soit nécessaire de lui fournir des traces de raisonnement humaines. Cette approche permet d'exploiter toutes les tentatives de résolution du modèle, sans se limiter à des raisonnements humains fournis en exemple. D'autres progrès viennent à l'inférence : forcer le modèle à générer des étapes intermédiaires de raisonnement, exploration de plusieurs tentatives, utilisation d'outils et augmentation du temps de calcul pour les problèmes difficiles.
Source: ORBi UMONS
Author: Vandenhove, Pierre
Institution: University of Mons
Language: English
Topic: Topic Modeling
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7224146994