Un retour d'expériences sur l'adaptation de modèles de langue à la presse régionale : connaissance n'est pas compétence !
Year: 2026
Type: conference-paper
Abstract: Nous présentons une étude sur l'adaptation de modèles de langue (ML) généralistes à la presse régionale. En particulier, nous nous intéressons aux faits et relations spécifiques au journal appris lors de l'adaptation du ML et à l'impact sur des tâches classiques. Nous analysons les conséquences de l'adaptation du vocabulaire et de la poursuite du pré-entraînement pour deux modèles bidirectionnels récents et mettons en évidence que ces deux étapes permettent de mieux capturer les spécificités du journal et d'acquérir des connaissances. Nous évaluons ensuite l'impact sur différentes tâches canoniques montrent que l'adaptation des ML n'améliore pas les performances sur nos tâches, en dehors du cas où les données d'apprentissage sont fortement limitées.
Source: HAL
Language: French
Topic: Topic Modeling
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
SDG: Quality education
Open Access status: green
OpenAlex ID: W7202061854