From traditional to large language models: a novel nlp-based model for sentiment analysis in social media
Year: 2025
Type: dissertation
Abstract: Aquesta tesi aborda la necessitat d'eines d'anàlisi de sentiments en català mitjançant la creació d'un nou corpus equilibrat de 23.000 mostres i el desenvolupament d'un model de classificació especialitzat, el CSXSC. Aquest model RoBERTa ajustat, només amb codificador i 125 milions de paràmetres, es va comparar amb dos models només amb descodificador i 7.000 milions de paràmetres entrenats eficientment mitjançant QLoRA. Els resultats demostren la superioritat del model especialitzat, que va aconseguir una precisió del conjunt de proves final del 83,69%, alhora que va ser més de 24 vegades més eficient computacionalment. Aquest estudi conclou que per a aquesta tasca discriminativa, un model més petit i arquitectònicament apropiat proporciona una solució més precisa i pràctica que els LLM més grans i d'ús general.
Source: Rovira & Virgili repository
Author: Arias Cámara, Daniel
Institution: Universitat Rovira i Virgili
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
Funder: Universitat Rovira i Virgili
OpenAlex ID: W7219538428