Work

Stratégies de Compression et d'Optimisation des Modèles d'Intelligence Artificielle

Year: 2024
Type: preprint
Abstract: Dans un contexte où la complexité et la taille des modèles d'intelligence artificielle (IA) augmentent de manière exponentielle, l'optimisation et la compression des modèles émergent comme des nécessités cruciales pour maintenir la viabilité des déploiements d'IA. Cet article explore diverses stratégies visant à réduire les exigences computationnelles et de mémoire des modèles d'IA sans compromettre leur performance. Nous examinons l'élagage des modèles, la quantification, la distillation des connaissances, l'approximation de faible rang, la conception d'architecture, la distillation de modèle et les avancées dans AutoML et la recherche d'architecture neuronale. Chacune de ces techniques offre une voie pour alléger les modèles d'IA, facilitant leur mise en oeuvre sur des dispositifs avec des ressources limitées et améliorant leur efficacité et scalabilité. Nous discutons également de l'impact de ces stratégies sur la performance des modèles, soulignant comment elles peuvent être utilisées pour créer des solutions d'IA plus accessibles et plus durables.
Source: HAL
Language: French
Open Access status: green
OpenAlex ID: W4391871113
Cites: 83
Cited by:
Related to: 10