Détail du poste Établissement : Université de Perpignan Via Domitia École doctorale : Energie et Environnement Laboratoire de recherche : ESPACE DEV Direction de la thèse : David DEFOUR ORCID 0000000199232394 Début de la thèse : 2026-10-01 Date limite de candidature : 2026-06-05T23:59:59 L'explosion de la taille et de la complexité des réseaux de neurones profonds, et en particulier des grands modèles de langage (LLMs), MoE et grands multi-modèles (LMMs), impose des contraintes croissantes en termes de calcul et de consommation énergétique. A titre d'exemple, l'entrainement du modèle d'OpenAI, GPT-4 a nécessité 1,000,000 TFLOPS, soit 10 000 tonnes de CO2, 20 TeraWatt et environ 100 millions de dollars . L'utilisation de formats de représentation des nombres flottants en très petite précision (FP8, INT8, bfloat16, etc.) est une stratégie prometteuse pour réduire ces coûts et l'impact environnemental tout en maintenant des performances satisfaisantes. Cette thèse vise à étudier l'impact de ces formats à la fois sur les phases d'entraînement et sur les inférences des modèles de grande taille. L'objectif est d'analyser empiriquement et théoriquement les compromis entre précision numérique, convergence des modèles, efficacité énergétique et qualité des résultats. Une attention particulière sera portée sur les effets de la quantization et dequantization lors du fine-tuning et du déploiement en production, notamment sur les capacités de généralisation et de robustesse des modèles. Ce projet s'inscrit dans un contexte de transformation numérique accélérée par l'essor de l'intelligence artificielle (IA) et des grands modèles de langage (LLM). Alors que ces technologies optimisent la productivité des développeurs, leur déploiement et leur utilisation restent coûteux. Or cette thèse contribuera aux travaux sur le développement des IA frugales qui est une des priorités de recherche en France pour une IA responsable et soutenable (réduction de l'empreinte carbone et de la consom
Recruteur ou personne concernée par cette annonce ? Demander la suppression