Projet de Recherche Doctorale (PRD)

Les grands modèles de langage (Large Language Models – LLMs) représentent aujourd’hui l’une des avancées les plus marquantes de l’intelligence artificielle (IA) et des technologies de l’information et de la communication. Ils sont désormais utilisés dans de nombreux domaines tels que les assistants intelligents, les moteurs de recherche, la cybersécurité, la santé, l’éducation, les systèmes industriels, les villes intelligentes ou encore les services numériques. 

Toutefois, les performances exceptionnelles de ces modèles s’accompagnent d’un coût environnemental particulièrement élevé. Leur entraînement, leur stockage, leur mise à jour et leur inférence nécessitent d’importantes ressources de calcul reposant sur de vastes infrastructures Cloud et Edge, entraînant une consommation énergétique considérable ainsi qu’une augmentation significative des émissions de carbone. 

Au-delà de l’entraînement initial, les impacts environnementaux concernent également le stockage de multiples versions des modèles, les transferts de données, la réplication des modèles, leur maintenance continue et leur déploiement dans des infrastructures distribuées. Avec l’adoption croissante de l’IA générative, ces problématiques devraient s’intensifier dans les prochaines années. 

Les travaux récents proposent principalement des techniques de compression, de quantification, de distillation de connaissances ou encore des Tiny Language Models afin de réduire les besoins en calcul. Néanmoins, ces approches restent principalement orientées vers les performances algorithmiques sans intégrer explicitement des critères de durabilité tels que la consommation énergétique, l’empreinte carbone ou l’efficacité environnementale globale. 

Dans ce contexte, il devient indispensable de repenser la conception, le déploiement et l’exploitation des grands modèles de langage selon une approche durable. Cette thèse ambitionne ainsi de développer de nouvelles méthodologies permettant de réduire significativement l’impact environnemental des LLMs tout en maintenant leurs performances, leur robustesse et leur capacité de généralisation. 

Cette thèse vise à concevoir une nouvelle génération d’infrastructures intelligentes pour les grands modèles de langage intégrant simultanément des objectifs de performance et de durabilité environnementale. 

Les principaux objectifs scientifiques sont les suivants : 

• Analyser les différentes sources de consommation énergétique et d’émissions carbone tout au long du cycle de vie des LLMs (entraînement, stockage, déploiement et inférence) ; 

• Développer des modèles permettant d’évaluer précisément la consommation énergétique, l’empreinte carbone et l’efficacité environnementale des infrastructures basées sur les LLMs ; 

• Proposer de nouvelles stratégies de réduction des coûts computationnels et énergétiques reposant notamment sur la compression de modèles, la distillation de connaissances, les TinyLLMs et les architectures adaptatives ; 

• Concevoir des mécanismes de déploiement intelligents intégrant des indicateurs environnementaux tels que l’intensité carbone, la disponibilité des énergies renouvelables et l’efficacité énergétique des centres de calcul ; 

• Développer des algorithmes d’allocation de ressources pour les environnements Cloud–Edge permettant d’optimiser simultanément les performances, la consommation énergétique et les émissions de CO₂ ; 

• Valider expérimentalement les solutions proposées sur des plateformes réalistes afin d’évaluer leur efficacité en termes de consommation énergétique, d’empreinte carbone, de précision des modèles, de temps d’inférence et de capacité de passage à l’échelle. 

Cette recherche contribuera ainsi au développement de nouvelles infrastructures d’intelligence artificielle (IA) conciliant hautes performances, sobriété numérique et responsabilité environnementale. 

Le candidat devra posséder de solides connaissances dans plusieurs des domaines suivants : 

• Intelligence Artificielle et apprentissage automatique ; 

• Cloud Computing et Edge Computing ; 

• Systèmes distribués ; 

• Programmation Python ; 

• Bonnes capacités rédactionnelles en anglais. 

Des connaissances en Green AI, efficacité énergétique, infrastructures Cloud ou calcul haute performance constitueront un atout. 

Le candidat devra également faire preuve d’autonomie, d’un fort intérêt pour la recherche scientifique et d’une capacité à travailler dans un environnement collaboratif international. 

Le candidat devra être titulaire : 

• D’un diplôme de Master (Master 2 Recherche ou équivalent), 

Ou 

• D’un diplôme d’ingénieur conférant le grade de Master, 

Avec une spécialisation en informatique, intelligence artificielle, science des données, télécommunications, systèmes embarqués ou domaine connexe. 

Nouredine Tamani (Isep) : nouredine.tamani@isep.fr 

Hassan HARB (Université Libanaise) :  hasan.hareb@hotmail.com 

Ahmad FAOUR (Université Libanaise) : ahmad.faour@ul.edu.lb  

Simon Pierre DEMBELE (Isep) : simon-pierre.dembele@isep.fr  

Les candidats intéressés sont invités à transmettre : 

• Un curriculum vitae détaillé ; 

• Les relevés de notes de Licence et Master (ou diplôme d’ingénieur) ; 

• Une lettre de motivation ; 

• Éventuellement des lettres de recommandation. 

Les candidatures seront examinées au fil de leur réception.