Description
Les réseaux neuronaux profonds (DNN) comptent parmi les modèles prédictifs les plus intensivement et largement utilisés en intelligence artificielle (IA). Néanmoins, pour exploiter pleinement le potentiel des DNN, il faut disposer d’une vitesse de calcul et de ressources mémoire accrues, ce qui s’accompagne d’une consommation d’énergie considérable.
À titre d’exemple, la consommation d’énergie pendant l’entraînement de ChatGPT a été estimée à l’équivalent de celle d’un foyer américain pendant plus de 700 ans. Ce cours vise à présenter les principales raisons de cette consommation d’énergie extrêmement élevée et aborde les dernières architectures matérielles (à savoir les TPU, les GPU et les conceptions sur mesure) conçues pour permettre une IA durable.
La formation mettra l’accent sur la fiabilité de l’IA du point de vue matériel. En effet, tout comportement inattendu peut entraîner de graves conséquences, pouvant aller jusqu’à causer des dommages corporels dans le cas des véhicules autonomes.
Tarif intra-entreprise : sur demande (minimum 4 participants). Prix TTC nets de TVA (Centrale Lyon n’y est pas assujettie).
À l’issue de la formation, les participants seront capables de :
- Connaître les fondamentaux de l’IA, de l’apprentissage profond
- Comprendre ce que les modèles exigent du matériel, et ce que le matériel peut (ou ne peut pas) apporter en performance, efficacité énergétique et confiance — avec une première mise en pratique concrète sur un accélérateur.
- Développer une vision systémique reliant algorithmes, logiciels et matériel
- Arbitrer entre performance, énergie, coût et confiance pour choisir une architecture adaptée à un besoin d’IA
Profil des béneficiaires
Pour qui
Consultants, chefs de projet, ingénieur d’affaires, chefs de produit, ingénieurs/techniciens, développeurs.
Prérequis
Connaître des fondamentaux de l’architecture informatique en matériel et software, avoir une culture IT avancée.
Contenu de la formation
-
Les modèles d’IA font partie du chapitre introductif de la formation.
- Orientation 1 : stagiaires avec background technologie/développement, la formation intégrera des TP (programmation de cartes)
- Orientation 2 : stagiaires sans background technologie/développement, la formation n’intégrera pas de TP
-
Contenu (orientation 1&2) :
- Introduction aux algorithmes d’apprentissage profond (CNN, Transformers)
- Architecture informatique de Von Neumann : pourquoi elle n’est pas adaptée à l’IA
- Architectures informatiques spécialisées : flux de données, matrices systoliques et GPU
- Efficacité énergétique pour l’IA et les architectures informatiques
- IA de confiance : le rôle du matériel
-
Contenu avec TP (orientation 1)
- TP : Introduction à une plateforme d’accélérateurs matériels
- TP : adaptation d’un modèle d’IA à l’accélérateur matériel, tests de performance
- BE/TP : travail bibliographique / projet
Équipe pédagogique
-
Alberto Bosio
Professeur des universités en ingénierie informatique, membre de l’Institut des Nanotechnologies de Lyon (INL).
Ressources techniques et pédagogiques
- Alternance de concepts et d’exercices
- Retours d’expérience et cas pratiques (programme orientation 1)
- Des aménagements peuvent être étudiés afin d’adapter les modalités pédagogiques et les conditions de formation aux besoins spécifiques de chacun.