Lebosq Networks, accueilDemander un devis

L'environnement IA : les concepts des initiés · leçon 9 sur 11

L'inférence

Plan du cours

L'IA et ses débuts

  1. Qu'est-ce que l'Intelligence Artificielle ?
  2. L'Intelligence artificielle à son commencement
  3. Les types IA et leurs manières d'apprendre !
  4. L'IA autour de nous

Comment ça marche

  1. L'architecture
  2. La prédiction
  3. La classification

L'environnement IA : les concepts des initiés

  1. L'entraînement
  2. L'inférence

IA et éthique

  1. Les Biais et limites
  2. Les Responsabilités : de qui est ce la faute ?
Un modèle entraîné, c'est bien. Un modèle qui tourne en production et répond à des millions d'utilisateurs, c'est autre chose. Cette leçon couvre le vocabulaire du déploiement.

01
Entraînement vs Inférence : deux phases très différentes

 Entraînement

C'est la construction du cerveau. Entraîner une grosse IA (comme ChatGPT) prend des mois, nécessite des milliers d'ordinateurs surpuissants, et coûte des dizaines de millions d'euros en électricité. L'IA "apprend" et modifie sa structure en permanence.

L'entrainement se passe une fois (ou périodiquement)

Il nécessite beaucoup de ressources (GPU puissants, semaines de calcul)

Cela Produit un modèle figé : un fichier avec des millions de paramètres

Il est nécessaire de fournir des données d'entraînements.

 Inférence

C'est l'application du savoir. Une fois le cerveau construit, on "fige" le modèle. Quand vous demandez à Face ID de déverrouiller votre téléphone, c'est de l'inférence. Le modèle ne réapprend pas à chaque fois que vous le regardez ! Il applique juste ce qu'il sait déjà. C'est pour ça que ça prend une fraction de seconde et que ça peut tourner sur un simple smartphone.



L'inférence se passe en continu, à chaque requête utilisateur

Il peut être léger (smartphone) ou lourde (serveurs GPU)

Il utilise le modèle sans modifier ses paramètres

La seule données qui est nouvelle  est la votre : votre question, votre photo, etc ..

02
Ce que veut dire 'un modèle en prod'

"En prod" (en production) signifie que le modèle est accessible aux utilisateurs finaux .il répond à de vraies requêtes en temps réel. En fonction du type d'IA, les exigences opérationnelles peuvent être très forte.  C'est un vrai enjeu technique et organisationnel.

La latence ou le temps de réponse. ChatGPT répond en quelques secondes. Un anti-fraude bancaire doit répondre en moins de 200ms. Les exigences varient énormément.
La scalabilité : gérer des millions de requêtes simultanées. Un modèle parfait techniquement peut s'effondrer sous la charge.
Le coût : chaque requête à un grand modèle comme GPT-4 coûte de l'argent en calcul. Optimiser l'inférence est un enjeu économique majeur.
Le monitoring :  surveiller que le modèle continue à bien fonctionner dans le temps. Le monde change, les données changent car le modèle peut se dégrader (model drift).

03
MLOps : le métier de faire tourner tout ça

Le MLOps (Machine Learning Operations) est la discipline qui s'occupe de déployer, surveiller et maintenir les modèles en production. C'est la jonction entre la data science et l'ingénierie.

Data Scientist
Conçoit et entraîne le modèle
ML Engineer
Optimise le modèle pour la prod, gère la performance
MLOps Engineer
Déploie, surveille, maintient : c'est l'"infra" de l'IA
Analogie : le data scientist construit la voiture, le ML engineer l'optimise pour la course, le MLOps engineer s'assure que la route est praticable et que la voiture roule 24h/24.
À retenir
  • Entraînement = phase intensive et coûteuse, une fois
  • Inférence = utilisation en temps réel, en continu
  • Un modèle 'en prod' doit gérer la latence, la scalabilité, le coût et la surveillance
  • Le model drift : un modèle peut se dégrader avec le temps si le monde change
  • MLOps = la discipline qui fait tourner les modèles en production de façon fiable

Cours mis à jour en mars 2026.