Ce chapitre n'est pas là pour faire peur ou diaboliser l'IA. Il est là pour vous donner un œil critique . Les capacités hors normes de cet outil ne doivent pas vous interdire de réfléchir. Et de s'interroger sur la manière donc l'IA prend ses décisions. Maintenant que vous êtes un utilisateur averti, vous avez une responsabilité !
01 Qu'est-ce qu'un biais en IA ?
Un biais en IA, c'est quand le modèle produit des résultats systématiquement inexacts ou injustes envers certains groupes ou situations. Ce n'est pas un bug aléatoire, c'est une erreur reproductible.
Règle d'or : une IA est le reflet de ses données. Si les données d'entraînement contiennent des biais humains, l'IA les reproduira et pourra bien souvent les amplifier.
02 D'où viennent les biais ?
Biais dans les données
Les données d'entraînement ne représentent pas équitablement tout le monde.
Exemple réel : un algorithme de recrutement entraîné sur 10 ans d'embauches dans une entreprise à dominante masculine favorisait automatiquement les CV masculins.
En effet ils ont créer une IA pour trier les CV des candidats automatiquement. Et Ils ont donné à l'IA les 10 dernières années de CV reçus par l'entreprise, en lui disant : "Regarde les profils qu'on a embauchés par le passé, et trouve-nous les mêmes".
Le résultat ? L'IA s'est mise à rejeter systématiquement les CV de femmes. Pourquoi ?
Historiquement, cette entreprise (comme beaucoup d'autres en ingénierie) embauchait en majorité des hommes. L'IA, qui n'a aucune morale, a analysé les statistiques et en a déduit une règle mathématique froide : "Homme = bonne recrue. Femme = mauvaise recrue."
Biais de représentation
Certains groupes sont sous-représentés dans les données. Exemple : une IA de reconnaissance faciale entraînée principalement sur des visages blancs reconnaît moins bien les visages à peau foncée . Il peut y avoir jusqu'à 35% d'erreurs ....
Biais d'étiquetage
Les humains qui étiquettent les données introduisent leurs propres préjugés. Exemple : des modérateurs de contenu qui étiquettent différemment le même texte selon leur propre contexte culturel.
Biais de boucle de rétroaction
L'IA influence le monde, qui influence les données, qui influencent l'IA. Exemple : un algorithme de prédiction de récidive criminelle entraîné sur des données policières hérite des biais des pratiques policières passées.
03 Les autres limites importantes
Hallucinations
Les LLM (comme ChatGPT) peuvent inventer des faits avec une totale confiance. Ils sont conçus pour produire du texte plausible — pas nécessairement vrai. Car
son seul et unique but est de prédire le mot suivant le plus logique dans une phrase, en fonction de ce qu'elle a lu sur Internet.
Si vous lui posez une question sur un sujet très pointu où elle manque de données, son moteur statistique va quand même essayer d'assembler des mots qui ont l'air de bien aller ensemble. Résultat : elle crée une phrase grammaticalement parfaite, très convaincante, mais factuellement fausse !
Données périmées
Un modèle a une date de coupure. Il ne connaît rien de ce qui s'est passé après son entraînement — et peut donner des informations obsolètes.
Hors distribution
Une IA entraînée sur des données d'un contexte peut échouer dans un autre. Un modèle médical entraîné aux USA peut se comporter différemment en France.
Boîte noire
Dans certains cas, en particulier celui du réseau de neurones , nous ne savons pas pourquoi un modèle a pris telle ou telle décision. C'est un vrai problème pour des domaines critiques (justice, médecine).
imaginez qu'une IA vous accuse d'un crime sans pouvoir l'expliquer ...
À retenir
- Un biais IA = erreur systématique envers certains groupes peut être le reflet des données d'entraînement
- Sources de biais : données déséquilibrées, sous-représentation, étiquetage humain, boucles de rétroaction
- Les LLM hallucinent : ils peuvent inventer des faits avec confiance
- Connaître les limites de l'IA, c'est être un utilisateur plus efficace et responsable
Cours mis à jour en mars 2026.
