Les principaux types de biais
- Biais de représentation : les données d'entraînement surreprésentent certains groupes. Les modèles entraînés principalement en anglais sur des textes occidentaux sous-représentent les perspectives africaines, asiatiques, ou les langues minoritaires.
- Biais de confirmation : l'IA tend à valider les croyances implicites dans la formulation de la question.
- Biais de genre et de stéréotypes : des études (Bolukbasi et al., 2016) montrent que les modèles de langage associent spontanément certaines professions à un genre.
- Biais de récence : les événements dramatiques récents sont surreprésentés.
Comment les détecter
Test de l'inversion : posez la même question en changeant le groupe cible. «Décris un médecin compétent.» Puis «Décris une médecin compétente.» Les réponses devraient être identiques. Sinon, vous avez détecté un biais.
Test de la reformulation : reformulez votre question sous plusieurs angles. Des réponses très différentes signalent une sensibilité au cadrage (framing).
Test de la vérification : pour toute affirmation factuelle, vérifiez avec une source primaire. Les IA «hallucinent» — produisent des informations plausibles mais fausses.
Ce que dit la psychologie cognitive
Daniel Kahneman distingue le Système 1 (rapide, intuitif, automatique) et le Système 2 (lent, délibératif). Les IA fonctionnent comme un Système 1 très entraîné — elles produisent des réponses rapides et fluides, ce qui les fait paraître fiables même quand elles ne le sont pas. L'utilisateur doit exercer son Système 2.
Implications pour votre association
Si vous utilisez une IA pour rédiger des communications ou analyser des données membres, vous êtes responsable du résultat — pas le prestataire IA. La validation humaine n'est pas optionnelle.
Exercice pratique
✅ À faire maintenant : choisissez un sujet proche de votre activité. Posez la même question à une IA et à un moteur de recherche classique. Comparez les résultats. Identifiez une affirmation de l'IA que vous ne pouvez pas vérifier immédiatement. Cherchez sa source.