Pôle Formation UIMM CVDL

Activité 1 : Les Biais Cognitifs

Comprendre nos propres biais pour mieux comprendre ceux de l'IA

Durée : 45 minutes

Objectifs

Introduction

Les biais cognitifs sont des déviations systématiques de la pensée rationnelle qui affectent nos jugements et nos décisions. Nous en avons tous, et c'est ce qui nous rend humains. Mais quand ces biais se retrouvent dans les systèmes d'intelligence artificielle que nous créons et utilisons, ils peuvent avoir des conséquences graves.

Le saviez-vous ?

Les chercheurs ont identifié plus de 180 biais cognitifs différents. L'IA hérite de ces biais de deux manières : par les données sur lesquelles elle est entraînée (qui reflètent nos décisions biaisées) et par les choix de conception faits par les développeurs (qui sont eux-mêmes sujets aux biais).

Quiz : Identifiez vos biais cognitifs

Pour chaque situation, choisissez la réponse qui vous semble la plus naturelle. Il n'y a pas de bonnes ou mauvaises réponses, l'objectif est de prendre conscience de vos tendances.

1 Biais de confirmation

Vous cherchez des informations sur un nouveau produit que vous envisagez d'acheter. Quelle est votre tendance naturelle ?

Réflexion :

Si vous avez choisi B, vous êtes sujet au biais de confirmation : nous cherchons et privilégions les informations qui confirment nos croyances préexistantes. Les algorithmes d'IA peuvent amplifier ce biais en nous montrant davantage de contenu similaire à ce que nous avons déjà consulté.

2 Biais d'ancrage

Un vendeur vous propose un produit initialement à 1000€, "soldé aujourd'hui à 600€". Votre réaction ?

Réflexion :

Si vous avez choisi A, vous êtes influencé par le biais d'ancrage : la première information reçue (1000€) devient une référence qui influence notre jugement. Les systèmes de recommandation peuvent exploiter ce biais en présentant d'abord des options plus chères.

3 Biais de disponibilité

Après avoir vu plusieurs reportages sur des accidents d'avion, vous devez choisir un moyen de transport pour vos vacances. Votre réaction ?

Réflexion :

Si vous avez choisi A, vous êtes sujet au biais de disponibilité : nous surestimons la probabilité d'événements dont nous nous souvenons facilement. L'IA peut renforcer ce biais en mettant en avant des contenus sensationnels qui restent en mémoire.

4 Biais de stéréotype

En lisant un CV, vous remarquez un prénom étranger. Votre première pensée ?

Réflexion :

Si vous avez choisi A, vous êtes influencé par un stéréotype : vous faites des suppositions basées sur l'origine perçue. C'est exactement ce qui s'est passé avec l'outil RH d'Amazon qui discriminait les candidatures féminines car il avait appris des décisions passées biaisées.

5 Biais de groupe (Groupthink)

Lors d'une réunion d'équipe, tout le monde semble d'accord sur une décision, mais vous avez des doutes. Que faites-vous ?

Réflexion :

Si vous avez choisi A ou C, vous êtes sensible au biais de groupe : la tendance à conformer notre opinion à celle du groupe. Ce biais affecte aussi le développement de l'IA quand les équipes sont homogènes et ne remettent pas en question leurs hypothèses.

Les Principaux Biais Cognitifs et leur Impact sur l'IA

Biais Cognitif Définition Impact sur l'IA
Biais de confirmation Tendance à chercher et privilégier les informations qui confirment nos croyances Les algorithmes de recommandation créent des "bulles de filtres" en montrant du contenu similaire
Biais d'ancrage La première information reçue influence fortement notre jugement L'ordre de présentation des résultats par une IA biaise notre choix
Biais de disponibilité Surestimation de la probabilité d'événements dont on se souvient facilement Les IA entraînées sur des données médiatiques surreprésentent les événements rares mais marquants
Biais de stéréotype Généralisation excessive basée sur l'appartenance à un groupe Les IA reproduisent et amplifient les stéréotypes présents dans les données d'entraînement
Biais de groupe Conformité aux opinions du groupe au détriment de l'analyse critique Les équipes homogènes créent des IA avec des angles morts importants
Biais de survie Se concentrer sur les réussites en ignorant les échecs Les datasets ne contiennent souvent que les cas "qui ont fonctionné", créant une vision déformée

Cas Concret : Le Biais en Cascade

Scénario : Recrutement assisté par IA

Situation : Une entreprise utilise un outil d'IA pour pré-sélectionner des CV.

Cascade de biais :

  1. Biais historique : L'entreprise a historiquement recruté principalement des hommes pour certains postes.
  2. Biais dans les données : L'IA est entraînée sur ces données historiques biaisées.
  3. Biais algorithmique : L'IA apprend que "être un homme" est un critère de succès.
  4. Biais de confirmation des recruteurs : Les RH font plus confiance aux recommandations de l'IA, renforçant le biais.
  5. Boucle de rétroaction : Les nouvelles embauches alimentent le système, perpétuant le biais.

Résultat : L'IA discrimine systématiquement les candidatures féminines. C'est exactement ce qui est arrivé à Amazon en 2018.

Point d'attention

Les biais de l'IA ne sont pas de simples bugs techniques. Ils sont le reflet de nos propres biais humains, amplifiés et automatisés à grande échelle. C'est pourquoi il est crucial de commencer par prendre conscience de nos propres biais.

Réflexion Personnelle

Question 1 : Prise de conscience

Après ce quiz, quels biais cognitifs reconnaissez-vous le plus chez vous ? En quoi cela pourrait-il influencer votre utilisation de l'IA dans votre travail ?

Question 2 : Application professionnelle

Pensez à un outil d'IA que vous utilisez ou pourriez utiliser dans votre contexte professionnel. Quels biais cognitifs pourraient se glisser dans son utilisation ?

Question 3 : Stratégies de mitigation

Quelles stratégies pourriez-vous mettre en place pour limiter l'impact de vos propres biais lors de l'utilisation d'outils d'IA ?

Points Clés à Retenir

  • ✓ Les biais cognitifs sont universels et inévitables chez les humains
  • ✓ L'IA hérite de nos biais via les données et les choix de conception
  • ✓ Les biais de l'IA peuvent amplifier et automatiser la discrimination
  • ✓ La prise de conscience est la première étape pour limiter les biais
  • ✓ La diversité des équipes et des perspectives est essentielle
Pôle Formation UIMM CVDL - Formation Intelligence Artificielle : Les Biais