Éthique de l IA — Biais et discrimination

Les dangers des biais algorithmiques

Exemples de biais

• Reconnaissance faciale moins précise sur les peaux foncées (étude MIT)
• Algorithmes de recrutement discriminant les femmes (Amazon, 2018)
• Systèmes de crédit défavorisant les minorités

Sources de biais

• Données d entraînement non représentatives
• Équipes de développement non diversifiées
• Objectifs mal définis

Solutions

• Auditer les datasets pour les biais
• Diversifier les équipes
• Tests d équité (fairness metrics)