👉 Workday interdit le profilage discriminatoire par l’IA.
Mais leur algorithme aurait rejeté 𝘂𝗻 𝗵𝗼𝗺𝗺𝗲 𝗻𝗼𝗶𝗿, 𝗮𝗻𝘅𝗶𝗲𝘂𝘅, 𝟰𝟬+, 𝗱𝗶𝗽𝗹ô𝗺é, plus de 100 fois.
Regardez bien cette image.
Elle vient du propre code de conduite de Workday.
📸 En résumé: 𝘓’é𝘷𝘢𝘭𝘶𝘢𝘵𝘪𝘰𝘯 𝘴𝘰𝘤𝘪𝘢𝘭𝘦 𝘰𝘶 𝘭𝘦 𝘱𝘳𝘰𝘧𝘪𝘭𝘢𝘨𝘦 𝘥𝘦 𝘱𝘦𝘳𝘴𝘰𝘯𝘯𝘢𝘭𝘪𝘵é 𝘴𝘶𝘴𝘤𝘦𝘱𝘵𝘪𝘣𝘭𝘦𝘴 𝘥’ê𝘵𝘳𝘦 𝘥𝘪𝘴𝘤𝘳𝘪𝘮𝘪𝘯𝘢𝘵𝘰𝘪𝘳𝘦𝘴 𝘦𝘴𝘵 𝘪𝘯𝘵𝘦𝘳𝘥𝘪𝘵𝘦
Et pourtant, un juge vient de qualifierWorkday de potentiellement... discriminant.
🧨 L’affaire 𝘔𝘰𝘣𝘭𝘦𝘺 𝘷. 𝘞𝘰𝘳𝘬𝘥𝘢𝘺 vient d’être reconnue en 𝗮𝗰𝘁𝗶𝗼𝗻 𝗰𝗼𝗹𝗹𝗲𝗰𝘁𝗶𝘃𝗲 aux US.
Elle concerne un homme noir, 40+, souffrant de troubles anxieux, qui a été rejeté plus de 100 fois par leur système.
Sans explication.
Sans recours.
Par une IA supposément 𝘯𝘦𝘶𝘵𝘳𝘦.
Et nous, en Europe, on fait quoi avec ça ?
📌 L’𝗔𝗜 𝗔𝗰𝘁 classe déjà les outils de recrutement comme à "haut risque".
📌 Le 𝗥𝗚𝗣𝗗 impose des droits à l’explication pour toute décision automatisée.
Mais dans les faits ?
👉 À ma connaissance, aucun ATS ne publie ses critères.
👉 Aucun benchmark public sur leurs biais.
👉 Aucune transparence sur les données d'entraînement.
📊 Dans la dernière édition d’EssentIAI, je partage un site qui analyse quotidiennement ces biais - pas dans les ATS, mais dans les IA généralistes.
Résultat : des tendances politiques homogènes documentées, une diversité cognitive encore limitée, et une forte concentration des sources dans les datasets d’entraînement.
Alors une question, simple:
👉 Qui est prêt à auditer publiquement son algorithme de tri de CV ?
🙈 Et qui préfère fermer les yeux ?
💬 Recruteurs, éditeurs de mon réseau. Je suis curieux de lire vos retours.
Est-ce que vous savez comment l'IA Workday apprend des rejets récurrents faits par les utilisateurs ?
La question ouverte qui en découle c'est est-ce que l'IA a été développée discriminante ou reproduit elle un schéma qu'elle a identifié à tort?
J’ai systématiquement été refusé à toutes les offres auxquelles j’ai postulé et qui utilisaient Workday. Je n’en tire aucune conclusion Nicolas (a part le fait de ne pas être le bon candidat). 😅
J’observe juste que les ATS – dopés à l’IA – rendent certaines pratiques encore plus faciles.
Co-Founder @ Digger : l’ATS/CRM qui matche au-delà des CV | Scrum Master & PM freelance, prêt à délivrer
3 months ago
C'est pour éviter ce genre de soucis qu'avec Digger, on a fait le choix de ne rien filtrer automatiquement, mais de proposer des évaluations et analyses pour aider le recruteur humain.
C'est peut-être moins sexy (et encore) que de prétendre tout automatiser, mais on croit fermement au côté humain 😉