Les biais algorithmiques à l’école surviennent lorsqu’un outil numérique traite différemment des élèves à partir de critères, de données ou de règles qui produisent des écarts injustifiés. Ils peuvent influencer l’orientation, l’évaluation, les recommandations de contenus ou la modération, sans que la responsabilité humaine disparaisse.
Deux élèves aux résultats proches peuvent recevoir des recommandations scolaires différentes si l’outil utilisé ne retient pas les mêmes informations sur leur parcours, leur assiduité ou leur environnement. Ce décalage n’exige ni machine malveillante ni programme mystérieux. Il naît souvent de choix ordinaires : ce que l’on mesure, ce que l’on laisse de côté et la manière dont un résultat est présenté. À l’école, ces choix méritent une attention particulière, car ils peuvent peser sur des trajectoires déjà fragiles.
De quoi parle-t-on quand on évoque les biais algorithmiques à l'école ?
Un algorithme est un ensemble de règles qui traite des données afin de produire un classement, une recommandation, un signalement ou une aide à la décision. À l’école, les biais algorithmiques apparaissent lorsque ce traitement crée ou accentue des écarts entre élèves placés dans des situations différentes. Le problème ne réside pas seulement dans le programme : il peut venir de données scolaires incomplètes, de critères mal adaptés, d’une catégorie trop générale ou de la manière dont un résultat est interprété. Une décision automatisée n’est donc ni neutre par nature ni forcément injuste. Elle est conçue, paramétrée et employée par des personnes, dans un cadre institutionnel. La question utile est de savoir quels effets ses critères ont sur des parcours réels. Les élèves et leurs familles doivent pouvoir comprendre la finalité de l’outil, corriger une information erronée, demander des explications et identifier qui répond d’une décision. Transparence, contestation et responsabilité sont indissociables.
L'orientation scolaire : quand le calcul organise des possibilités
L’orientation rend particulièrement visibles les effets d’un algorithme, car elle concerne des choix de formation et des attentes souvent très fortes. Créée en 2018, Parcoursup recueille et gère les vœux d’accès à l’enseignement supérieur français, selon la présentation du dispositif. Elle succède à Admission Post-Bac, service ministériel utilisé entre 2009 et 2017. Il faut toutefois éviter un raccourci : la plateforme, les critères d’examen des dossiers et la décision prise par chaque formation ne désignent pas une seule et même opération. Des traitements numériques peuvent organiser les candidatures ou afficher des informations, tandis que les formations examinent les dossiers selon leurs modalités. Le risque de biais naît notamment lorsque les attendus en matière d’évaluation sont mal compris, que certains éléments du dossier traduisent imparfaitement un parcours, ou que l’accompagnement est inégal selon les familles. Distinguer automatisation administrative, aide à la décision et sélection permet de discuter les outils sans leur attribuer seuls une responsabilité qui relève aussi des institutions.
Recommandations, évaluation et modération : des biais moins visibles
Les effets algorithmiques ne se limitent pas à l’orientation. Sur une plateforme pédagogique ou dans un assistant d’intelligence artificielle, la recommandation algorithmique peut aider un élève à trouver rapidement une ressource adaptée. Elle peut aussi lui proposer sans cesse des contenus proches de ses habitudes, au détriment de la découverte, de la contradiction ou de l’approfondissement. L’évaluation numérique pose une autre difficulté : elle est plus robuste pour des réponses très cadrées que pour une argumentation, une création ou une production liée à un contexte. Il importe alors de savoir ce que le logiciel mesure réellement, et ce qu’il laisse de côté. Les réseaux sociaux font également partie des sociabilités adolescentes. Dans un article consacré à la modération de contenu, The Conversation montre que les systèmes de filtrage peuvent commettre des erreurs réparties de façon inégale selon les langues, les formulations ou les groupes concernés. L’enjeu est donc d’apprendre à vérifier, comparer et contextualiser, plutôt que d’opposer mécaniquement les écrans à l’école.
Pourquoi la transparence ne suffit pas toujours
L’image de la boîte noire algorithmique est parlante, mais elle peut masquer une réalité plus nuancée. Comme le rappelle Science et Vie dans son interrogation sur l’opacité des algorithmes, un système peut être partiellement documenté sans que ses conséquences deviennent immédiatement compréhensibles. Connaître une liste de critères ne dit pas toujours comment ils se combinent, quelles données personnelles ont été retenues, ni quelle marge conserve la personne qui utilise l’outil. Une transparence utile doit donc préciser la finalité du dispositif, les informations mobilisées, les responsables identifiables, les possibilités de rectification et le droit au recours. Comprendre le code n’est pas la même chose que pouvoir discuter une décision. Les travaux de vulgarisation d’Aurélie Jean, scientifique spécialisée dans la modélisation numérique, peuvent aider à considérer les modèles comme des constructions humaines, avec leurs choix et leurs limites. À l’école, une explication doit surtout être assez claire pour permettre un échange réel avec les élèves, les familles et les équipes.
Faire de l'école un lieu d'enquête plutôt que de méfiance
- Avant d’adopter un outil, formuler le problème qu’il prétend résoudre. Une plateforme qui recommande des exercices, par exemple, ne répond pas au même besoin qu’un dispositif d’orientation ou d’évaluation.
- Demander quelles données scolaires sont utilisées, lesquelles sont absentes et qui peut être désavantagé par cette sélection. Un profil ne résume jamais entièrement un élève.
- Prévoir une vérification humaine des résultats, particulièrement lorsqu’un classement, un signalement ou une note peut avoir des conséquences sur un parcours.
- Rendre visible une voie de recours : signaler une erreur, faire corriger une donnée et obtenir le réexamen d’une décision ne doivent pas dépendre de la seule maîtrise technique des familles.
- Développer l’esprit critique numérique des adultes comme des élèves. Comparer une recommandation à d’autres sources, repérer ce qui manque dans un profil et distinguer une suggestion d’une injonction relèvent de l’éducation aux médias et à l’information.
Un algorithme scolaire ne devrait jamais clore une discussion sur un élève. Rendre ses critères lisibles, permettre de contester ses résultats et conserver une décision humaine réellement attentive constituent des garanties essentielles. Parents, élèves et professionnels peuvent demander non seulement ce que l’outil calcule, mais aussi ce qu’il ne voit pas, notamment en fonction de ses usages.
Foire aux questions
Qu'est-ce qu'un biais algorithmique à l'école ?
Un biais algorithmique est un effet de traitement qui peut désavantager certains élèves ou reproduire des inégalités existantes. Il peut provenir des données choisies, des critères retenus, de la conception de l’interface ou de l’usage fait par les professionnels. Il ne découle pas uniquement du programme informatique.
Parcoursup utilise-t-il un algorithme pour décider de l'admission des candidats ?
Parcoursup organise les vœux et les informations de candidature dans l’enseignement supérieur. Créée en 2018, la plateforme ne doit pas être confondue avec les critères d’examen des dossiers ni avec les décisions des formations. Pour comprendre une réponse, il faut distinguer ces différents niveaux de traitement.
Comment repérer un biais dans un outil numérique utilisé par un établissement scolaire ?
Commencez par demander à quoi sert l’outil, quelles données il utilise et ce qu’il mesure réellement. Observez ensuite si certaines situations sont mal prises en compte ou si des erreurs reviennent. Un résultat doit pouvoir être expliqué, vérifié par une personne et corrigé lorsqu’une information est inexacte.
Peut-on contester une décision scolaire influencée par un algorithme ?
Oui, une décision qui affecte un parcours doit pouvoir être discutée auprès de l’établissement ou de l’organisme responsable. Il est utile de demander les critères appliqués, de vérifier les données du dossier et de solliciter un réexamen. L’interface ne doit pas faire disparaître l’interlocuteur humain.
Rémi Chardenoux
signature numérique, médias et culture
Voir le profil et les publications
