Proctorio, un logiciel de surveillance en ligne pour les tests scolaires et universitaires, échoue lamentablement à faire son travail. Maintenant, il a commencé à prendre la chaleur pour ne pas détecter les visages noirs le plus.
Proctorio – Un bon choix?
En cette période de pandémie, le système éducatif du Monde entier est aux abois. Les étudiants ne peuvent pas se rendre dans leur établissement, tandis que les enseignants peinent à les évaluer. Les gestionnaires des institutions ont recours à toutes les méthodes qui pourraient les maintenir à flot et poursuivre les affaires.
De nombreuses institutions utilisent un logiciel de surveillant lors des tests en ligne réalisés pour les étudiants. Ce logiciel proctor utilise un algorithme de détection faciale pour vérifier toute anomalie pendant les tests. En raison de ce logiciel de surveillant, les étudiants se plaignent souvent de préoccupations authentiques telles que la confidentialité et l’utilisation des séquences vidéo prises.
Proctorio est un logiciel de surveillance d’examens en ligne utilisé pour vérifier si les étudiants trichent lors des tests. De nombreuses institutions à travers le monde l’utilisent pour contrôler les étudiants. Proctorio utilise un algorithme de détection faciale en utilisant les images de la caméra web de l’étudiant.
Proctorio est récemment devenu controversé pour ne pas détecter les visages des personnes de couleur. De nombreux étudiants ont soulevé des allégations selon lesquelles le logiciel est meilleur pour détecter les visages autres que ceux des Noirs. Le porte-parole de Proctorio a rejeté cette allégation et a déclaré que le public n’avait pas pleinement saisi le fonctionnement de leur technologie.
Biais racial – Vrai ou pas?
De nombreux élèves ont accusé Proctorio de ne pas fonctionner correctement. Les élèves noirs ont également accusé Proctorio d’être injustement discriminé puisque les autres races ne se sentaient pas aussi inquiètes que les Noirs.
Cette situation a été mise en lumière à la suite de recherches approfondies sur Proctorio. Akash Satheesan, un chercheur et un étudiant utilisant Proctorio, a déclaré que les revendications étaient valables. Proctorio a le plus souvent échoué à détecter les visages des personnes noires. Il a également analysé le code derrière le logiciel et a trouvé une vérité choquante.
Le logiciel de Proctorio semble avoir des parties de code d’une bibliothèque open-source, OpenCV. Il s’agit d’une bibliothèque logicielle de vision par ordinateur à code source ouvert. Le code de Proctorio et celui d’OpenCV étaient similaires. Par conséquent, ils ont tous deux réagi de la même manière lorsqu’on leur a donné des échantillons de la base de données FairFaces. Cet ensemble rassemble des images de personnes de races et d’ethnies différentes afin de représenter des échantillons de visages de personnes diverses. Indirectement, le porte-parole de Proctorio a également admis qu’il utilise le code d’OpenCV sous licence.
Un étudiant chercheur a effectué une rétro-ingénierie du logiciel d’examen controversé – et a découvert un outil tristement célèbre pour ne pas reconnaître les visages non blancs.https://t.co/ufON9XkvKu
– VICE (@VICE) 9 avril 2021
Akash Satheesan a découvert que Proctorio ne parvenait pas à détecter les visages noirs plus de la moitié du temps, à un taux stupéfiant de 57 %. Il a également été incapable de détecter 41 % des visages du Moyen-Orient, 40 % des visages blancs, 37 % des visages d’Asie de l’Est, 35 % des visages d’Asie du Sud-Est ou d’Inde, et 33 % des Latinx.
Code déloyal
Ce constat indique en effet que Proctorio est tout simplement inutile pour faire passer des tests dans un environnement universitaire. Les étudiants, notamment les noirs, se plaignent du fait que le logiciel ne détecte injustement pas leur visage et les empêche parfois de passer le test.
Cette étude a également révélé que même si les visages noirs sont dans l’éclairage et la position exacts des visages blancs, Proctorio ne les détecte pas la plupart du temps. Akash a également ajouté que Ils utilisent des algorithmes biaisés, ils ajoutent du stress à un processus stressant… pendant un moment stressant, ils déshumanisent les étudiants.
Ce n’est pas le premier cas de biais racial dans le code de détection des visages ou tout autre code, d’ailleurs. Ce logiciel devrait être réglé pour tenir compte des besoins et des intérêts des personnes issues de divers milieux et ne devrait pas les attaquer injustement et les décourager à tout prix.