18 Problèmes liés aux données : identité personnelle

Des données nous concernant sont collectées sans cesse par le biais de nos smartphones et de nos ordinateurs. L’interprétation de ces données dépend de la personne qui les enregistre et de la personne qui les consulte. Prenons un exemple. Google crée sa version numérique de nous, l’identité numérique, à partir de ce que nous faisons sur ses plateformes. Il nous étiquette en fonction de ces données pour réorganiser, ensuite, en conséquence ce que nous voyons sur ses moteurs de recherche et ses applications. Il nous « revend » à des entreprises, qui cherchent probablement à nous revendre leurs produits ou leurs prestations.

Cette activité a été adaptée à partir de Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your “Ideal User.”, faisant l’objet de la licence CC BY NC 4.0¹.

Les étiquettes que Google nous attribue – homme, femme, jeune ou âgé- n’ont rien à voir avec notre identité, nos besoins ou nos valeurs. Une personne peut être de sexe masculin si elle regarde certains types de sites (par ex. des sites de vente de matériel de bricolage) et achète certains produits². Demain, un homme pourra devenir une femme si son activité ou si l’activité d’un million d’autres êtres humains qui ont contribué à la définition du comportement masculin change. L’identité que nous attribuent certaines entreprises peut varier en fonction de ses propres intérêts.

Il en va de même de nos étudiants lorsqu’ils interagissent avec un logiciel d’apprentissage personnalisé et qu’ils font l’objet d’analyses d’apprentissage. Leur identité numérique, leurs performances, leur engagement et leur satisfaction, tels qu’ils sont perçus par ces systèmes, sont ensuite utilisés pour évaluer non seulement leur propre performance, mais aussi celle de leurs collègues, de leurs enseignants, de leurs écoles et du système éducatif lui-même³.

Pourquoi est-ce un problème ?

1. Ces profils se fondent souvent sur des données « bruyantes » et inexactes provenant de différentes sources et peuvent être extrêmement trompeurs⁴.
2. Ces identités numériques peuvent varier en fonction de la perception que l’élève a de lui/elle-même et des autres, de la manière dont les enseignants voient chaque élève, de la manière dont le système perçoit chaque enseignant, dont la société considère la pédagogie et l’éducation et dont chacun réagit aux décisions et aux retours d’expérience³.
3. Et pourtant, ces jugements sur la personnalité d’un individu sont émis à l’insu de celui-ci et sans son consentement, par des boîtes noires auxquelles personne n’a accès. Souvent, il n’y a aucun contrôle sur les données enregistrées, sur le lieu et le moment de l’enregistrement et sur la manière dont les décisions sont prises à partir de ces données^4,1.
   Les étudiants et les enseignants perdent leur pouvoir de s’exprimer et leur agentivité.
4. Ces données et ces jugements ont tendance à persister, en tant que données stockées, bien après que l’événement qui a été enregistré s’est produit⁴.
5. L’accent mis sur la mesure des performances, qui fait que les étudiants, les enseignants et le personnel sont constamment évalués, comparés et classés, peut susciter des réactions telles que l’anxiété et l’esprit de compétition au lieu de stimuler la motivation et le développement³.
6. Les aspects de l’éducation qui peuvent être immédiatement saisis et analysés prennent plus d’importance et nous poussent à rechercher d’autres résultats et à adopter des méthodes différentes de ceux/celles qui nous paraîtraient important(e)s par ailleurs.
7. Les entités qui ont recours à la “dataification” ont le pouvoir de définir “ce qui ‘compte’ en termes d’éducation de qualité ou de définition d’un bon élève ou d’un enseignant efficace³.”

Voici quelques contremesures que les experts encouragent les enseignants à adopter :

1. Prendre en considération les individus, leur identité, intégrité et dignité : “Approcher les gens en respectant leur valeur intrinsèque et non pas en tant qu’objets de données ou un moyen pour parvenir à une fin”⁵. Les personnes ne sont pas que des données ; l’étiquette qu’un logiciel peut attribuer à des élèves pour personnaliser leurs parcours pédagogiques ou les répartir en groupes ne correspond pas à leur identité réelle⁵.
2. Savoir gérer et interpréter les données : apprendre à manier les données correctement. Apprendre à quoi servent les différents systèmes basés sur les données, comment ils fonctionnent, quel est leur usage recommandé et comment interpréter les informations qu’ils génèrent et les décisions qu’ils prennent.
3. Garder une distance critique vis-à-vis des entreprises et des logiciels de l’AIED : remettre en question leurs revendications, demander des preuves de leur validité et de leur fiabilité, vérifier si le système est conforme aux directives de votre institution et de votre pays en matière d’éthique³.
4. Vérifier les effets que ces systèmes produisent sur vous, sur vos élèves, sur leur apprentissage et l’ambiance dans la classe.
5. Exiger des systèmes ouverts, que vous pouvez maîtriser et qui vous permettent de passer outre les décisions automatisées. Intervenir, expliquer ou passer outre chaque fois que vous l’estimez nécessaire.

¹ Kant, T., Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your “Ideal User.” MIT Case Studies in Social and Ethical Responsibilities of Computing, 2021

² Cheney-Lippold, J., We Are Data: Algorithms and the Making of Our Digital Selves, NYU Press, 2017

³ Williamson, B., Bayne, S., Shay, S., The datafication of teaching in Higher Education: critical issues and perspectives, Teaching in Higher Education, 25:4, 351-365, 2020

⁴ Kelleher, J.D, Tierney, B, Data Science, MIT Press, London, 2018.

⁵ Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators, European Commission, October 2022