31 IA, AIED et agentivité

L’Intelligence Artificielle (IA) a souvent été accusée de représenter une menace pour la capacité d’action humaine (cf., par exemple, la synthèse de979 opinions d’experts dans Artificial intelligence and the future of humans¹). Cela concerne, en particulier, l’application de l’IA dans l’éducation (AIED), y compris dans ma propre recherche. Par exemple, dans un rapport destiné au Conseil de l’Europe, nous écrivons que l’approche adoptée par la quasi-totalité des outils AIED “donne la priorité à la mémoire par rapport à la réflexion et à la connaissance des faits par rapport à l’engagement critique, ce qui porte atteinte à l’agentivité de l’apprenant et à la solidité de l’apprentissage”². Toutefois, bien qu’il soit facile d’émettre de telles réserves, et je soutiens celle-ci, elles sont rarement argumentées de manière correcte. Nous souhaitons donc explorer, dans ce bref exposé,  la signification exacte de l’expression ‘agentivité’, et examiner l’impact à la fois de l’IA et de l’AIED.

De manière générale, l’agentivité est la capacité des individus d’agir de manière indépendante, en opérant des choix parmi différentes options en fonction de leurs croyances, de leurs valeurs et de leurs objectifs. En d’autres termes, c’est la capacité des êtres humains de prendre des décisions et de mettre en œuvre et accomplir des actions qui vont avoir des répercussions sur leurs vies et sur le monde qui les entoure. Elle peut inclure différentes dimensions, parmi lesquelles l’intentionnalité (le fait d’agir en pleine connaissance de cause, dans un but ou avec un objectif spécifique), l’autonomie (l’indépendance, l’auto-détermination et la liberté de faire des choix et de prendre des décisions conformes à ses propres goûts, valeurs et objectifs), l’adaptabilité (la capacité d’apprendre, de modifier son propre comportement et de réussir face à un changement de circonstances) et la responsabilité (la dimension éthique et morale de l’agentivité : répondre des conséquences de ses propres décisions et de ses propres actes).

L’agentivité est cruciale pour le développement personnel et la réussite de l’individu. Cela permet à chaque individu de façonner son existence et d’avoir un impact sur le monde qui l’entoure. Elle favorise un sentiment de maîtrise et d’efficacité personnelle et est liée à un plus haut niveau de bien-être psychologique. Lorsque les personnes ont l’impression de maîtriser leur vie et de pouvoir faire des choix importants, en d’autres termes quand ils sentent qu’ils ont une vraie capacité d’agir, ils sont davantage susceptibles d’éprouver un sentiment de satisfaction et d’accomplissement. Comme l’explique l’un des plus grands chercheurs qui se sont penchés sur l’agentivité : “Si les individus ne croient pas que leurs actions peuvent produire les effets souhaités, ils ne sont guère incités à agir ou à persévérer face aux difficultés.”³

Dans le domaine de l’éducation, l’agentivité désigne la capacité qu’ont les élèves et les enseignants de faire des choix, d’agir de manière autonome et de maîtriser l’enseignement et l’apprentissage en classe. L’accent est mis sur le rôle des individus dans le façonnement des parcours éducatifs, dans la prise de décision concernant l’objet, les modalités et la finalité de l’enseignement. L’agentivité dans le contexte éducatif entraîne de nombreuses considérations. Par exemple, la capacité d’agir des élèves peut être accrue quand ils ne sont pas traités comme de simples destinataires de la connaissance, mais comme de véritables acteurs du processus éducatif et quand ils jouissent de l’autonomie nécessaire pour explorer leurs propres domaines d’intérêt, poser des questions, identifier et fixer leurs propres objectifs d’études et s’approprier leur propre apprentissage. Accroître l’agentivité des élèves veut également dire encourager leurs compétences en termes de résolution des problèmes et de réflexion critique (centrée sur des problèmes réels) ainsi que d’autorégulation (gestion du temps, établissement des priorités et suivi des progrès), des compétences précieuses pour le développement d’individus autonomes et capables de se gérer eux-mêmes et pour le succès dans les études et dans la vie. Enfin, si, d’un côté, les enseignants jouent un rôle essentiel en soutenant et en améliorant la capacité d’action des élèves, l’agentivité dans le domaine éducatif concerne également l’autonomie d’action accordée aux enseignants, grâce à la reconnaissance de leur compétence et de leur professionnalisme, ce qui leur permet de faire des choix sur la meilleure manière de gérer leur enseignement et d’aider leurs élèves.

Par conséquent, la question suivante concerne l’impact de l’IA sur l’agentivité. Inévitablement, tout impact potentiel peut avoir un effet négatif et positif. Par exemple, certaines technologies basées sur l’IA peuvent prendre en charge des tâches répétitives, en permettant à certains employés de se consacrer à des activités plus créatives et de décider de la manière dont ils entendent répartir et gérer leur propre temps et leur effort, en accroissant, donc, leur capacité d’action. D’un autre côté, l’emploi de ces technologies pour l’accomplissement de tâches courantes peut entraîner la perte de compétences humaines ou d’expertise. Au fur et à mesure que ces travailleurs deviennent de plus en plus dépendants de l’IA, cela peut réduire les options dont ils disposent, donc leur capacité d’agir de manière autonome. De même, l’on dit souvent que les technologies basées sur l’IA peuvent personnaliser les interactions des utilisateurs avec différents services (tels que les plateformes de streaming ou d’achat en ligne), en leur proposant des choix conçus sur mesure en fonction de leurs préférences, ce qui est censé renforcer leur sentiment d’agentivité. Toutefois, si l’on observe d’un œil plus critique ce type d’interaction, la personnalisation proposée par ces services est généralement conçue sur mesure, davantage en fonction des besoins du fournisseur et de ses annonceurs qu’en fonction des préférences de l’utilisateur, ce qui veut dire que la capacité d’action perçue par l’utilisateur masque, en fait, la réalité, à savoir une réduction de la capacité d’action autonome de l’individu, car l’utilisateur est poussé dans une certaine direction. En troisième lieu, les analyses de données basées sur l’IA peuvent donner accès à des informations précieuses qui pourraient ne pas être accessibles par ailleurs, renforçant ainsi la capacité de décision et d’action humaine. Cependant, il est bien connu que les systèmes basés sur l’IA héritent de et perpétuent certains stéréotypes présents dans les données d’entraînement, ce qui donne lieu à des résultats inéquitables et discriminatoires, qui nuisent, inévitablement, à la capacité d’agir de manière autonome, en limitant les opportunités. Les technologies basées sur l’IA ou, du moins, la façon dont elles sont employées dans la pratique, peuvent avoir d’autres impacts négatifs sur l’agentivité. Par exemple, l’utilisation largement répandue de l’IA pour le contrôle (ou la surveillance) et la prise de décision gérée par l’IA suscitent de grandes préoccupations en termes de protection de la vie privée et de confidentialité, limitent les choix d’action et peuvent créer un sentiment de perte de pouvoir ou de dépendance par rapport à la technologie, qui peuvent porter atteinte à la capacité d’action individuelle.

Par conséquent, la question suivante est : quel est l’impact de l’AIED sur la capacité d’action et l’autonomie des enseignants et des élèves ?

Il existe de multiples options. En premier lieu, si les élèves utilisent souvent des technologies basées sur l’IA, ils peuvent devenir, en peu de temps, excessivement dépendants des recommandations relatives aux contenus, des retours d’information instantanés ou des ‘solutions’ proposées. Par conséquent, ils peuvent perdre l’opportunité de développer une réflexion critique, une résolution des problèmes indépendante, l’introspection, l’autorégulation et des compétences métacognitives, ce qui débouche sur une réduction de la capacité de l’élève de profiter pleinement de l’enseignement reçu. En deuxième lieu, la plupart des systèmes AIED fournit des parcours d’apprentissage très prescriptifs, qui ne laissent pas aux élèves suffisamment de liberté pour explorer leur propres domaines d’intérêt, ce qui peut limiter la capacité d’action des étudiants en leur dictant ce qu’ils doivent apprendre, quand et comment, et peut également réduire leur possibilité d’accéder à des points de vue différents et à de nouveaux domaines de recherche. En troisième lieu, les systèmes AIED contrôlent, généralement, le comportement des étudiants, ce qui leur donne l’impression d’être surveillés et de subir une limitation de leur autonomie ainsi que de possibles atteintes à leur vie privée : ceci les amène à une certaine retenue en termes de liberté d’expression. En quatrième lieu, les recommandations basées sur l’IA peuvent limiter, sans le vouloir, les aspirations des élèves, ainsi que leur capacité d’action dans la réalisation des objectifs qu’ils se sont fixés. En cinquième lieu, les technologies basées sur l’IA utilisées pour l’évaluation sont excessivement orientées vers des tests normalisés (et donc, inévitablement, sur un enseignement dispensé en fonction des tests). De plus, aucun système basé sur l’IA n’est en mesure de comprendre ou de saisir les nuances dans le travail d’un élève, ce qui réduit la capacité d’action de l’élève dans le processus d’évaluation et peut décourager une réflexion créative et originale. Enfin, en ce qui concerne les enseignants, l’utilisation de technologies basées sur l’IA dans le cadre des cours affecte inévitablement le choix des programmes, le contenu de l’apprentissage et les approches pédagogiques, en limitant le rôle des enseignants et en leur donnant l’impression que leur jugement professionnel est sous-estimé ou est supplanté par la technologie. Dans tous les cas, les outils AIED sont susceptibles de déqualifier les enseignants, en les transformant en facilitateurs de la technologie et en surveillants du comportement, ce qui reflète une incompréhension totale de la tâche d’un bon enseignant. Cela peut également nuire à la capacité de l’enseignant de tisser des relations significatives avec ses élèves, ce qui est tout à fait crucial pour une éducation efficace. Enfin, le fait de se fonder sur des mesures générées par l’IA (parfois suite aux directives venues d’en haut) peut pousser les enseignants à se conformer à des processus de décision basés sur les données, ce qui peut conduire à donner moins d’importance au développement global de l’élève.

La question finale est donc de savoir ce que l’on doit faire pour protéger l’agentivité des élèves et des enseignants face à la présence accrue, dans les salles de classe, de puissantes technologies basées sur l’IA. En bref, les enseignants doivent pouvoir accéder à des opportunités qui respectent leur autonomie et qui leur permettent de prendre des décisions conformes à leurs compétences et à leurs expériences professionnelles et aux besoins spécifiques de leurs élèves. Entretemps, les élèves ont besoin d’opportunités capables de développer leur réflexion critique, leur autorégulation et leurs compétences métacognitives ainsi que leur intentionnalité, leur autonomie, leur adaptabilité et leur responsabilité – avec ou sans l’utilisation de technologies appropriées basées sur l’IA.

¹ Anderson et al., Artificial intelligence and the future of humans, Pew Research Center, 2018

² Holmes et al., Artificial intelligence and Education, A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, p. 34, 2022

³ Bandura, A., Toward a Psychology of Human Agency: Pathways and Reflections, Perspectives on Psychological Science, 13(2), 130-136, 2018