31 IA, IA applicata all’istruzione e libero arbitrio

L’intelligenza artificiale (IA) è stata spesso accusata di minacciare il libero arbitrio (per esempio, si veda il riassunto delle opinioni di 979 ‘esperti’ riportato in Artificial intelligence and the future of humans¹). Ciò vale particolarmente per l’IA applicata all’istruzione (AIED), un tema che ho particolarmente approfondito nelle mie ricerche. Per esempio, in una relazione per il Consiglio d’Europa, abbiamo scritto che l’approccio adottato da quasi tutti gli strumenti dell’AIED «privilegia il ricordo rispetto al pensiero e la conoscenza dei fatti rispetto all’impegno critico, compromettendo così il libero arbitrio e la solidità dell’apprendimento dell’allievo»². Tuttavia, anche se è facile fare questo tipo di affermazioni, ed io sostengo questa posizione, esse sono raramente sviscerate correttamente. Di conseguenza, l’intenzione di questa breve esposizione è approfondire cosa si intenda esattamente per ‘libero arbitrio’ e considerare l’impatto che su di esso hanno l’IA e l’IA applicata all’istruzione.

In senso lato, il libero arbitrio è la capacità dei singoli di agire in modo indipendente, effettuando delle scelte tra diverse opzioni sulla base delle proprie convinzioni, dei propri valori e dei propri obiettivi. In altre parole, è la capacità degli esseri umani di prendere decisioni e dare inizio e portare a compimento azioni che influenzano la loro vita e il mondo attorno a loro. Può coinvolgere molteplici dimensioni. Esse includono l’intenzionalità (agire coscientemente con una finalità o un obiettivo specifici in mente), l’autonomia (l’indipendenza, l’autodeterminazione e la libertà di fare scelte e prendere decisioni che riflettono preferenze, valori e obiettivi individuali), l’adattabilità (la capacità di apprendere, modificare il proprio comportamento e riuscire a reagire a circostanze mutevoli) e la responsabilità (la dimensione etica e morale dell’agire: sostenere la responsabilità delle conseguenze delle proprie decisioni e delle proprie azioni).

Il libero arbitrio è fondamentale per la crescita personale e per una vita riuscita. Conferisce ai singoli il potere di configurare le proprie vite e di influenzare il mondo attorno a sé. Alimenta un senso di controllo e di autoefficacia ed è connesso a livelli più elevati di benessere psicologico. Quando i singoli avvertono di avere controllo sulle proprie vite e di poter fare delle scelte informate, in altre parole quando sentono di avere un’effettiva capacità di agire, è più probabile che provino soddisfazione e realizzazione. Come spiega uno dei più autorevoli ricercatori in materia di libero arbitrio: «Finché le persone non crederanno di poter produrre gli effetti desiderati con le proprie azioni saranno poco incentivate ad agire o a perseverare di fronte alle difficoltà.» ³.

In contesti didattici, l’espressione libero arbitrio si riferisce alla capacità di studenti e insegnanti di fare le proprie scelte, agire in autonomia e assumere il controllo dell’insegnamento e dell’apprendimento all’interno delle aule. Si enfatizza il ruolo svolto dagli individui nel plasmare i percorsi didattici, prendendo decisioni riguardo a cosa, come e perché qualcosa viene appreso. Il libero arbitrio rapportato ai percorsi didattici implica molteplici considerazioni. Per esempio le azioni degli studenti possono essere valorizzate quando essi non sono trattati come destinatari passivi di conoscenze, ma come partecipanti attivi al processo di apprendimento e hanno l’autonomia di esplorare temi che li interessino, porre quesiti, individuare e stabilire i propri obiettivi didattici e assumersi la responsabilità del proprio apprendimento. Valorizzare le azioni degli studenti implica anche la promozione di capacità di risoluzione dei problemi e di pensiero critico (in relazione a problemi afferenti al mondo reale) oltre a capacità di autodisciplina (come la gestione del tempo, la determinazione di priorità e i progressi nell’autoverifica), tutto ciò è prezioso per lo sviluppo di soggetti indipendenti e autonomi e per il loro successo in ambito scolastico e nella vita. Infine, anche se gli insegnanti svolgono un ruolo centrale nel supportare e nel valorizzare l’agire degli studenti, il concetto di libero arbitrio in contesti didattici comprende anche le azioni degli insegnanti stessi, riconoscendone l’esperienza pedagogica e nella materia di pertinenza e la professionalità, che consentono loro di fare delle scelte circa il modo di comportarsi al meglio nella pratica dell’insegnamento e nell’assistenza ai propri studenti.

La domanda successiva, dunque, è quale sia l’impatto dell’IA sul libero arbitrio? Inevitabilmente, qualsiasi impatto potenziale ha effetti positivi e negativi. Per esempio delle tecnologie che supportano l’IA possono svolgere attività ripetitive, magari rendendo le persone libere di concentrarsi sugli aspetti più creativi del proprio lavoro, consentendo loro di decidere a cosa destinare il proprio tempo e il proprio impegno, valorizzando così il loro libero arbitrio. D’altra parte, l’uso di tecnologie che supportano l’IA per svolgere normali attività potrebbe condurre alla perdita di capacità o competenze umane. Nel corso del tempo, dal momento che esse si basano sempre di più sull’IA, ciò potrebbe invece ridurre le scelte disponibili per gli individui e quindi indebolirne il libero arbitrio. Parimenti, si sostiene spesso che le tecnologie che supportano l’IA possono personalizzare le interazioni degli utenti con svariati servizi (come piattaforme per la visione di video e lo shopping online), fornendo suggerimenti personalizzati in base alle loro preferenze, cosa che rafforza la loro libertà di azione. Tuttavia, considerata la questione con uno sguardo ancora più critico, la personalizzazione fornita da tali servizi di solito è più adeguata alle esigenze del fornitore dei servizi e dei loro sponsor che non a quelle dell’utente, ciò significa che il senso di autodeterminazione del singolo maschera la realtà, che è una riduzione della libertà di azione dell’individuo in quanto l’utente è spinto in particolari direzioni. In terzo luogo le analisi dei dati che supportano l’IA possono fornire accesso a preziose informazioni che potrebbero non essere prontamente disponibili altrimenti, valorizzando così l’assunzione di decisioni da parte degli esseri umani e il libero arbitrio. Tuttavia è risaputo che i sistemi di IA ereditano e perpetuano i pregiudizi presenti nei loro dati di addestramento, conducendo a risultati parziali e discriminatori, che inevitabilmente pregiudicano l’agire umano limitandone le opportunità. Le tecnologie che supportano l’IA, o almeno il modo in cui sono utilizzate nella pratica, possono avere altre conseguenze negative per il libero arbitrio. Per esempio, l’uso diffuso dell’IA a fini di monitoraggio (o sorveglianza) e il controllo dei processi decisionali da parte dell’IA sollevano preoccupazioni importanti in materia di privacy, limitano le scelte di azione e possono condurre a un senso di impotenza o di dipendenza dalla tecnologia, tutte cose che possono minare il libero arbitrio del singolo.

La domanda successiva in questo caso, dunque, è quale sia l’impatto dell’AIED sulle azioni di studenti e docenti?

Le possibilità sono molteplici. In primo luogo, se gli studenti fanno frequentemente uso di tecnologie che supportano l’IA, potrebbero contare troppo e con troppa arrendevolezza sui contenuti raccomandati, sul feedback istantaneo o sulle ‘soluzioni’ che vengono fornite. Di conseguenza potrebbero perdere delle opportunità di sviluppare spirito critico, capacità di risoluzione autonoma dei problemi, di autoriflessione, di autoregolamentazione e abilità metacognitive, elementi che tutti potrebbero limitare la libertà di azione degli studenti e quella di trarre appieno beneficio dal proprio apprendimento.

Secondariamente, la maggior parte dei sistemi AIED fornisce dei percorsi di apprendimento altamente prescrittivi, lasciando poco spazio agli studenti per approfondire i propri interessi, che possono limitare la libertà d’azione degli studenti stabilendo cosa, quando e come debbano imparare e possono anche ridurre la loro apertura a prospettive diverse e a nuovi ambiti di indagine. In terzo luogo, i sistemi AIED di norma ricostruiscono i comportamenti degli studenti, inducendo una sensazione di sentirsi sorvegliati e di autonomia vincolata, oltre a rendere possibile l’eventualità di ledere la privacy degli studenti, rendendoli cauti nell’esprimersi liberamente. Quarto, delle raccomandazioni influenzate dall’IA potrebbero inavvertitamente tarpare le aspirazioni degli studenti, limitandone la libertà d’azione nel raggiungere obiettivi di autodeterminazione. Quinto, le tecnologie che supportano l’IA utilizzate per le valutazioni sono caratterizzate da un’enfasi eccessiva su prove standardizzate (e quindi, inevitabilmente, sulla preparazione degli studenti al superamento di questo genere di prove). Inoltre, nessun sistema che supporta l’IA è in grado di comprendere o cogliere le sfumature presenti nel lavoro di uno studente, limitandone così la capacità di azione nel processo di valutazione, con la possibile conseguenza di scoraggiare il pensiero creativo o non convenzionale.

Infine, per quanto concerne gli insegnanti, il ricorso in aula a tecnologie che supportano l’IA inevitabilmente influenza scelte di programmi di studi, contenuti didattici e approcci pedagogici, sminuendo in tal modo il ruolo degli insegnanti e portandoli a ritenere il proprio giudizio professionale sottovalutato o superato dalla tecnologia.

Ad ogni modo, gli strumenti dell’IA applicata all’istruzione potrebbero dequalificare gli insegnanti, riducendoli al ruolo di facilitatori dell’uso delle tecnologie e controllori dei comportamenti, un fraintendimento radicale di ciò che fanno i buoni insegnanti. Ciò potrebbe anche limitarne la libertà d’azione nel costruire delle relazioni costruttive con i propri studenti, fondamentali per impartire loro un’istruzione efficace. Infine, fare affidamento su parametri generati dall’IA (talvolta per via di direttive verticistiche) può creare pressione sugli insegnanti affinché si conformino a processi decisionali orientati ai dati, che potrebbero condurre a porre un’enfasi minore su uno sviluppo olistico degli studenti.

L’ultima domanda in questa sede è cosa bisogna fare per garantire libertà di azione a studenti e insegnanti dal momento che delle potenti tecnologie che supportano l’IA divengono sempre più utilizzabili in classe. In breve, si devono offrire agli insegnanti delle opportunità che ne rispettino il libero arbitrio, consentendo loro di assumere decisioni allineate alle loro esperienze professionali e alle esigenze specifiche dei loro studenti. Nel frattempo, gli studenti hanno bisogno di opportunità per sviluppare pensiero critico, capacità di autoregolazione e abilità metacognitive, intenzionalità, autonomia, adattabilità e responsabilità, sia ricorrendo a tecnologie che supportano l’IA appropriate, efficaci e sicure sia senza di esse.

¹ Anderson et al., Artificial intelligence and the future of humans, Pew Research Center, 2018

² Holmes et al., Artificial intelligence and Education, A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, p. 34, 2022

³ Bandura, A., Toward a Psychology of Human Agency: Pathways and Reflections, Perspectives on Psychological Science, 13(2), 130-136, 2018