31 AI, AIED in človeško delovanje

Umetno inteligenco pogosto obtožujejo, da ogroža aktivno človeško delovanje (oglejte si npr. povzetek 979 “strokovnih” mnenj, navedenih v članku Artificial Intelligence and the future of humans¹). To še posebej velja za uporabo UI v izobraževanju (AIED), vključno z mojo raziskavo. Na primer, v poročilu Sveta Evrope pišemo, da pristop, ki je uveljavljen v praktično vseh orodjih AIED, “daje prednost pomnjenju pred razmišljanjem in poznavanju dejstev pred kritičnim delovanjem, s čimer spodkopava učenčevo aktivno delovanje in robustno učenje”². Toda čeprav je to enostavno trditi, in za svojo trditvijo stojim, je zadeva le redko pravilno interpretirana. Prav to je namen tega kratkega poglavja: raziskati, kaj točno je mišljeno s pojmom “(aktivno) človeško delovanje”, in razmisliti o vplivih UI in AIED.

V širšem smislu se človeško delovanje nanaša na sposobnost posameznikov, da delujejo neodvisno, pri čemer izbirajo med različnimi možnostmi na podlagi lastnih prepričanj, vrednot in ciljev. Povedano drugače, gre za sposobnost ljudi, da sprejemajo odločitve ter začnejo in izvedejo dejanja, ki vplivajo na njihova življenja in svet okoli njih. Človeško delovanje vključuje več razsežnosti: namero (zavestno delovanje z določenim ciljem ali smotrom v mislih), avtonomijo (neodvisnost, samoodločanje in svoboda izbiranja / sprejemanja odločitev, ki odražajo posameznikove želje, vrednote in cilje), prilagodljivost (sposobnost učenja, spreminjanja vedenja in uspešnega delovanja kot odgovor na spreminjajoče se okoliščine) in odgovornost (etična in moralna razsežnost delovanja: prevzemanje odgovornosti za posledice svojih odločitev in dejanj).

Človeško delovanje je ključnega pomena za osebnostno rast in uspešno življenje. Posameznike opolnomoči, da oblikujejo svoja življenja in vplivajo na svet okoli sebe. Spodbuja občutek nadzora in učinkovitosti ter je povezano z višjimi stopnjami psihološke dobrobiti. Ko posamezniki čutijo, da imajo nadzor nad svojim življenjem in se lahko smiselno odločajo, torej, ko čutijo, da zares pristno in aktivno delujejo, bodo bolj verjetno izkusili zadovoljstvo in izpolnitev. Kot razlaga eden od vodilnih raziskovalcev na tem področju: “Če ljudje ne verjamejo, da lahko s svojimi dejanji dosežejo želene učinke, niso motivirani za ukrepanje ali vztrajanje v težavnih okoliščinah”³.

V izobraževalnih kontekstih se človeško delovanje nanaša na sposobnost učencev in učiteljev, da sprejemajo odločitve, delujejo avtonomno in prevzamejo nadzor nad poučevanjem in učenjem v razredu. Poudarek je na vlogi posameznikov pri oblikovanju izobraževalnih poti, sprejemanju odločitev o tem, kaj, kako in zakaj se učiti. Človeško delovanje v izobraževalnih kontekstih vključuje več dejavnikov. Na primer, učenčevo delovanje je mogoče izboljšati, če se ga ne obravnava kot pasivnega prejemnika znanja, ampak kot aktivnega udeleženca učnega procesa, ki ima avtonomijo, da raziskuje teme, ki ga zanimajo, postavlja vprašanja, si zastavi lastne akademske cilje ter prevzame odgovornost za svoje učenje. Krepitev učenčevega delovanja vključuje tudi spodbujanje veščin reševanja problemov in kritičnega razmišljanja (osredotočenost na resnične probleme) skupaj z veščinami samonadzora (upravljanje s časom, določanje prioritet in samonadzorovanje napredka), kar je nepogrešljivo za razvoj neodvisnih in samostojnih posameznikov ter za uspešnost v akademskem in zasebnem življenju. Medtem ko imajo učitelji osrednjo vlogo pri podpori in krepitvi učenčevega delovanja, človeško delovanje v izobraževalnih kontekstih vključuje tudi delovanje samih učiteljev, ki priznavajo njihovo predmetno in pedagoško strokovnost ter profesionalnost, kar jim omogoča, da se odločijo, kako najbolje izvajati svoje poučevanje in podpirati svoje učence.

Naslednje vprašanje je torej, kakšen vpliv ima UI na človeško delovanje? Vsak vpliv ima lahko pozitivne in negativne učinke. Na primer, nekatere tehnologije UI omogočajo izvajanje določenih enostavnih, repetitivnih nalog, kar ljudem omogoča, da se osredotočajo na bolj ustvarjalne vidike svojega dela in drugače razporedijo svoj čas in delo, s čimer v splošnem izboljšajo svoje aktivno delovanje. Po drugi strani pa bi lahko imela uporaba takšnih tehnologij na dolgi rok za posledico izgubo določenih veščin ali strokovnega znanja. Če postajajo posamezniki na dolgi rok vse bolj odvisni od UI, se njihova možnost izbire zmanjšuje, to pomeni da njihovo ‘aktivno delovanje’ začne pešati. Pogosto slišimo tudi, da UI tehnologije personalizirajo interakcije uporabnikov pri različnih storitvah (npr. spletne video- in nakupovalne platforme ipd.), tako da jim ponujajo predloge, prilagojene njihovim željam, kar naj bi okrepilo njihov občutek aktivnega delovanja. Toda, če na to pogledamo bolj kritično, vidimo, da je takšna personalizacija v resnici bolj prilagojena potrebam ponudnika in njegovih oglaševalcev kot pa uporabniku. Posameznikov občutek ‘aktivnega delovanja’ je tako zgolj maska za resničnost – v resnici pa gre tu za okrnjenje aktivnega delovanja, saj ti “personalizirani” predlogi uporabnika pravzaprav silijo v točno določene smeri. Tretjič, z UI podprte analize omogočajo vpogled v določene podatke in razkrijejo vidike, ki sicer morda ne bi bili na voljo, in tudi to naj bi krepilo moč človeškega odločanja in aktivnega delovanja. Toda znano je, da sistemi UI dedujejo in ohranjajo predsodke, ki jih vsebujejo učni podatki, kar lahko vodi do nepoštenih in diskriminatornih rezultatov in s tem zmanjšanja aktivnega človeškega delovanja na račun omejenih možnosti. Tehnologije, podprte z UI, ali vsaj način, na katerega se uporabljajo v praksi, imajo lahko tudi druge negativne vplive na aktivno človeško delovanje. Na primer, široka uporaba UI za spremljanje (nadzor), ali odločanje, ki je prepuščeno izključno sistemom UI – vse to vzbuja pomisleke glede zasebnosti, omejuje izbiro dejanj in lahko povzroča občutke nemoči ali odvisnosti od tehnologije in s tem spodkopava posameznikovo aktivno delovanje.

Kako pa je z vplivom AIED na delovanje učencev in učiteljev?

To vprašanje je povezano z več vidiki. Če učenci pogosto uporabljajo UI tehnologije, lahko zelo hitro postanejo preveč odvisni od priporočil, predlogov, takojšnjih povratnih informacij in instatno ponujenih “rešitev”. Zato zamujajo priložnosti za razvoj kritičnega mišljenja, neodvisnega reševanja problemov, samorefleksije, samonadzora in metakognitivnih veščin, vse to pa zmanjšuje učenčevo aktivno delovanje v smislu nezavedanja o prednostih lastnega učenja. Drugič, večina sistemov AIED ponuja strogo preskriptivne učne poti, ki učencem ne puščajo veliko prostora za raziskovanje lastnih interesov, kar omejuje njihovo aktivno delovanje, saj jim narekuje točno kaj, kdaj in kako naj se učijo, hkrati pa zmanjšuje njihovo izpostavljenost različnim perspektivam, pogledom in drugim interesnim področjem. Tretjič, sistemi AIED običajno spremljajo vedenje učencev, kar lahko povzroča občutke nadzorovanosti in okrnjene avtonomije ter dovoljuje možnost ogrožanja zasebnosti učencev, zaradi česar postanejo zadržani pri svobodnem izražanju. Četrtič, priporočila sistemov UI lahko nehote zožijo prizadevanja učencev, kar omejuje njihovo delovanje pri doseganju ciljev, ki so si jih sami določili. Petič, tehnologije UI za ocenjevanje imajo prevelik poudarek na standardiziranem preizkušanju znanja (in s tem na učenju samo za teste). Dodajmo še, da noben sistem UI ni sposoben razumeti oz. razločiti nians v učenčevem delu, s čimer se zmanjša učenčevo delovanje v procesu ocenjevanja in ga odvrača od ustvarjalnega ali nekonvencionalnega razmišljanja.

Z vidika učiteljev, uporaba tehnologij UI v učilnicah zagotovo vpliva na izbiro učnega načrta, učnih vsebin in pedagoškega pristopa, s čimer zmanjšuje pomembnost vloge učiteljev in jim daje občutek, da tehnologija podcenjuje ali celo preglasi njihovo strokovno presojo. Torej lahko orodja AIED potencialno razvrednotijo učitelje in jih spremenijo v tehnološke posrednike in nadzornike vedenja, to pa je radikalno drugače od tega, kar naj bi počeli dobri učitelji. Orodja AIED lahko imajo negativen vpliv tudi na aktivno delovanje učiteljev v smislu vzpostavitve pristnih odnosov z učenci, ki so ključni za učinkovito izobraževanje. Zanašanje na izračune sistemov UI lahko ustvari pritisk na učitelje, da se konformistično prilagodijo procesom odločanja, ki temeljijo na podatkih, kar lahko privede do manjšega poudarka na celostnem razvoju učencev.

Vprašajmo se torej, kaj bi bilo treba storiti, da bi spodbudili in/ali ohranili aktivno delovanje učencev in učiteljev, saj so zmogljive tehnologije UI v učilnicah vedno bolj dostopne. Če povzamemo na kratko, učiteljem je treba omogočiti priložnosti, ki spoštujejo njihovo aktivno delovanje, kar jim bo omogočilo sprejemati odločitve v soglasju z njihovim strokovnim znanjem in specifičnimi potrebami učencev. Učenci pa potrebujejo priložnosti za razvoj kritičnega mišljenja, samoregulacije, metakognitivnih veščin, avtonomije, prilagodljivosti in odgovornosti – bodisi z uporabo ustreznih, učinkovitih in varnih tehnologij UI, ali brez njih.

¹ Anderson et al., Artificial intelligence and the future of humans, Pew Research Center, 2018

² Holmes et al., Artificial intelligence and Education, A critical view through the lens of human rights, democracy and the rule of law, Council of Europe, p. 34, 2022

³ Bandura, A., Toward a Psychology of Human Agency: Pathways and Reflections, Perspectives on Psychological Science, 13(2), 130-136, 2018