UPRAVLJANJE UČENJA
18 Težave s podatki: osebna identiteta
Podatki o nas se nenehno beležijo prek naših telefonov in računalnikov. Ti podatki se nato interpretirajo na različne načine, glede na to, kdo jih beleži in kdo jih interpretira. Na primer, Google ustvari svojo digitalno različico nas samih, našo digitalno identiteto, ki temelji na tem, kar počnemo na Googlovih platformah. Na podlagi teh podatkov nas označuje in nato ustrezno razvrsti, kar vidimo v njegovih iskalnikih in aplikacijah. Trži nas podjetjem, ki nam morda želijo tržiti svoje produkte.
Prijavite se v svoj profil na Googlu, Facebooku ali Instagramu in odprite “Nastavitve oglasov”. Če redno uporabljate kakšno drugo platformo, poskusite ugotoviti, ali so tudi tam “Nastavitve oglasov” in ali lahko do njih dostopate. Te nastavitve so del naše digitalne identitete.
Vprašanja za razpravo:
- Kako izgleda vaša “digitalna identiteta”? Ali pristno odraža vaše demografske podatke in interese? Se strinjate s to identiteto?
- Kaj mislite, kako se je Google odločil, da vas predstavlja določen interes? Katere podatke je pri tem upošteval? Kategorije interesov se pogosto spreminjajo in so rekurzivne: interes za oglas, s katerim ste povezani, lahko določi, s katerim interesom za oglas boste naslednjič kategorizirani. Kaj nam to lahko pove o profiliranju?
- Ali se strinjate z akademiki, kot sta Cheney-Lippold in Bassett, da gre tukaj za pretirano redukcijo identitete? Zakaj to vprašanje vsebuje etični pomislek?
- Ali je z etičnega vidika bolj pomembno, ali ti profili “pravilno” ali “narobe” zajamejo vaše interese?
- Ali vaš spol in rasa vplivata na to, kako vas označujejo? Kako se ob tem počutite?
Aktivnost prilagojena po: Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your “Ideal User.“, licenca: CC BY NC 4.0 1.
Oznake, ki nam jih daje Google – moški, ženska, mlad, star itd. – nimajo nobene zveze z našo identiteto, potrebami ali vrednotami. Nekdo je danes označen kot moški, če si ogleduje določena spletna mesta (npr., trgovine z gradbenim materialom) in tam kupuje2. Že jutri pa lahko sodeč po oznakah “postane” ženska, če se njegove aktivnosti ali aktivnosti milijonov drugih ljudi, ki so prispevali k temu, kar velja za “moško vedenje”, spremenijo. Različna podjetja nas označujejo s popolnoma različnimi identitetami glede na to, kaj jih zanima.
Enako velja za naše učence, ko komunicirajo s programsko opremo za personalizirano učenje in ko njihove podatke obravnava učna analitika. Njihova digitalna identiteta, uspešnost, sodelovanje in zadovoljstvo, kot jih dojemajo ti sistemi, se nato uporabijo za vrednotenje ne le njihove uspešnosti, ampak tudi uspešnosti njihovih vrstnikov, učiteljev, šol in celotnega izobraževalnega sistema3.
Zakaj je to problem?
- Takšni profili so pogosto sestavljeni na podlagi neorganiziranih in napačnih podatkov iz različnih virov in so lahko zelo zavajajoči4.
- Digitalne identitete lahko spremenijo, kako učenci vidijo sebe in druge, kako učitelji vidijo vsakega učenca, kako sistem vidi vsakega učitelja, kako družba vidi izobraževanje in pedagogiko ter kako se ljudje nasploh odzivajo na odločitve in povratne informacije3.
- Toda digitalno identiteto nekoga generira UI brez njegove vednosti in soglasja – ta proces se odvija v črnih skrinjicah, do katerih nima nihče dostopa. Pogosto ni nadzora nad tem, kateri podatki se beležijo, kje in kdaj se beležijo ter kako se na njihovi podlagi sprejemajo odločitve4,1.
Učenci in učitelji tako izgubljajo svojo moč izražanja in aktivno človeško delovanje.
- Podatki in odločitve se običajno hranijo še dolgo po tem, ko se dogodek, ki je bil zabeležen, zgodi4.
- Poudarek na tem, da se učenci, učitelji in osebje nenehno ocenjujejo, primerjajo in razvrščajo, lahko povzroči občutke tesnobe in tekmovalnosti, namesto motivacije in rasti3.
- Večji pomen dobijo tisti vidiki izobraževanja, ki jih je mogoče samodejno zajeti in analizirati, in ki nas silijo k doseganju rezultatov in praks, nemara zelo drugačnih od tega, kar bi nam sicer lahko bilo pomembno.
- Organizacije oz. podjetja, ki se ukvarjajo s podatki, imajo moč, da opredelijo “kaj ‘šteje’ kot kakovostno izobraževanje, dober učenec ali učinkovit učitelj3.”
Protiukrepi, ki jih strokovnjaki predlagajo učiteljem:
- Upoštevajte ljudi, njihovo identiteto, integriteto in dostojanstvo: “K ljudem pristopajte s spoštovanjem in ne kot do vira podatkov ali sredstva za dosego cilja”5. Ljudje niso le podatki; to, da jih programska oprema lahko označi z oznako, na podlagi katere se personalizirajo njihove učne poti ali so na njeni podlagi razdeljeni v določene skupine – ni njihova prava identiteta5.
- Bodite podatkovno pismeni: naučite se pravilno ravnati s podatki. Naučite se, kaj počnejo različni sistemi, ki temeljijo na podatkih, kako to počnejo, kakšna je njihova priporočena uporaba in kako si razlagati informacije, ki jih ustvarjajo, ter odločitve, ki jih sprejemajo.
- Ohranite kritično distanco do podjetij in programske opreme AIED: sprašujte se o njihovih trditvah, zahtevajte dokaze o njihovi veljavnosti in zanesljivosti, preverite, ali sistem upošteva etične smernice vaše ustanove in države3.
- Spremljajte učinke, ki jih imajo ti sistemi na vas, vaše učence, njihovo učenje in vzdušje v razredu.
- Zahtevajte odprte sisteme, ki vam dajejo nadzor in moč, da preglasite avtomatizirane odločitve. Predložite, razjasnite ali preglasite jih kjer koli in kadar koli začutite potrebo.
1 Kant, T., Identity, Advertising, and Algorithmic Targeting: Or How (Not) to Target Your “Ideal User.” MIT Case Studies in Social and Ethical Responsibilities of Computing, 2021
2 Cheney-Lippold, J., We Are Data: Algorithms and the Making of Our Digital Selves, NYU Press, 2017
3 Williamson, B., Bayne, S., Shay, S., The datafication of teaching in Higher Education: critical issues and perspectives, Teaching in Higher Education, 25:4, 351-365, 2020
4 Kelleher, J.D, Tierney, B, Data Science, MIT Press, London, 2018.
5 Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators, European Commission, October 2022