ZAKAJ SE UČITI O AI
5 Zakaj preprosto ne preklopimo na UI – 1. del
Druga skrajnost v zvezi z uporabo UI je neselektivna uporaba tehnologije, ali tudi zloraba tehnologije. UI deluje drugače kot človeška inteligenca. Sistemi UI lahko zaradi narave specifičnih okoliščin, zaradi njihove zasnove ali zaradi podatkov samih delujejo drugače od pričakovanega.
Na primer, aplikacija, ki je bila razvita na podlagi določenih podatkov za določen namen, ne bo delovala enako dobro na podlagi drugačnih podatkih za drugačen namen. Dobro je poznati omejitve UI in jih odpraviti. Torej ne moremo preprosto preklopiti na UI, temveč se moramo seznaniti s prednostmi in omejitvami njene uporabe.
Ohranjanje stereotipov
Google Prevajalnik se uči prevajati s pomočjo interneta. Z rudarjenjem podatkov se uči iz informacij, prosto dostopnih na spletu. Poleg jezika se UI nauči, na primer, da je med mehaniki več moških kot žensk, med zdravstvenimi tehniki (medicinskimi sestrami, op. prev.) pa več žensk kot moških. UI ni sposobna razlikovati med tem, kaj je “resnica” in kaj je posledica stereotipov in drugih predsodkov. Na ta način Google Prevajalnik promovira in širi informacije o vsem, kar se nauči, in s tem še bolj utrdi stereotipe1:
Težave se v delovanje UI prikradejo takrat, ko se posamezen primer razlikuje od večine (ne glede na to, ali gre zares za večino v resničnem svetu, ali le za večino po podatkih interneta). V učilnicah mora učitelj izravnati takšne napake sistema in po potrebi usmeriti pozornost učencev k drugim, zanesljivejšim virom informacij.
RAZIŠČITE SAMI
Poskusite v Google Prevajalniku izslediti kakšen stereotip. Poigrajte se s prevajanjem v različne jezike in iz njih. S klikom na dve puščici med obema poljema obrnete smer prevajanja.
Nekateri jeziki, npr. turščina, ne poznajo slovnične kategorije spola. Pri prevajanju iz turškega jezika in v turščino se pokažejo številni stereotipi. V turščini in v številnih drugih jezikih je namreč nakazana moška spolna nevtralnost (raba moških generičnih oblik v položajih, ko so mišljeni osebki obeh spolov) kot odraz “naravnega” jezikovnega stanja. V zgornjem primeru je nenavadno to, da se spremeni spol samostalnika pri prevodu iz angleščine v francoščino.
Več meritev natančnosti
Sistemi UI lahko pripravijo napovedi, priporočila ali odločitve o tem, katero snov naj se učenec uči v naslednjem koraku, ali je razumel dano tematiko, kakšna razdelitev skupine bi bila primerna za posamezen razred, ali celo da učencu grozi opustitev šolanja itn. Verjetnost napovedi je pogosto izražena v odstotkih. Ta številka nam pove, kako verjetne so po lastni oceni sistema UI njegove napovedi.
Po svoji naravi so lahko napovedi napačne. Velikokrat so napake sprejemljive, v nekaterih primerih pa ne. Poleg tega obstaja veliko različnih načinov izračunavanja stopnje napake, po različnih merilih – in programer izbere tisto, ki se mu zdi najprimernejša. Pogosto se zanesljivost napovedi spreminja glede na značilnosti vhodnih podatkov.
Ker v učilnicah sistemi UI pripravljajo napovedi, priporočila ali odločitve v zvezi z otroki, mora učitelj presoditi, kaj je sprejemljivo oz. primerno, in ukrepati, kadar odločitev UI ni ustrezna. V ta namen smo pripravili osnovne informacije o tehnikah uporabe UI in pogostih napakah, ki se ob tem pojavljajo.
1 Barocas, S., Hardt, M., Narayanan, A., Fairness and machine learning Limitations and Opportunities, 2022.