Additional Content
Razumevanje debat o možnih nevarnostih AI
Marca 20231 in nato maja 20232 sta bili objavljeni dve peticiji/odprti pismi, ki ju je v obeh primerih podpisalo na stotine priznanih znanstvenikov in strokovnjakov za AI iz industrije, ki sta opozarjali na nekatere nevarnosti AI. Kaj želimo vedeti o tem?
Je to zanimivo vprašanje za učitelje?
Pri zrelejših učencih se bo pojavilo vprašanje tveganj, ki jih AI predstavlja za civilizacijo, in četudi noben učitelj ni dolžan dati dokončnih odgovorov na vsa vprašanja, je pošteno razumeti obrise polemike.
Ali ne bi moral kot učitelj govoriti samo o tehničnih vidikih teme in prepustiti človeška, ekonomska in filozofska vprašanja strokovnjakom?
To je zanimivo vprašanje, o katerem so mnenja deljena. Bi moral učitelj fizike vedeti za Hirošimo ali Černobil? Ali naj pogovor o teh vprašanjih poteka v tem razredu? Ali pa bi moral biti učitelj v primeru AI sposoben samo varno uporabljati določeno programsko opremo in na splošno razumeti, kako deluje? Ali pa tudi biti sposoben razumeti tekoče debate o vprašanjih za družbo, ko gre za AI?
Stališče organizacije Unesco (in številnih strokovnjakov) je, da umetna inteligenca ni le tehnologija in da mora učitelj razumeti etična vprašanja, ki vključujejo tudi vsa tista, ki zadevajo vpliv AI na družbo, civilizacijo ali človeštvo.
So to nova vprašanja?
Nekatera vprašanja o nevarnostih AI se pojavljajo že nekaj časa. O vprašanju, kaj se zgodi, ko je AI “superiorna” človeški inteligenci, se razpravlja že dolgo. Irving Good4, nekdanji sodelavec Alana Turinga, je že leta 1965 uvedel pojem Tehnološke singularnosti, da bi nakazal, da bo AI, ko bo nekoč bolj inteligentna od ljudi ali super-inteligentna, neustavljiva. Good je nato svetoval Stanleyu Kubricku za “2001: Odiseja v vesolju”, ki je film (ne le) o AI, ki se spreneveda.
Stališča
Besedilo prvega dokumenta (1) je opozorilo, da lahko AI dela dobro in slabo, da bi lahko bil vpliv na družbo in delovna mesta precejšen, in uvedlo zamisel, da AI ne bo samo nadomestila ljudi na dolgočasnih in nezaželenih delovnih mestih, ampak se bo to zgodilo tudi z delovnimi mesti, ki so jih izbrali ljudje. Nadalje, da je razvoj AI vodil v razvoj družbe in da običajni demokratični mehanizmi sprememb niso bili uporabljeni.
V drugem besedilu2 je bilo dodano tveganje, da bo AI zadajala udarce (ali različice tega scenarija), kar bi lahko privedlo do konca človeške civilizacije.
Iz te debate3 se je pojavilo tretje stališče: da je AI res skrb vzbujajoča, vendar ne zaradi eksistencialnih razlogov, ki bi prikrivali bolj pereče težave.
Je debata končana?
Ne, debata še ni končana. Nekateri znanstveniki še vedno trdijo, da obstaja veliko tveganj, da te tehnologije prehitro rastejo in da je potrebna regulacija. Drugi menijo, da je AI trenutno v bistvu samo v korist in da bi morali biti vsekakor previdni, a ne prestrašeni.
Težko je reči, kdo zmaguje ali izgublja, kdo ima prav ali ne; v mnogih pogledih debata spominja na tisto, ki se je odvijala v fiziki po letu 1945.
Skupno stališče je, da se zahteva regulacija, čeprav (še) ni opredelitve regulacije, s katero bi se vsi strinjali.
Ali lahko obstaja dobro stališče?
Pravzaprav sta obe stališči verjetno zelo utemeljeni. Zdi se, da so trenutna dejstva v prid navdušencem (AI omogoča fantastičen napredek v medicini, kmetijstvu, analizi podnebja, jezikih in komunikaciji), vendar ima utemeljitev, da smo kot ljudje vedno našli odgovore, tudi resne omejitve.
Kje lahko izvem več o tej debati?
Za odprto osebo (ali učitelja) obstajajo številni viri. Blogi, zanesljiva spletna mesta in dokumenti o stališčih ter videoposnetki vodilnih znanstvenikov (vse vede: tudi zgodovinarji in filozofi imajo veliko za povedati).
1 https://futureoflife.org/open-letter/pause-giant-ai-experiments/
2 https://www.safe.ai/statement-on-ai-risk#open-letter
4 https://www.historyofinformation.com/detail.php?id=2142
5 https://en.wikipedia.org/wiki/I._J._Good
