Tehnološki napredek nas osvobaja … ali pa nas počasi zasužnjuje?

Subtilna odvisnost od tehnologije

Maša Jazbec, umetnica, akademska raziskovalka ter vodilna slovenska akterka na področju družabne in kreativne robotike izpostavlja naslednje:

»Ena največjih nevarnosti je subtilna odvisnost od tehnologije, ki se ne kaže kot problem, dokler ne izgubimo sposobnosti samostojnega odločanja.« 

Po njenem mnenju se ta odvisnost razvija postopoma in skoraj neopazno, kar lahko na koncu resno ogrozi človeško avtonomijo in kritično mišljenje.

Pristranskost algoritmov

Pomembno tveganje predstavlja tudi pristranskost algoritmov, ki lahko reproducira in celo poglablja obstoječe družbene neenakosti. Taryn Andersen, predsednica in soustanoviteljica mednarodne neprofitne organizacije Impulse4Women ter Investor Relations Director pri Telegraph Hill Venture Capital, jasno opozarja:

»UI sistemi lahko replicirajo in celo krepijo obstoječe pristranskosti, če niso skrbno načrtovani in nadzorovani.«

Maša Jazbec dodaja, da takšna pristranskost »lahko reproducira ali celo poglablja družbene neenakosti«, kar ima lahko daljnosežne posledice za družbeno pravičnost in enakost spolov.

Erozija zasebnosti & moč tehnoloških gigantov

Andersenova izpostavlja »rastočo zaskrbljenost zaradi koncentracije moči v rokah peščice tehnoloških igralcev«, medtem ko Jazbečeva opozarja na erozijo zasebnosti, »ki se dogaja postopoma in skoraj neopazno«. Omenjena pojava sta med najbolj skrb vzbujajočimi.

Kdo bo odgovoren za napake?

Posebej kompleksno vprašanje je odgovornost. Ko vse več odločitev prepuščamo algoritmom in avtonomnim sistemom, se meja odgovornosti za morebitne napake ali škodo bistveno zabriše. Maša Jazbec na to opozarja z naslednjimi besedami:

»Ko odločanje delegiramo strojem, se pogosto zabriše tudi odgovornost za posledice.«

Poglobitev družbene neenakosti

Taryn Andersen pa opozarja še na sistemska tveganja, ki izhajajo iz hitrega tehnološkega razvoja:

»Regulacija zaostaja za inovacijami, to pa ustvarja negotovost glede odgovornosti in upravljanja.«

Hkrati izraža skrb, da avtomatizacija lahko dodatno poglobi družbeno neenakost, »če preusposabljanje delovne sile ne drži koraka« z razvojem tehnologije.

Ob tem obe sogovornici poudarjata, da so ta tveganja še toliko bolj nevarna, ker niso nujno dramatična in vidna takoj, temveč delujejo počasi in strukturno.

Andersenova posebej izpostavlja nevarnost prevelikega zanašanja na algoritmično odločanje, Jazbečeva pa dodaja skrb zaradi možnosti, da bomo zaradi udobja in učinkovitosti tehnologije postopoma izgubili pomembne človeške sposobnosti:  »Od samostojnega razmišljanja do globljih medčloveških vezi.«

Celotni članek si lahko preberete v zadnji številki revije Podjetna Slovenija in TUKAJ.