Blaž Zupan: Umetna inteligenca lahko tudi laže, a le, če, se je tega naučila od ljudi
Blaž Zupan. Foto: Matej Povše
Avtorici: Klara Škrinjar in Maja Čakarić
Blaž Zupan je profesor na ljubljanski fakulteti za računalništvo in informatiko, po domače FRI, kjer predava in se potaplja v odkrivanja znanj iz podatkov, strojnega učenja in umetne inteligence. Je član Inženirske akademije Slovenije. Za svoje delo je prejel Puhovo nagrado, Zoisovo priznanje, podelili so mu dve zlati plaketi Univerze v Ljubljani. Študenti na fakulteti so ga šestkrat izbrali za naj učitelja. Financial Times in Google pa sta ga leta 2016 uvrstila na seznam sto najvplivnejših inovatorjev iz srednje in vzhodne Evrope. Gostuje tudi kot profesor na univerzi Baylor College of Medicine v Hustonu. Na FRI vodi skupino, ki razvija odprtokodni program za podatkovno analitiko Orange.
Umetna inteligenca (UI) je že dolgo prisotna med nami, a prava vročica se je zagnala lansko jesen, ko se je orodje ChatGPT predstavilo javnosti in postalo dostopno tako rekoč vsem, veščim in neveščim uporabe računalnika. Kdaj se vi zatečete k njemu po pomoč, da si olajšate delo?
Vsak dan. Za opravila, kakršno je administrativno povzemanje dokumentov, grem kar k ChatGPT. Ali pa ko pišem besedilo, si pomagam z orodji, ki za menoj popravljajo slovnico. V tem primeru uporabljam orodje, ki tudi sloni na UI, kakršno je Grammarly, ki skrbi za pravilno slovnično rabo v angleškem jeziku.
Seveda pa uporabljam računalnik in imam tako kot vsi v žepu telefonu, ta pa je poln orodij in programske opreme, ki sloni na algoritmih UI. Pravzaprav je UI tako prisotna, da jo nevede uporabljamo vsakič, ko gremo na internet, ko recimo sedemo v avto in vprašamo Google, kakšno je stanje na cestah, ali pa ko kupujemo v spletnih trgovinah. Tudi zdravilo, ki ga jemljemo, je morda načrtovano z njeno pomočjo. Najmanj 20 let je že prisotna na vseh področjih našega življenja, čedalje bolj je in tudi bo, le da se tega ne zavedamo.
Zavrtimo čas res bolj nazaj. Ko ste se rodili, je bila UI že v povojih. Kdaj vas je nepričakovano pričakala v zasedi?
Že v osnovni šoli. Knjige o robotiki so me vedno zanimale. Obenem pa so mi mama ali posamezni učitelji v šoli govorili: 'Veš, ko bodo z nami roboti, bo vse drugače. Opravljali bodo vsa težka dela, mi, ljudje, bomo imeli veliko prostega časa in se bomo kulturno udejstvovali, brali knjige, bili na dopustu …' Takšno prigovarjanje se je izkazalo za eno od osnovnih zablod o uporabi novih tehnologij. Zdaj vem, kako napačno je. Svojim otrokom ne govorim, da bodo imeli več časa, ker bo v njihovem življenju UI prisotna v večji meri, ampak da bodo morda zaradi tega oni tisti, ki bodo popravljali robote.
Bil sem otrok, ki je pred spanjem bral Piko Nogavičko in knjige o robotih. Zbudili so mojo radovednost. Tudi računalniki. Kako sem si ga želel, kakšnega Sinclaira ZX ali Spectrum. Knjigo BASIC Jureta Špilerja sem prebral ene trikrat po dolgem in po čez, preden sem v srednji šoli lahko prvič sedel pred terminal in začel programiranje. Na Gimnaziji Bežigrad je bilo treba za dostop do računalnikov čakati, preveč se nas je takrat za to zanimalo, in ker sem večino časa preživel tam, pred računalniškimi terminali, sem imel nekaj časa tudi slabe ocene.
Od daleč si zlahka predstavljava, da ste bili videti kot mladi računalničar, kakršni so pogosto izrisani v pop kulturni produkciji na zahodu.
Ja, bil sem geek, ko se ozrem nazaj, zanimalo me je samo računalništvo. Vedno sem se tega resno loteval in se popolnoma posvečal znanosti, zabave me nikoli niso zanimale. Šele med magistrskim študijem sem se naučil žuranja. Prijatelj Stefano Monti, s katerim sem si delil študentsko stanovanje v Houstonu, danes bioinformatik z Univerze v Bostonu, je v tem smislu zelo spremenil moje življenje. Kar mi je dal v enem letu, je bilo nepozabno.
Če brez velikega napora zavrtimo čas spet naprej - zdaj ste vešč uporabnik UI, njen raziskovalec in ustvarjalec. Kaj je pravkar v središču vaše pozornosti?
V osnovi se moje delo na fakulteti za računalništvo in informatiko ne spreminja. Pravzaprav nas, v Ljubljani, zaradi mentorstva pionirja UI Ivana Bratka bolj zanima razumevanje podatkov kot avtomatizacija odločanja. Razumevanje, od kod in kakšni so lahko modeli, ki jih strojno učenje lahko zgradi, zahteva gradnjo programov, ki lepo podpirajo komunikacijo med strojem in človekom. Z mislijo na to smo v moji skupini na FRI zgradili orodje Orange, ki lahko podatke in zgrajene modele predstavi grafično, intuitivno. Orange ima prijazen uporabniški vmesnik, kjer lahko uporabiš elemente strojnega učenja in podatkovnih ved - torej gradnike, ki danes sestavljajo UI, na podoben način, kot bi sestavljal lego kocke.
Skupina, ki jo vodim, živi od raziskovalnih in praktičnih projektov. Orange razvijamo tudi v smeri potreb teh projektov, zato se življenje nikoli ne ustavi. Kot znanstvenik nimam velikega globalnega cilja - in drugače kot drugi, ki si morda želijo na Mars, sem bolj usmerjen v majhne korake in uživanje v procesu ustvarjanja ter opazovanja učinkov rezultatov projektov.
Ko omenjate opazovanje, je videti, da je to še kako ključno. Sploh pri raziskovalnem projektu, kjer s kolegi preučujete tehnike, ki naj bi vplivale na zaupanje in pravičnost UI.
Ta projekt, kjer sodelujeva z Ivanom Bratkom, je zanimiv, saj med drugim preučuje tudi izvor nepoštenosti algoritmov in modelov, ki jih gradi strojno učenje. Modeli strojnega učenja so lahko nepošteni - na primer pri svojih napovedih favorizirajo predstavnike določenega spola ali rase. Enostavno zato, ker izhajajo iz podatkov in odločitev ljudi, ki so bile pristranske. Razlog za pristranskost modelov strojnega učenja je torej največkrat v pristranskosti nas samih oziroma odločevalcev, katerih vzorce poskušajo algoritmi posnemati.
Znan primer pristranskosti so na primer odločitve ameriških sodnikov pri določanju varščine za obtožene. Izkazalo se, da so njihovo odločitve lahko zelo pristranske, saj so pogosto temeljile na rasi obtoženca: če je bil temnopolt, ni dobil možnosti za varščino in je šel v zapor, medtem ko je belopolt lahko plačal varščino. Ko so podatke za tovrstne odločitve prepustili algoritmu, se je izkazalo, da je algoritem sprejel enake odločitve kot človek.
Vse to pa je pripeljalo do pomembne ugotovitve, da niso algoritmi tisti, ki bi bili pristranski, ampak ljudje, ki so ga oblikovali. Ne nazadnje algoritmi, ki oblikujejo odločitvene modele, temeljijo na podatkih, ki jim jih damo na razpolago. Tako se na primer ena od vej strojnega učenja ukvarja s postopki, kjer bi iz pristranskih podatkov lahko gradili nepristranske modele, kjer bi pristranskost človeških odločitev iz podatkov odstranili. Od umetne inteligence nekako pričakujemo, da se odloča bolje, bolj zanesljivo in bolj pravično od nas samih.
Ob vašem pripovedovanju je razvidno, kako pomembno se je potopiti in bolje spoznati teme, ki so tako vseobsežne, kot je UI, in ki nas doletijo rahlo nepripravljene. Ne zadostuje, da se že kar uvodoma odločiš, da si za ali proti.
Trenutno imamo na voljo tehnologije, kot je na primer ChatGPT, ki brez težav generirajo besedilo, vendar lahko pri tem izkrivljajo resnico, govorijo neresnice, halucinirajo in lažejo na izjemno prepričljiv način. To seveda odpira pomembno vprašanje o osveščeni uporabi in regulaciji UI - pa tudi o vmesnikih, na primer pogovornih robotov, ki bi morali ne samo sestavljati besedila, ampak trditve podkrepiti z ustreznimi viri.
Imejmo pa v mislih, da se ljudje s podobnimi izzivi soočamo tisočletja, pa jih še nismo rešili. Spreminjamo resnico, lažemo, smo pristranski. Od UI, ki posnema človeško inteligenco, pričakujemo, da bo imela lastnosti, ki so boljše od nas. Pravilno je razmišljati o tem in iskati rešitve, saj upravičeno pričakujemo, da bodo delovale v skladu z etičnimi standardi in govorile le dejstva. Bilo bi fino, če bi tako za umetno inteligenco kot za ljudi postavili enake etične standarde, a zgodovina uči, da nam slednje ni ravno uspelo.
Kako pa je pristranske algoritme mogoče dobro zagrabiti in jih ukrotiti?
Tipično začnemo s pregledom podatkov in poskusimo ugotoviti, kako se pristranskost kaže. Model strojnega učenja bi na primer iz pristranskih podatkov lahko predlagal, da bi v podjetju zaposleni moški moral dobivati višjo plačo kot ženske. Ko pristranskost v podatkih prepoznamo, jo lahko algoritmično odpravimo tako, da spol ali kakšne druge z njim povezane karakteristike v končnem napovednem modelu ne vplivajo na višino plač.
V moji skupini se ukvarjamo tudi s tem, kako probleme, kot je pristranskost podatkov in posledično modelov, najbolj preprosto pojasniti potencialnim uporabnikom takih modelov, torej tipično neračunalničarjem. Ali je recimo mogoče na sestanku z - na primer - organizacijo, kakršna je Unesco, v petih minutah predstaviti problem pristranskosti podatkov in prikazati, kako jo algoritmi UI odpravijo?
Pet minut? Kako toliko znanja obvladljivo strniti v vsem razumljivo snov?
Zbrati moraš podatke, zgraditi intuitivna orodja, kakrkšno je Orange, in pripraviti prepričljiv primer uporabe. Te potem tipično zapakiramo v kakšen kratek video, ki ga objavimo na youtubu. Veliko projektov, pri katerih dela moja skupina danes, vsebuje izobraževalno komponento. Dela je veliko, sodelavci so tako razvijalci programov, podatkovni znanstveniki, raziskovalci, študenti in tudi pisci scenarijev, oblikovalci priročnikov in video gradiv. Skupina, ki jo vodim, deluje kot en srednje velik orkester.
Cilj, ki ga pri izobraževalnem delu zasledujemo, je ugotoviti, kako predstaviti kompleksne algoritme strojnega učenja tako, da jih je moč predstaviti vsakomur in intuitivno pojasniti njihove delovanje. Tudi na področju pristranoskosti bi radi nazorno pokazali, kako ta izhaja iz pristranskosti podatkov - in ne algoritmov.
Katere slovenske podatke pa bi izbrali za zgled?
Učinke pristranosti tipično kažemo na javnih podatkih, ki so prosto dostopni na internetu in tipično zbrani v ZDA. Slovenskih primerov na tem področju še nimamo in verjetno bom še do večera premišljeval o tem vašem vprašanju. Podatke je tudi sicer lažje pridobiti iz tujine. Predstavljajte si, da grem na ministrstvo za javno upravo in zahtevam podatke, s katerimi bom dokazal, da je določena služba pristranska. Ne samo, da mi jih ne bodo zagotovili, nikoli več ne bom smel v njihove pisarne (smeh).
Kakšne težave z javno dostopnimi podatki imamo, se je gotovo pokazalo med epidemijo, ko podatkov za ustrezno analizo sploh ni bilo, dokler se ni zbrala ekipa Sledilnika. Zamisli o obvladovanju stanja s pomočjo podatkov pa ste imeli tudi vi, kajne?
Da, vendar prav dosti UI nismo uporabljali. Takrat smo, v sodelovanju z virologi, želeli priti do podatkov, na katerih bi lahko preučili, kako cepljenje vpliva na potek bolezni. Vprašali smo tudi politike, ali bi takšen projekt podprli. Naša predpostavka je bila, da bi Slovenija lahko postala prva država na svetu, kjer bi na nivoju celotne države bila izvedena taka raziskava. Dobili smo zeleno luč, vendar se je potem vse ustavilo. V Sloveniji pogosto primanjkuje poguma, zgubimo se v nekih administrativnih zankah in potem nas prehitijo drugi.
Pred več kot desetimi leti je tako na primer mlajši član skupine predlagal, da bi morala Slovenija sprejeti zakone, ki bi avtonomnim vozilom omogočali prosto vožnjo po državi. Naložil mi je nalogo, da o tem prepričam nekaj ministrov. Njegova ideja je bila resnično briljantna. Če bi se uresničila, vsaj delno, bi bila Slovenija na tem področju prva v Evropi vključena v vse projekte razvoja avtonomnih vozil, v državo pa bi privabila tako razvijalce, raziskovalce in investitorje. A zgodilo se ni nič. Eden od odločevalcev je največji problem videl na primer v kamerah avtonomnih vozil, ki naj bi s snemanje cestišča morda kršile kakšnega od obstoječih zakonov, spet drugemu se je zdelo nemogoče ustrezno prilagoditi zakonodajo. Seveda so nas tudi tu prehiteli drugi.
Takšno delo torej ne mine, ne da bi morali za to vzeti zaleti in preskočiti več manjših in večjih ovir. Kaj vas po dozdajšnjih izkušnjah zavira bolj, kot bi vas lahko?
Da se v Sloveniji ukvarjaš z znanostjo, moraš biti malo nor, no, ali vsaj precej odločen, saj se srečuješ s finančnimi izzivi. Glavni problem je majhnost države. Velika težava se na primer pojavi v sodelovanju s podjetji, ker so danes ta večinoma v lasti tujcev, ti pa želijo sodelovati le z univerzami v njihovih državah. Izguba velikih slovenskih podjetij in prodaja tujcem ima lahko velik negativni vpliv na raziskovalni sektor in razvoj univerze. Prav tako se soočamo s težavo odhajanja kadrov, zlasti na področju UI. Prvi razlog so plače. Te so za mlade kadre na področju računalništva v akademiji mizerne v primerjavi s plačami, ki jih lahko dobijo z zaposlitvijo v privatnem sektorju ali v tujih podjetjih. Za raziskovalce UI je dodatna vzpodbuda odhod v tujino in več priložnosti za razvoj tehnologije, kar je spet povezano z interesom podjetij, po drugi strani pa tudi z zakonodajo, saj je na primer v ZDA dosti lažje priti do zanimivih podatkov kot pri nas.
Nekoč ste suvereno dejali, da bi lahko orodje, kakršno je zdaj ChatGPT, ali njemu podobno, razvili že trije študenti v Sloveniji. Toda … Zakaj ne bi bilo povsem izvedljivo?
Morda sem nekoliko pretiraval, a rešitve in koncepti, na katerih gradi podjetje OpenAI, so bile predlagane že prej, omejitev pa je seveda infrastruktura za zbiranje podatkov in gradnja modelov, ki ne samo da stane, ampak porabi tudi ogromno energije. Slovenci verjetno ne bomo razvili pogovornih botov tipa ChatGPT, ki bi ga uporabljala celotna svetovna skupnost. Za Evropo pa bi bilo koristno, če bi to storili.
Vendar pa naj pri tem razmisli tudi, kako bo poskrbela, da se nadvse uporabna orodja v napačnih rokah ne spremenijo v zoprno orožje. Že zdaj je mogoče čutiti, kako UI poganja dezinformacijske kampanje - ali povsem preproste spletne prevare, ki žrtve lahko spravijo v resno stisko in jim izpraznijo bančni račun.
Drži, da se UI, kot vsaka napredna tehnologija, lahko iz orodja spremeni v orožje. Po eni strani nam lahko pomaga v znanosti, medicini, dviguje produktivnost na vseh področjih življenja, po drugi strani pa jo lahko zlorabimo. Kot pri drugih tehnologijah se tudi pri UI lahko odločimo, ali jo bomo uporabili v korist družbe in človeštva - ali pa izrabili v druge namene.
Kje pa vi vidite največje pasti ali izzive, zlasti na področjih, ki so povezani z digitalno zasebnostjo, varnostjo, dezinformacijami in podobno?
Večina teh težav izhaja iz lastništva podatkov. Če so podatki v lasti velikih ameriških tehnoloških podjetij, lahko ta o nas vedo vse. Evropa se tu brani z uredbo o varstvu osebnih podatkov (GDPR), a te dostikrat omejujejo predvsem domača podjetja in inštitucije. Danes vsa UI temelji na uporabi podatkov. Ker UI splošna javnost ne pozna, ne razume, kako je te podatke mogoče zlorabiti. Ali pa jih uporabiti nam in slovenski družbi v prid. Rešitev bi bila poučevanje konceptov in načinov uporabe UI v šolah. Z UI se v našem izobraževalnem sistemu srečajo izbrani šele na tehniških fakultetah. Slovenija ima tu veliko priložnost, da to spremeni. S kolegom Janezom Demšarjem razvijava programe, ki bi vsebine UI vključevali v osnovne in srednje šole, ne da bi spremenili obstoječi kurikul. Verjamem, da bi take in podobne vsebine v naše šole lahko vključili kmalu in da bi pri tem lahko prehiteli mnoge druge države, a bi za sistemsko rešitev na tem področju potrebovali podporo odločevalcev in pristojnih ministrstev. Tudi tu bi za take rešitve potrebovali več poguma.
Ker znanje pomaga, kot pravite, vodite projekt Pumice. Iz imena je takoj slutiti, da zadeva otroke. Kakšna so bila vaša pričakovanja na začetku?
Projekt Pumice je nastal, ko sva s kolegom dr. Janezom Demšarjem pred približno sedmimi leti premišljevala, ali bi lahko UI v Houstonu približala študentom biomedicine, kjer sem takrat gostoval. Predpostavila sva, da ti nimajo predznanj iz računalništva in matematike, da pa jih podatkovna analitika lahko zanima. Ideja je bila, da bi jim v 16 urah razložila osnove strojnega učenja. Sestavila sva program, ki se je izkazal za zelo uspešnega. Podobna izobraževanja smo potem ponudili tudi študentom v Sloveniji, organizirali smo delavnice za raziskovalce z različnih, tudi humanističnih področij, prirejali tečaje za podjetja in uslužbence javne uprave. V zadnjih petih letih je najina skupina izvedla več kot sto takih tečajev in s tem kalila pedagoške pristope in orodja, ki smo jih na tečajih uporabljali.
Nato smo se vprašali, ali bi lahko šli še korak dlje in UI približali osnovnošolcem in srednješolcem. Projekt Pumice, ki ga vodi dr. Demšar, pripravlja praktične primere uporabe strojnega učenja, s katerimi lahko popestrimo pouk zgodovine, umetnosti, biologije ali geografije. Pri tem uporabimo podatke, povezane z učno snovjo, in jih raziskujemo s pristopi umetne inteligence in strojnega učenja. V sodelovanju z učitelji smo pripravili učne predloge in razlago ozadja za učitelje in učence.
V okviru Pumic smo letos maja pripravili tudi izziv Priimkoslovje. Učenci so na podlagi podatkov lahko na primer odkrili, da Novak, sicer najpogostejši priimek v Sloveniji, ni ravno pogost na Primorskem, in da družine s priimkom Gorenc ali Dolenc ne živijo tam, kjer bi morda pričakovali. Odkrivali so, kateri so najpogostejši priimki v njihovi občini in kako so si občine po pogostosti priimkov podobne. Slednje tudi tako, da so poiskali skupine po priimkih podobnih občin v Sloveniji - in če so to naredili pravilno, so opazili, da so priimkovske meje v državi geografsko presenetljivo čisto določene. Priimki na primer razkrijejo meje, ki izvirajo iz časov Habsburške monarhije.
Če se vam zdi, da je Priimkoslovje zanimivo za preučevanje zgodovine, za spoznavanje geografije ali pa da je to tema, ki je zanimiva za pouk slovenščine, ste zadeli. To je bil naš cilj. In seveda zraven spoznavajo predstavitev občin s podatki, merjenje razdalj, hierarhično gručenje v skupine in geoinformatiko, ampak učence seveda s temi pojmi ne obremenjujejo. Hitro sami spoznajo, da so orodja strojnega učenja, ki so se jih pri tem na tiho naučili, uporabna tudi pri kakršnihkoli drugih podatkih.
Izziva Priimkoslovje se je udeležilo skoraj 1000 učencev z vseh koncev Slovenije. Je dokaz, da je ob sodelovanju z učitelji tehnike umetno inteligenco mogoče spoznavati v osnovnih in srednjih šolah.
Uporabili pa so orodje Orange, ki ste ga razvili na univerzi.
Ja, razvili smo ga pri nas, v Sloveniji, v skupini, ki jo vodim. Orange je orodje, ki je odprtokodno, torej zastonj, in na všečen način združuje vizualizacijo podatkov in strojno učenje. Morda ga ravno zaradi te všečnosti in preprostosti - in hkrati zaradi moči in obilice gradnikov, ki jih vsebuje -, danes pri poučevanju uporablja več kot 500 univerz po celem svetu.
Kako pa so učenci izpeljali ta projekt?
Za izziv Priimkoslovje smo pripravili podatke, video gradiva in dodatne priročnike za učitelje. Pristop na šolah je bil različen, ponekod so izziv reševali v računalniških učilnicah, drugje, na primer v nižjih razredih, pa so si skupaj ogledali videe. Vsak učenec je potem reševal kviz z vprašanji in odgovori, kjer je bilo seveda potrebno uporabiti orodje Orange in premierno pobrskati po podatkih.
Pumice so projekt, pri katerem gradimo primere uporabe strojnega učenja. Sodelujemo z učitelji, pripravimo podatke, razmislimo o problemu in izzivu in preizkusimo rešitve, spišemo scenarije za videe, jih posnamemo, zmontiramo, pripravimo dodatna gradiva za učitelje in jih o njih in izzivih seznanjamo na delavnicah. Primeri vključujejo odkrivanje vremenskih pasov v Evropi iz podatkov o povprečnih mesečnih temperaturah mest, raziskovanje živalskih vrst iz podatkov o njihovem videzu, odkrivanje podobnosti narečnih skupin in podobno.
Pristop je povsem drugačen od tradicionalnega. Učenci se naučijo uporabljati podatke in skušajo s pomočjo strojnega učenja sami poiskati zanimive vzorce - ali pa gradijo uporabne napovedne modele. Učno snov torej na ta način usvojijo tako, da jo sami odkrijejo.
Kako pa biti pri podajanju dovolj prepričljiv, da lahko pretentaš tudi tiste, ki so trdovratno prepričani, da vse, kar je povezano z računalniki, nikakor ni zanje?
Pokažeš jim, kako je lahko – tako na mojem področju – umetna inteligenca uporabna na področju, ki jih zanima.
Danes seveda pri tem uporabljam svoje dolgoletne izkušnje kot predavatelj. Ko sem ob docenturi prvič stopil v predavalnico, sem mislil, da je to, kar počnem, odlično. Ko pogledam nazaj, vidim, da je bilo vse zelo slabo. Moralo bi me biti sram zaradi tega, kar sem takrat počel. A me ni. Če ne poskusiš, se nikoli ne naučiš. Mislim, da sem se v 25 letih prakse naučil veliko o tem, kako prenašati znanje tako, da me nekdo sploh razume. Če bi na primer na sredini semestra stopil v predavalnico in videl, da ni nobenega študenta, bi vedel, da sem nekaj storil narobe. Če pa je tam veliko študentov, vem, da sem na dobri poti. Naloga nas, predavateljev, je prenašati znanje. Prvič, ko so me študenti v eni debati vprašali zakaj, sem skušal najti najenostavnejši, morda sicer ne čisto pravi odgovor: Vi, študentje, ste naša penzija.
V predavalnici nam odziv poslušalcev daje energijo. Zato je bilo obdobje pandemije težko, celo neprijetno. Ne maram predavati na zoomu. Pretoka energije ni, manjka mi tabla, kreda, odzivi, vprašanja, lahko tudi zafrkantska - ali pa še raje tista res težka, lahko tudi taka, kjer povem, da nečesa ne znam, a bom poiskal odgovor do naslednjič.
Kako si glede na pospeške UI predstavljate prihodnost? Tisto bližnjo, ki je že na dosegu roke, čez recimo 15 let.
Prva možnost je, da nam tehnologija res pomaga, da nas osvobodi, da imamo več časa za uživanje v naravi in hobijih, da hodimo na sprehode, kolesarimo, jadramo. Enostavno, da imamo več miru.
Druga pot je črna. V mladosti sem prebral vse knjige s področja znanstvene fantastike, ki so bile takrat prevedene v slovenščino. Mnoge napovedi v teh knjigah so se danes uresničile. Mnoge od njih so tudi slikale podobe distopične družbe.
Sprašujem se, če smo že tam - ali pa na njenem pragu. Morali bi razmisliti, kam bi radi šli in kdo bo z novimi tehnologijami pridobil. Človeštvo ali izbrani posamezniki. Distopija ni daleč. Na primer, smo res pripravljeni sprejeti, da bodo na naslednjih olimpijskih igrah vse gledalce spremljale kamere. Takšne oblike nadzora posameznikov, kot ga ima Kitajska, si ne želim. Če bi bilo na meni, bi Franciji povedal, je prestopila mejo - in če brez nadzora posameznikov ne zna organizirati iger, mora predati organizacijo komu drugemu.
In trčimo v problem UI in velikanske količine podatkov.
Ko se podatki sistematično zbirajo in hranijo, se odprejo tudi možnosti za njihovo zlorabo, bodisi jih zlorabi država ali posamezniki, ki vdirajo v sisteme, ali pa podjetja, ki jim je zbiranje dovoljeno. Zato je pomembno, da ljudje razumejo, vsaj na konceptualni ravni, kaj lahko s podatki počnemo, in torej kaj so pravzaprav orodja in tehnike umetne inteligence in strojnega učenja. Brez poznavanja teh tehnologij bomo lahko le ugibali, kako nam lahko koristijo in škodijo.
Da ne ovinkarim: umetna inteligenca je silno zanimiva in lahko zelo koristna tehnologija. Brez nje, če smo že bili pri znanstveni fantastiki, ljudje ne bomo mogli naseliti oddaljenih svetov. A kot vsaka tehnologijo tudi umetno inteligenco lahko zlorabimo. Kot smo zlorabili tudi vse tehnologije do zdaj. A zaradi možnih zlorab nismo opustili nobene tehnologije, ki nam je omogočila rast in razvoj civilizacije. Bi bilo pa dobro premisliti, kam res želimo priti. Kot ljudje in družba.
Vsekakor bo vsaka pot posejana z visokimi ovirami. Kako pa je, ko se vam postavijo na pot? Se jim praviloma takoj približate in jih poskusite preskočiti - ali jih raje najprej opazujete, da vidite, s čim imate opraviti?
Z leti se človek kar dobro nauči izogibati težavam. Naučiš se, da ne moreš vedno z glavo skozi zid in da se splača spoprijeti le s tistim, na kar lahko vplivaš.
Kaj pa vam jemlje veter z jader?
Moram reči, da si ob zvoku budilke ne rečem: 'Kaj se mi bo pa danes slabega zgodilo?' Zbudim se in si rečem: 'Kaj zanimivega bomo pa danes počeli?'
Si grem pa seveda kdaj napolnit baterije. Zlasti rad grem zjutraj plavat. Ura plavanja mi res pomaga. Kar se naučiš s časom, je, da ne razmišljaš neprestano o problemih in težavah, ampak, če ti so, da jih je dobro prespati. Možgani tako delujejo. Ko greš spat, 'pobrišejo' vse nepomembne misli. Ko plavam, se mi po približno 500 metrih mnogokrat zgodi preblisk, s katerim rešim kakšen problem, ki bi me lahko prejšnji dan mučil pozno v noč. Od problemov se je vedno koristno malo oddaljiti.
Prostorov za oddaljevanje imam res veliko. Živim praktično v središču mesta, a sem s kolesom v petih minutah v gozdu, kjer ni nikogar. Slovenci bi lahko bolj cenili raj, v katerem živimo.
Podkastu z Blažem Zupanom lahko prisluhnete na tej povezavi ali v vseh aplikacijah, ki predvajajo podkaste.
Podkasti nastajajo s podporo Ministrstva za kulturo.