Veštačka inteligencija sve je prisutnija u našem svakodnevnom životu – u obrazovanju, nauci, poslovanju, medijima i komunikaciji. Zajedno sa mogućnostima koje donosi, otvara i brojna pitanja o bezbednosti, odgovornosti, privatnosti i granicama njenog korišćenja. O tim temama govorio sam u razgovoru za TV Hram, predstavljajući rad Srpske akademske inicijative za bezbednu primenu veštačke inteligencije – SAVI, kao i ideje sa prve SAVI panel-diskusije pod nazivom „Da li je pređen digitalni Rubikon? – Izazovi veštačke inteligencije u savremenom društvu“. U nastavku prenosim razgovor.

Šta je SAVI i sa kojim ciljem je osnovan?

TV Hram: Za početak našeg razgovora volela bih da upoznamo naše gledaoce sa Srpskom akademskom inicijativom za bezbednu primenu veštačke inteligencije. Kada je ona i sa kojim ciljem osnovana?

Nenad Badovinac: Udruženje SAVI osnovano je početkom godine, sa ciljem da široj javnosti pruži informacije o tome koliko veštačka inteligencija može biti bezbedna, koliko je danas bezbedna i koliko je potrebno da bolje razumemo njen sadržaj kako bismo mogli bezbednije da je koristimo. Veštačku inteligenciju već koristimo svakodnevno i zato je važno da razumemo tehnologiju sa kojom dolazimo u kontakt. Jedna od najvećih snaga SAVI-ja jeste interdisciplinarnost. Želimo da povežemo naučnike iz različitih oblasti i da široj javnosti ponudimo različite poglede na veštačku inteligenciju. Nekome će više značiti filozofski pristup, nekome tehnički pogled i objašnjenje mašinskog učenja, a nekome pitanja etike, obrazovanja ili teologije. Veštačku inteligenciju danas koristimo u različitim oblastima – od porodice i obrazovanja do svakodnevnog poslovanja i privrede. Zbog toga nije dobro posmatrati je samo iz jednog ugla. Ako posmatramo samo jedan njen segment, veoma brzo možemo ili potpuno da je osudimo ili da nekritički prihvatimo sve što donosi. Upravo zato smatram da je interdisciplinarnost velika prednost SAVI-ja. Veštačku inteligenciju kao tehnologiju treba sagledavati iz više uglova kako bi ljudi bolje razumeli šta ona u svojoj suštini jeste.

TV Hram: Na panel-diskusiji postavili ste pitanje „Da li je pređen digitalni Rubikon?“. Šta je, po vašem mišljenju, digitalni Rubikon?

Nenad Badovinac: Digitalni Rubikon je metafora. Poznata je priča o Juliju Cezaru koji je prešao reku Rubikon. Nakon tog prelaska više nije bilo jednostavnog povratka, jer je njegov postupak izazvao velike političke posledice. Kada govorimo o digitalnom Rubikonu, govorimo o jednoj sličnoj simboličnoj liniji. Ako smo je prešli, teško možemo da se vratimo načinu života koji smo imali pre savremenih digitalnih tehnologija i veštačke inteligencije. Svi panelisti na našoj prvoj panel-diskusiji u Matici srpskoj saglasili su se da je digitalni Rubikon već pređen.Teško možemo da se vratimo na život kakav smo imali pre masovne upotrebe savremenih tehnologija i veštačke inteligencije.

Odgovornost više nije samo na kompanijama koje razvijaju tehnologiju

TV Hram: Svakodnevno slušamo vesti iz sveta povezane sa veštačkom inteligencijom. Šta možemo da uradimo kako bismo lakše živeli sa činjenicom da smo prešli digitalni Rubikon?

Nenad Badovinac: Digitalni Rubikon ne treba shvatiti kao crvenu liniju koju nikako nismo smeli da pređemo. Njegov prelazak pre svega povećava našu odgovornost. Više ne možemo jednostavno reći da je odgovoran neko ko je tehnologiju napravio i ponudio nam je na korišćenje. Svako od nas ima određenu ličnu odgovornost za način na koji će tehnologiju koristiti. Svakodnevno možemo videti primere u kojima se tehnologija koristi u negativne svrhe i situacije u kojima se modeli veštačke inteligencije zloupotrebljavaju, namerno ili nenamerno. Čak i kada se nešto dogodi nenamerno, postoji pitanje odgovornosti. Možda nije bilo dovoljno pažnje, kontrole ili razumevanja sistema. Tehnologija nam je danas svakodnevno dostupna, a način na koji ćemo je koristiti u velikoj meri zavisi od nas.

Strah ili nekritičko prihvatanje veštačke inteligencije?

TV Hram: Da li među korisnicima postoji strah od veštačke inteligencije?

Nenad Badovinac: Upravo je to jedna od tema kojima SAVI želi da se bavi. Ne želimo ljudima da kažemo da treba da se plaše veštačke inteligencije. Ali isto tako ne želimo da kažemo: tehnologija je dostupna, zato treba da je koristimo bez razmišljanja. Potrebno je da pronađemo kritičku sredinu koja će biti korisna za društvo. Veštačku inteligenciju ne treba posmatrati kao nešto što će samo po sebi uništiti civilizaciju, ali isto tako nije dobro prihvatati sve što nam se nudi samo zato što je tehnološki moguće. Potrebno je kritičko razmišljanje. Cilj je da kao društvo od tehnologije imamo korist.

Interdisciplinarni pogled na veštačku inteligenciju

TV Hram: Ko je učestvovao na panel-diskusiji?

Nenad Badovinac: Imali smo četiri panelista. Dr Vanja Subotić sa Filozofskog fakulteta Univerziteta u Beogradu govorila je iz perspektive filozofije. Profesor dr Velimir Dedić posmatrao je veštačku inteligenciju sa informatičke strane. Profesor dr Milovan Krnjajić otvorio je pitanja matematike, statistike i mašinskog učenja. Prezviter dr Oliver Subotić govorio je iz teološke perspektive. Na taj način neko ko je slušao panel-diskusiju mogao je da dobije veoma širok pogled na ovu tehnologiju. Nekome će biti bliži teološki pogled oca Olivera, nekoga će više zanimati informatika, a nekoga matematika, statistika ili mašinsko učenje. Meni je bilo posebno interesantno što sam mogao da čujem kako stručnjaci iz različitih naučnih disciplina posmatraju isto pitanje. U tome upravo vidim snagu SAVI-ja – mogućnost da jedan problem sagledamo iz više uglova. Veštačka inteligencija više nije pitanje samo informatike. Ona je prisutna u gotovo svim oblastima života. Čak i roditelji ulaze u oblast veštačke inteligencije jer treba da razumeju tehnologiju kako bi svoju decu mogli pravilno da usmere i pomognu im da bezbedno koriste nove tehnologije. Šire obrazovanje omogućava nam da isti problem sagledamo iz više uglova.

SAVI i budući razgovori sa javnošću

TV Hram: Da li postoji snimak prve panel-diskusije i da li su planirana nova predavanja?

Nenad Badovinac: Jedan od ciljeva SAVI-ja jeste da se postepeno još više otvorimo prema javnosti. Prvu panel-diskusiju nismo organizovali kao javni video-prenos, ali smo dobili veoma mnogo kvalitetnog sadržaja i zaključaka koji će biti predstavljeni na našem sajtu savi.rs. U budućnosti možemo razvijati i video-sadržaje i prenose uživo. Na taj način mogli bismo da uključimo širu javnost u realnom vremenu. Gledaoci bi mogli da postavljaju pitanja, iznose svoja razmišljanja i učestvuju u razgovoru, dok bi stručnjaci iz različitih oblasti odgovarali na pitanja i izazove povezane sa bezbednom primenom veštačke inteligencije.

Veštačka inteligencija u obrazovanju

TV Hram: Veštačka inteligencija već se koristi u obrazovanju. Kako bi danas trebalo da izgleda obrazovni proces kada učenici i studenti mogu deo svog rada da prepuste veštačkoj inteligenciji?

Nenad Badovinac: Kao profesor na Univerzitetu „Union – Nikola Tesla“ i sam se susrećem sa tim pitanjem. Ne bih rekao da je to problem, već pitanje kako studentima dati dovoljno znanja i smernica, a da njihov rad ne bude potpuno prepušten AI alatima. Studenti svakako treba da koriste AI alate i potrebno je da dobro upoznaju veštačku inteligenciju. Ako nauče kvalitetno da je koriste, može se ostvariti veoma korisna sinergija između njihovog znanja i mogućnosti koje nude savremeni alati. Međutim, postoje stvari koje ne možemo prepustiti veštačkoj inteligenciji. Jedna od njih je timski rad. Ako studenti dobiju problem koji treba zajednički da reše, nije dovoljno da svako od njih postavi nekoliko pitanja veštačkoj inteligenciji. Studenti moraju da nauče kako međusobno da sarađuju, kako da razgovaraju, podele zadatke, razmenjuju ideje i zajednički dođu do rešenja. Veštačka inteligencija može svakom članu tima ponuditi veoma korisne odgovore, ali duh timskog rada ne možemo prepustiti tehnologiji. To iskustvo moramo sami da razvijamo. Ako studenti ne nauče da rade u timu, teško će kvalitetno rešavati kompleksne probleme, bez obzira na to da li govorimo o informacionim tehnologijama ili nekoj drugoj oblasti.

Čovek mora da sačuva svoj identitet

TV Hram: Može li veštačka inteligencija da utiče na identitet čoveka i kako treba da se odnosimo prema tom pitanju?

Nenad Badovinac: Identitet je nešto što mora ostati naše. Potrebno je da imamo i digitalni identitet, odnosno način na koji smo predstavljeni i prepoznatljivi u digitalnom prostoru, na društvenim mrežama, internet stranicama i drugim platformama. Ali pre svega moramo sačuvati svoj realni, ljudski identitet. Ne treba da se previše vežemo za tehnologiju. Ako koristim tehnologiju, ona treba da mi bude pomoć, a ne gospodar. Ja treba da upravljam tehnologijom, a ne tehnologija mnome. Problem nastaje kada svoje želje, odluke i identitet počnemo da prepuštamo tehnologiji. Suština tehnologije treba da bude da koristi čoveku. Treba da znamo da je tehnologija tu, na telefonu, računaru ili nekom drugom uređaju, ali da mi njome upravljamo.

Šta mora da ostane u domenu čovekove odgovornosti?

TV Hram: Šta mora da ostane u domenu čovekove odgovornosti?

Nenad Badovinac: To je veoma važno pitanje. Velike tehnološke kompanije imaju svoje poslovne ciljeve i prirodno je da među njima postoji i ostvarivanje profita. Problem može nastati ako svoje ciljeve počnemo da prilagođavamo isključivo onome što nam tehnologija predlaže. Na primer, naučnik može početi da prilagođava svoja istraživanja onome što mu veštačka inteligencija nudi umesto da polazi od pitanja koja on smatra važnim za nauku i društvo. Zato je važno da sačuvamo sopstvene ciljeve. Ako kao istraživač prepoznam određeni problem u društvu, moj naučni rad treba da bude usmeren ka rešavanju tog problema i dobrobiti društva. To nije razlog da odbacimo tehnologiju. Potrebno je samo da znamo kako prema njoj da se postavimo. Na kraju je odgovornost ponovo na nama. Ne možemo jednostavno reći da nismo odgovorni zato što je tehnologiju napravila određena kompanija. Mi imamo alate i odgovorni smo za način na koji ćemo ih koristiti. Na kraju krajeva, odgovorni smo za svoje odluke.

Zaštita privatnosti i razvoj veštačke inteligencije

TV Hram: Na globalnom nivou govori se o novim merama zaštite kada je reč o kompanijama koje razvijaju veštačku inteligenciju. Koje su to mere?

Nenad Badovinac: Veliki deo tih mera odnosi se na zaštitu privatnosti i podataka, kao i na potrebu da modeli veštačke inteligencije budu sigurni i da se koriste na dobrobit ljudi. Kao što SAVI govori o bezbednoj primeni veštačke inteligencije, tako će se i nova pravila sve više razvijati kako bi modeli bili bezbedniji. Međutim, postoji još jedan problem. Potrebno je pronaći ravnotežu između zaštite podataka i mogućnosti naučnika da istražuju i razvijaju nove modele. Ako istraživač za svaki skup podataka mora da prolazi kroz veoma komplikovane procedure i traži veliki broj posebnih dozvola, postoji mogućnost da bude obeshrabren da se određenom vrstom istraživanja uopšte bavi. Sa druge strane, postoje države koje imaju liberalniji pristup razvoju novih tehnologija. Internet povezuje ceo svet, pa imamo situaciju u kojoj neke države uvode stroža pravila, a neke mnogo blaža. Naučnici i kompanije mogu svoje aktivnosti premeštati tamo gde imaju manje ograničenja. Zbog toga nije jednostavno napraviti propise koji će istovremeno štititi privatnost, omogućiti naučni razvoj i biti primenjivi na globalnom nivou. Biće potrebno vreme da se pronađu dobra i održiva rešenja.

Kako bi izgledao dobar odnos čoveka i veštačke inteligencije?

TV Hram: Kada bismo otputovali nekoliko godina u budućnost, šta bi za vas bio znak da smo kao zajednica uspostavili dobar odnos prema veštačkoj inteligenciji?

Nenad Badovinac: Veoma je teško praviti prognoze jer niko sa sigurnošću ne zna kuda će razvoj veštačke inteligencije voditi. O tome sam razgovarao i sa svojim profesorima tokom doktorskih studija. Čak ni ljudi koji se ovom oblašću veoma ozbiljno bave ne mogu sa sigurnošću reći šta nas očekuje. Postoje vrlo pesimistični pogledi na budućnost, ali ja ne bih unapred posmatrao budućnost kao nešto crno. Mislim da je važno ostvariti sinergiju između čoveka i savremenih tehnologija. Ako uspemo da koristimo veštačku inteligenciju, a istovremeno ostanemo kritični i odgovorni prema njenoj primeni, napravićemo važan korak. Veštačka inteligencija može da bude naš pomoćnik i asistent u velikom broju poslova. Ali moramo znati da postavimo granicu. Kada kao pojedinci i kao društvo razvijemo tu vrstu lične odgovornosti, možemo reći da smo napravili dobar korak. Posebno je važno da mlađe generacije razvijaju svest o odgovornoj primeni tehnologije.

TV Hram: Šta je veći problem – strah od veštačke inteligencije ili slepo verovanje veštačkoj inteligenciji?

Nenad Badovinac: I jedno i drugo predstavljaju problem. Ne bih preporučio ni strah ni slepo korišćenje tehnologije. Potrebna nam je zlatna sredina. Veštačku inteligenciju možemo uporediti sa automobilom. Ako vozimo neprimereno sporo, i tada možemo izazvati probleme u saobraćaju. Ako vozimo prebrzo, rizikujemo sopstveni i tuđi život. Potrebno je voziti u okviru pravila i ograničenja. Isto važi i za tehnologiju. Nemam razloga da se plašimo automobila zato što postoji mogućnost da se njime vozimo 250 kilometara na sat. Važno je da postoje pravila i ograničenja i da ih vozač poštuje. Možda nam je sličan pristup potreban i kod modela veštačke inteligencije. Tako bismo mogli da dobijemo svojevrsni „automobil budućnosti“ koji nam pomaže da budemo brži i efikasniji, ali kojim i dalje upravlja čovek.

Gde se mogu pratiti aktivnosti SAVI-ja?

TV Hram: Gde naši gledaoci mogu detaljnije da se informišu o SAVI-ju i vašim aktivnostima?

Nenad Badovinac: SAVI ima svoj LinkedIn profil na kojem objavljujemo razmišljanja naših članova i njihove poglede na različita pitanja povezana sa veštačkom inteligencijom. Na našem sajtu savi.rs objavljujemo aktivnosti, planove i izveštaje. U budućnosti, sa većim brojem konferencija, stručnih susreta i naučnih razgovora, verovatno ćemo razvijati i nove načine komunikacije sa javnošću. Za sada su naše glavne tačke komunikacije LinkedIn i www.savi.rs.

„The Digital Rubicon“ – prvo izdanje SAVI-ja

TV Hram: Ovde u studiju imamo i knjigu na engleskom jeziku „The Digital Rubicon“. Recite nam nešto više o njoj.

Nenad Badovinac: „Digital Rubicon“ je prvo izdanje SAVI-ja, a autor knjige je otac Oliver Subotić. Knjiga se bavi upravo temama o kojima razgovaramo. Objavljena je na engleskom jeziku jer želimo da se povežemo i sa institucijama u svetu koje se bave bezbednom i odgovornom primenom veštačke inteligencije. Otac Oliver u knjizi daje pregled alata veštačke inteligencije, ali posebno otvara pitanje ulaska tehnologije u unutrašnju, duhovnu sferu čoveka. Ukazuje na potrebu da zastanemo pred savremenom tehnologijom i razmislimo koliko joj prostora dajemo u svojoj unutrašnjoj sferi i u formiranju sopstvenog identiteta. Kao teolog i poznavalac savremenih tehnologija i alata veštačke inteligencije, otac Oliver poziva na oprez i odgovornost.

TV Hram: Gde gledaoci mogu da pronađu knjigu?

Nenad Badovinac: Knjiga je dostupna u Delfi knjižarama. SAVI je kao izdavač ostvario saradnju sa Delfijem, tako da knjiga može da se poruči putem njihovog sajta ili pronađe u njihovim knjižarama.

Pogledajte ceo razgovor

U video-prilogu možete pogledati kompletan razgovor:

Fotografije: arhiva TV Hram
Video-prilog: TV Hram / YouTube