MOGUĆE OPASNOSTI GENERATIVNE VEŠTAČKE INTELIGENCIJE

Abstract

Generativna veštačka inteligencija (GenAI) predstavlja oblast proučavanja koja obuhvata razvoj velikih modela sa milijardama parametara, omogućavajući generisanje sadržaja u različitim medijima. Zahvaljujući svojoj sposobnosti da unapredi efikasnost i ekonomsku konkurentnost GenAI je već našla široku primenu u brojnim oblastima, kao što su bankarstvo, zdravstvo, biologija, saobraćaj, visoko obrazovanje, energetika i druge. Međutim, pored brojnih prednosti, GenAI istovremeno nosi i značajne bezbednosne rizike. Primeri zloupotrebe sistema GenAI obuhvataju kreiranje dezinformacija, organizovanje ciljanih fišing kampanja i druge manipulativne aktivnosti. Pored toga, sofisticirani napadi poput suparničkih, ubacivanja malicioznih unosa (prompt injection), ekstrakcije podataka i inverzije modela ciljaju ranjivosti GenAI sistema kako bi manipulisali korisnicima ili ostvarili finansijsku korist. Upravo zbog ovih izazova, neophodno je temeljno analizirati potencijalne rizike u stvarnim scenarijima i istražiti odgovarajuće strategije ublažavanja, čime bi se obezbedila bezbedna i etička primena GenAI u oblastima od ključnog društvenog značaja.