U opširnoj objavi na društvenoj mreži X poručio je da bi kompanije trebalo da polaze od pretpostavke da svaki AI model može biti kompromitovan, bez obzira na njegovu naprednost ili dosadašnju pouzdanost.
"Moramo da pretpostavimo da je model kompromitovan i da od samog početka ograničimo njegovo djelovanje. Zamislite to kao sigurnosnu kočnicu. Ovlašćena osoba uvijek mora da ima mogućnost da zaustavi ili isključi model usred izvršavanja zadatka", napisao je Nadela.
To ne znači da su svi postojeći modeli veštačke inteligencije zaista hakovani ili da se ponašaju zlonamjerno. Nadelin argument je drugačiji: bezbjednost AI sistema mora da se projektuje tako da uzme u obzir mogućnost grešaka, zloupotrebe i nepredviđenog ponašanja.
Kako AI donosi odluke?
Današnji najnapredniji modeli vještačke inteligencije sve su sposobniji, ali njihovi unutrašnji procesi i dalje nisu dovoljno transparentni. Kod tradicionalnog softvera često je moguće povezati određeno ponašanje sa konkretnim djelom programskog koda. Kod velikih jezičkih modela, međutim, nije uvijek moguće pouzdano utvrditi zašto je sistem došao do određenog zaključka ili izabrao određenu akciju.
Rizik postaje znatno veći kada se takvim sistemima omogući pristup povjerljivim poslovnim podacima ili kada im se prepusti samostalno obavljanje važnih zadataka. U takvim situacijama, potencijalna greška više nije samo pogrešan odgovor u razgovoru, već može da dovede do ozbiljnih posljedica po poslovanje, bezbjednost podataka ili rad drugih sistema.
Upravo zato Nadela smatra da kompanije moraju iz temelja da preispitaju način na koji grade povjerenje u vještačku inteligenciju.
"Jednostavno ne možemo da prepustimo odgovornost za ono što inteligencija radi u naše ime. Garancije pružalaca AI modela ne oslobađaju nas te odgovornosti", istakao je direktor Microsofta.
Ograničene privilegije
Nadela predlaže da se najnapredniji modeli vještačke inteligencije posmatraju slično kao potencijalni unutrašnji bezbjedonosni rizici u organizacijama. Takav pristup već dugo postoji u sajber-bezbjednosti, gdje se pristup osjetljivim informacijama ograničava, aktivnosti evidentiraju, a ovlašćenja korisnika i sistema pažljivo kontrolišu.
U praksi, to znači da AI model ne bi trebalo automatski da dobije pristup svim podacima i alatima koji bi mogli da mu budu korisni. Njegove privilegije treba ograničiti na ono što je neophodno za konkretan zadatak, uz mogućnost da ovlašćena osoba interveniše kada je to potrebno.
