U svetlu rastućih briga oko bezbednosti veštačke inteligencije (AI), novoformirani Model AI Governance Framework for Agentic AI uveden je 22. januara od strane Infocomm Media Development Authority (IMDA) u Singapuru. Ovaj okvir ima za cilj da definiše pravila i ograničenja za AI sisteme koji deluju nezavisno, kako bi se sprečili potencijalni rizici kao što su neovlašćene transakcije i krađa ličnih podataka.
Za razliku od tradicionalnih AI sistema, agenti sa sposobnošću razumevanja prirodnog jezika mogu samostalno da donose odluke i izvršavaju zadatke umesto korisnika. To uključuje i AI asistente za kodiranje koji mogu generisati, testirati i otklanjati greške u kodu putem jednostavnih komandi.
IMDA naglašava da, dok ovi agenti omogućavaju organizacijama automatizaciju repetitivnih zadataka, njihova sposobnost pristupa osetljivim podacima i izvršavanje promena u digitalnom okruženju donosi nove rizike. Na primer, AI agent može zakazati medicinski pregled na pogrešan datum, što može negativno uticati na zdravstvene ishode pacijenata.
Preporučuje se da organizacije postave ograničenja na broj alata i sistema kojima agenti imaju pristup, kako bi se smanjila mogućnost grešaka. Na primer, AI asistent za kodiranje možda neće imati potrebu za pristupom alatima za pretragu na internetu.
Ministar za digitalni razvoj i informisanje, Josephine Teo, izjavila je da je važno da se postave očekivanja dok organizacije razvijaju svoje arhitekture agenata. „Iako okvir još uvek nije potpuno razvijen, bolje je imati neka očekivanja nego ih nemati“, dodala je.
U okviru ovog okvira, ljudski faktor ostaje ključan; organizacije treba da definišu važne tačke provere koje zahtevaju ljudsku intervenciju, posebno kada se donose nepopravljive odluke kao što su trajno brisanje podataka.
Ovaj okvir se oslanja na raniju verziju koja je uvedena 2020. godine, koja je postavila osnove za etičku i odgovornu upotrebu AI.
Ukoliko se ovakvi okviri implementiraju i u Srbiji, to bi moglo značajno doprineti bezbednosti i odgovornosti u korišćenju AI tehnologija.
