U poslednje vreme, pitanja bezbednosti veštačke inteligencije postaju sve prisutnija, a otvoreni modeli su postali ključna tema među istraživačima. Na nedavnom Ai4 konferenciji u Las Vegasu, istaknuti AI stručnjaci poput Džefrija Hintona, Fei-Fei Li i Endrju Nga diskutovali su o važnosti zadržavanja otvorenog pristupa u istraživanju AI.
Jedna od glavnih briga ovih stručnjaka je koncentracija moći u rukama nekoliko velikih tehnoloških kompanija. Kada nekoliko igrača kontroliše pristup tehnologiji, inovacije mogu stagnirati, a oni koji upravljaju platformama mogu uticati na to šta se razvija. Endrju Ng je istakao da ne želi da postoje „čuvari“ koji bi ograničili pristup AI tehnologiji, naglašavajući važnost konkurencije među različitim provajderima.
Međutim, Hinton je upozorio na rizike otvorenih modela, naglašavajući razliku između otvorenog softvera i otvorenih težinskih modela. On smatra da otvoreni modeli mogu olakšati zloupotrebu, jer omogućavaju korisnicima da preuzmu skupe modele i koriste ih na neprimerene načine. Iako su otvoreni modeli sada neizbežna stvarnost, Hinton je naglasio potrebu za regulacijom kako bi se osigurala bezbednost i odgovoran razvoj AI.
Fei-Fei Li je dodala da otvorenost ne mora biti crno-bela, odnosno da različite oblasti mogu zahtevati različite nivoe otvorenosti. Uporedila je to sa regulacijama u nuklearnoj fizici, gde su neki aspekti otvoreni, dok su drugi strogo kontrolisani. Ona zagovara da AI treba da bude infrastruktura koja omogućava saradnju između javnog i privatnog sektora, uz mogućnost profitiranja za preduzetnike.
U konačnici, svi učesnici su se složili da je regulacija ključna za usmeravanje AI tehnologije ka pozitivnom razvoju. „Želimo da razvijamo AI u pravcu koji pomaže ljudima“, rekao je Hinton, naglašavajući da se ne može sve prepustiti pojedincima poput Elona Maska i Marka Zakerberga.
