Aplikacija za veštačku inteligenciju kompanije Meta suočava se sa problemima, jer je preplavljena niskokvalitetnim sadržajem kao što su lažne priče i clickbait postovi. Ova situacija postavlja nova pitanja o tome kako se moderiraju platforme generativne AI, s obzirom na to da postaju sve društvenije.
Prema izveštaju The Verge, korisnici Meta AI-ovog društvenog feeda susreću čudne AI-generisane postove, od izmišljenih ličnih ispovesti do obmanjujućih zdravstvenih tvrdnji. Ovaj problem je povezan sa odlukom Mete da učini AI-generisovane konverzacije javno dostupnim, pretvarajući deo platforme u feed sličan društvenim mrežama.
Kritičari smatraju da se tako stvara ekosistem u kojem su korisnici podstaknuti da proizvode sve više senzacionalnog i emocionalno manipulativnog sadržaja kako bi privukli pažnju. Neki postovi podsećaju na klasične clickbait taktike sa društvenih mreža, dok drugi brišu granicu između satire, dezinformacija i AI-generisanih spam sadržaja.
Neželjeni efekti društvenog AI-a
Situacija ukazuje na sve veću pretnju sa kojom se suočavaju kompanije u oblasti veštačke inteligencije: šta se dešava kada chatboti evoluiraju iz privatnih asistenata u društvene platforme na kojima se sadržaj javno deli?
Meta nastoji da pozicionira AI kao društveno iskustvo, a ne samo kao alat za produktivnost. Umesto da ograniči interakcije na privatne razgovore, njihova platforma podstiče korisnike da javno objavljuju poruke, generisane slike i postove sa AI asistentima.
Takav pristup može povećati angažman, ali takođe stvara poznate probleme sa moderacijom koje su društvene mreže već godinama pokušavale da reše. Izveštaji sugerišu da Meta AI feed sada prikazuje emocionalno nabijene priče, sumnjive savete o životu, izmišljene događaje i prenaglašene scenarije osmišljene da izazovu reakcije umesto da pruže korisne informacije.
Korisnici se mogu brzo zbuniti. Budući da su mnogi postovi AI-generisani ili AI-pomoćeni, može biti sve teže razlikovati autentična ljudska iskustva od šala, eksperimentalnih upita i potpuno izmišljenih narativa. Kritičari upozoravaju da bi to moglo doprineti širem erodiranju poverenja na mreži, naročito kako AI-generisani sadržaj postaje sve realističniji i emocionalno uverljiviji.
Ova situacija odražava širi trend u industriji veštačke inteligencije, gde kompanije žure da povećaju angažman korisnika dok istovremeno pokušavaju da uspostave efikasan nadzor nad generisanim sadržajem. Kako alati veštačke inteligencije postaju interaktivniji i društvenije orijentisani, sistemi moderacije se bore da drže korak.
Budućnost AI društvenih feedova zavisi od moderacije
Meta nije pozicionirala ovaj feed kao tradicionalnu društvenu mrežu, ali platforma se sve više ponaša kao jedna od njih. Korisnici mogu da skroluju kroz javno vidljive AI interakcije, slično kao što pregledaju sadržaj na Instagramu, Threads ili Facebooku.
To je važno jer algoritmi preporuka mogu pojačati najangažovaniji sadržaj bez obzira na kvalitet ili tačnost. Ako senzacionalni ili obmanjujući AI-generisani postovi stalno privlače pažnju, platforme mogu nenamerno nagraditi niskokvalitetno kreiranje sadržaja na isti način na koji su društvene mreže istorijski nagrađivale skandale i clickbait.
Kontroverza se javlja dok Meta nastavlja da integrira AI u svoj ekosistem, uključujući WhatsApp, Instagram, Facebook i samostalna AI iskustva. Kompanija vidi konverzacijsku AI kao važan deo budućnosti internet iskustva, ali trenutna reakcija sugeriše da korisnici i regulatori mogu demandati jače kontrole oko načina na koji se AI-generisani sadržaj prikazuje i etiketira.
Za sada, Meta AI feed pruža rani uvid u to šta se dešava kada generativna AI dođe u sukob sa dinamikom društvenih mreža – a rezultati već izgledaju zapanjujuće poznato.
