U siječnju 2025. Mark Zuckerberg najavio je značajnu promjenu u Metinoj politici sadržaja. Kompanija je ukinula dosadašnje programe provjere činjenica, prešla na model “Community Notes” nalik platformi X (bivšem Twitteru), te najavila blaži pristup temama poput useljavanja i roda.

Sada Meta ide korak dalje: najavila je da će umjetna inteligencija (AI) preuzeti do 90% procjena utjecaja svojih platformi na privatnost i društvene rizike. Ovom promjenom značajno se smanjuje uloga ljudskih nadzornika koji su do sada nadgledali potencijalne štete povezane s novim funkcijama na Facebooku i Instagramu.

Kako funkcionira novi AI sustav
Meta je oslonila procjenu štetnosti svojih proizvoda na AI umjesto na ljudske procjenjivače, piše Bug. Novi postupak uključuje ispunjavanje upitnika od strane proizvodnih timova, koji potom prolazi kroz sustav umjetne inteligencije. AI analizira moguće rizike – od utjecaja na mlade do širenja dezinformacija – i često odmah donosi odluku, identificirajući probleme koje tim mora riješiti prije lansiranja.

Prema Meti, ovaj model znatno ubrzava uvođenje novih značajki jer uklanja čekanje na ljudska odobrenja.

“Osnažujemo proizvodne timove”
Promjena je radikalna: umjetna inteligencija sada procjenjuje i osjetljive teme poput nasilnog sadržaja, dezinformacija te sadržaja za djecu i mlade. Ljudski nadzor zadržava se isključivo za “nova i složena pitanja”, dok se procjena “niskorizičnih” ažuriranja automatizira.

Michel Protti, Metin glavni službenik za privatnost proizvoda, izjavio je kako kompanija “osnažuje proizvodne timove” s ciljem “evolucije Metinih procesa upravljanja rizicima”.

Stručnjaci upozoravaju: nedostatak stručnosti i konteksta
Zvika Krieger, bivši direktor odgovornih inovacija u Meti, skeptičan je prema ovom potezu. Upozorava da većina inženjera i menadžera nema specijalizirano znanje o privatnosti podataka, a to im često nije ni prioritet.

Interni dokumenti koje prenosi NPR dodatno pojačavaju zabrinutost: AI sustav ima problema s prepoznavanjem i rješavanjem složenijih i kontekstualnih rizika, osobito kod nasilnog sadržaja ili zaštite privatnosti.

Poslovna logika: niži troškovi, brže inovacije
Meta ovu odluku predstavlja kao dio industrijskog trenda automatizacije kojom se želi ubrzati razvoj i smanjiti troškovi. Kompanija tvrdi da ostaje predana zaštiti korisnika, ističući milijunska ulaganja u sigurnost i usklađenost s regulativama.

Izuzetak za Europsku uniju
Ipak, korisnici u Europskoj uniji mogu očekivati blaži učinak promjene. Interni dokumenti pokazuju da će odluke i nadzor u EU ostati pod jurisdikcijom Metinog sjedišta u Irskoj.

Za više od 2,9 milijardi korisnika širom svijeta, ostaje pitanje koliko će učinkovito AI sustavi moći odgovoriti na regionalne i kulturne kontekste koji zahtijevaju ljudsko razumijevanje, piše financa.