Šteta za djecu, uključujući seksualno iskorištavanje i mentalnu štetu, neizbježna je na Meta platformama, rekli su izvršni direktor Mark Zuckerberg i čelnik Instagrama Adam Mosseri u snimljenim iskazima puštenim na suđenju u Novom Meksiku.

„Mislim da ako služite milijardama ljudi, nesretna je stvarnost da će vrlo mali postotak njih biti kriminalci i trebali bismo se potruditi koliko god možemo kako bismo spriječili tu aktivnost“, rekao je Zuckerberg. „Ne mislim da bi standard za naše platforme bio pretpostaviti da će ikada biti savršene.“

Popularnost i optužbe
Meta aplikacije, uključujući Facebook, Instagram i WhatsApp, broje oko 3 milijarde aktivnih korisnika mjesečno.

Suđenje je okrenulo tvrtku protiv glavnog odvjetnika Novog Meksika, Raula Torreza, koji tvrdi da Meta stavlja profit i angažman ispred sigurnosti djece. Optužbe uključuju svjesno omogućavanje predatorima da koriste platforme za iskorištavanje djece.

Meta osporava optužbe i ističe uvođenje Teen Accounts s zadanim zaštitama još 2024. godine.

„Imamo stroga, dugogodišnja pravila protiv iskorištavanja djece i uložili smo milijarde u borbu protiv toga, kako putem proaktivne tehnologije otkrivanja, tako i sigurnosnih značajki osmišljenih za sprječavanje štete“, rekao je glasnogovornik Mete.

„Pružamo vodeću transparentnost u industriji, redovito dijeleći podatke o tome koliko problematičnog sadržaja uklanjamo, a koliko propuštamo. Nijedan sustav nikada ne može biti savršen, a mi nikada nismo tvrdili da jesmo.“

Interni podaci i izazovi algoritama
Porotnici su čuli da je Meta 2020. procijenila kako 500.000 djece svakodnevno prima seksualno neprikladne komunikacije na Instagramu. Glasnogovornik Mete istaknuo je da je tehnologija tada bila preširoka i uključivala i interakcije koje nisu bile štetne.

Algoritam „Osobe koje možda poznajete“ identificiran je kao glavni pokretač tih interakcija, a korišten je za otkrivanje žrtava u 79% slučajeva 2018. godine. Ipak, oko 30% odraslih čiji su računi onemogućeni zbog ciljanja djece vratilo se na platformu i nastavilo ponašanje.

End-to-end enkripcija i sigurnosni rizici
Zuckerberg je 2023. odobrio end-to-end enkripciju za Facebook Messenger, unatoč upozorenjima skupina za sigurnost djece.

„Mislim da su usluge slanja poruka s end-to-end šifriranjem ono što ljudi žele. Oni stvarno brinu o privatnosti“, rekao je Zuckerberg u snimljenom iskazu navodi TheGuardian. Enkripcija sprječava treće strane da pregledaju poruke, no Meta i dalje može reagirati ako korisnik prijavi sadržaj.

Skupine za sigurnost djece upozorile su da enkripcija može omogućiti predatorima dijeljenje zlostavljačkih materijala bez otkrivanja, prenosi financa.

Tehnologija za otkrivanje sumnjivih računa
Mosseri je objasnio da Meta koristi tehnologiju za prepoznavanje potencijalno sumnjivih računa:

„Razvili smo tehnologiju koja nam omogućuje da pronađemo račune koji su pokazali potencijalno sumnjivo ponašanje i spriječimo interakciju tih računa s mladima.“

Glasnogovornik Mete dodao je:

„U 2025. identificirali smo više od 265 milijuna Facebook računa i 135 milijuna Instagram računa s potencijalno sumnjivim ponašanjem i spriječili njihovu interakciju s tinejdžerima."