Nasilni ekstremisti sve se vještije služe umjetnom inteligencijom kako bi zaobišli sigurnosne mjere na društvenim mrežama, dok istovremeno jača novi oblik ekstremizma koji nije vođen ideologijom, već čistom željom za "uništenjem i kaosom". Zbog toga ih je sve teže otkriti i zaustaviti, upozoravaju stručnjaci, piše Sky News.

Nihilistički ekstremizam u porastu
Govoreći na TikTokovom forumu o sigurnosti u Dublinu, Judy Korn, izvršna direktorica Mreže za prevenciju nasilja, istaknula je da se priroda ekstremizma mijenja usporedno s taktikama koje se koriste.

"Dok islamistički i krajnje desni ekstremizam raste", rekla je Korn, "najoštriji porast ideologija bilježi se u nejasnom nasilju i nihilističkom nasilnom ekstremizmu."

Objasnila je kako nihilistički ekstremizam nije vođen nikakvom ideologijom osim pukim "uništenjem i kaosom", što ga čini znatno težim za otkrivanje na društvenim mrežama jer ne aktivira tradicionalne filtere sadržaja koji traže specifične ključne riječi.

Umjetna inteligencija kao alat za širenje mržnje
Istovremeno, nasilni ekstremisti koriste generativnu umjetnu inteligenciju za širenje svojih poruka na sofisticiranije načine. Istraga Sky Newsa ranije je pokazala kako platforma X Elona Muska britanskim korisnicima aktivno gura desničarski i ekstremni sadržaj, neovisno o njihovim interesima.

"Generativna umjetna inteligencija mnogo je pametnija od nasilnih ekstremista, jer uči brže od ljudskog bića kako proizvesti sadržaj koji prenosi željenu poruku bez kršenja propisa i bez kršenja smjernica platforme", naglasila je Korn.

Zabrinjavajući trend: Sve mlađi počinitelji
Posebno zabrinjava podatak da nasilni ekstremisti postaju sve mlađi. U Ujedinjenom Kraljevstvu, više od polovice osoba uključenih u program deradikalizacije Prevent mlađe je od 18 godina. Prema podacima protuterorističke policije, jedna od pet osoba uhićenih zbog terorizma je maloljetna.

TikTok najavljuje nove mjere zaštite
Kao odgovor na ove izazove, TikTok je na forumu najavio niz novih mjera za bolju zaštitu korisnika. To uključuje edukativne upute koje će se prikazivati korisnicima u Njemačkoj prilikom pretraživanja pojmova povezanih s ekstremizmom.

Iz platforme su također naveli da se 98,9% sadržaja koji krši pravila o organizacijama koje šire mržnju i nasilje uklanja proaktivno, i prije nego što ga korisnici prijave.

Jedna od ključnih novosti je i uvođenje nevidljivog vodenog žiga koji će pomoći korisnicima da prepoznaju sadržaj generiran umjetnom inteligencijom. Iako tvrtka već godinama koristi alate za detekciju, poput sustava označavanja C2P koji informacije ugrađuje u metapodatke, oni imaju svoje nedostatke.

"Uobičajeni industrijski izazov je što se ovim metodama oznake mogu ukloniti ako preuzmete sadržaj, ponovno ga učitate ili uredite negdje drugdje", objasnila je Jade Nester, direktorica javne politike podataka za Europu u TikToku. "Ovi nevidljivi vodeni žigovi pomažu nam riješiti to dodavanjem robusnog tehnološkog vodenog žiga koji samo mi možemo pročitati."

Osim mjera vezanih uz ekstremizam, TikTok je najavio i pokretanje novog "centra za dobrobit" u obliku igre, kako bi potaknuo korisnike da se kroz meditaciju, afirmacije i kontrolu vremena provedenog pred ekranom posvete svom mentalnom zdravlju, piše index.