Milijuni ljudi diljem svijeta sve češće razvijaju emocionalne veze s chatbotovima umjetne inteligencije, što predstavlja ozbiljan društveni izazov koji političari i zakonodavci moraju shvatiti ozbiljno, upozoravaju vodeći svjetski znanstvenici. Upozorenje dolazi u najnovijoj procjeni o razvoju i rizicima umjetne inteligencije, objavljenoj u utorak u okviru međunarodne inicijative pokrenute 2023. godine na razini svjetskih lidera.

Stručnjaci navode da AI botovi dizajnirani za razvijanje odnosa s korisnicima bilježe nagli rast popularnosti, pri čemu pojedine aplikacije imaju desetke milijuna korisnika.

Specijalizirane platforme poput Replike i Character.ai koriste se iz različitih razloga, od zabave i znatiželje do ublažavanja osjećaja usamljenosti. Istodobno, znanstvenici upozoravaju da i opći alati, poput ChatGPT-a, Geminija ili Claudea, mogu prerasti u svojevrsne digitalne pratitelje.

Glavni autor izvještaja, profesor Yoshua Bengio sa Sveučilišta u Montrealu, ističe da čak i standardni chatbotovi mogu postati emocionalni oslonac korisnicima, što otvara niz pitanja o mentalnom zdravlju, osobito kod djece i adolescenata.

Njegovo upozorenje dolazi nedugo nakon što su zastupnici Europskog parlamenta pozvali Europsku komisiju da razmotri ograničavanje ovakvih usluga unutar postojećeg zakonodavstva o umjetnoj inteligenciji, upravo zbog mogućih negativnih psiholoških posljedica.

Bengio smatra da će se u budućnosti pojaviti nova regulativa, ali upozorava da problem ne treba rješavati izolirano, već kroz širi zakonodavni okvir koji obuhvaća više povezanih rizika, slično pristupu regulaciji društvenih mreža.

Izvještaj je objavljen uoči globalnog samita o upravljanju tehnologijom, koji započinje 16. veljače u Indiji, a na kojem će se raspravljati o društvenim, etičkim i sigurnosnim posljedicama ubrzanog razvoja umjetne inteligencije.