DONALD Trump ponovno je odbacio tvrdnje da je umjetnoj inteligenciji potrebna stroža regulacija. Nakon što je tijekom vikenda umanjivao rizike povezane s umjetnom inteligencijom, američki predsjednik ustvrdio je da su pozivi na usporavanje njezina razvoja dio "bolesne zavjere" protiv umjetne inteligencije.

Također je kritizirao izvršnog direktora tvrtke Anthropic, Daria Amodeija, čiji je esej objavljen na internetu ponovno potaknuo raspravu o sigurnosti umjetne inteligencije.

Trumpova objava
"Jedina kontrola ili ograničenja koja su umjetnoj inteligenciji potrebna jest SNAŽAN I PAMETAN (visokog kvocijenta inteligencije!) PREDSJEDNIK, a SAD ga ima, i to u izobilju! Trumpova administracija spriječila je 'ljude' iz svijeta umjetne inteligencije da rade loše ili potencijalno loše 'stvari', poput Darija (Anthropic!), koji se sada pretvara da je 'savršeni mali anđeo' - i tako ćemo nastaviti! 

Već imamo goleme KAZNENE I REGULATORNE ovlasti nad tim kompanijama! U tijeku je BOLESNA zavjera protiv umjetne inteligencije i podatkovnih centara, a jedini koji je zbog toga sretan jest Kina. 

TKO GOD POBIJEDI U UMJETNOJ INTELIGENCIJI, POBJEĐUJE! Ispred smo Kine i svih ostalih i tako ćemo nastaviti. Teoretičari zavjera, veleizdajnici, izdajice i vi koji odajete informacije, ČUVAJTE SE! Hvala vam na pažnji posvećenoj ovom pitanju", napisao je Trump na društvenoj mreži Truth Social. 

Sve više zabrinutosti zbog potencijalnih rizika
Šef tvrtke Anthropic za umjetnu inteligenciju pozvao je na usporavanje razvoja modela umjetne inteligencije i njihovo strogo nadziranje. Amodei je u eseju naveo da razvoj umjetne inteligencije nije sporan, ali da su rizici povezani s njom "ozbiljni" te da tvrtkama i vladama treba dati vremena da se s njima uhvate u koštac.

Čelnici dviju konkurentskih tvrtki za umjetnu inteligenciju, Sam Altman iz OpenAI-ja i Elon Musk, izjavili su da se slažu s Amodeijem.

U posljednje vrijeme sve je veća zabrinutost zbog potencijalnih rizika povezanih s tom tehnologijom. Istraživač umjetne inteligencije koji je napustio Anthropic izjavio je za BBC: "Ako ne usporimo trenutačni tempo napretka, postoji velika mogućnost da ćemo svi uskoro umrijeti".

Amodei je u eseju pod nazivom "We Must Pace the Frontier", objavljenom u subotu, predložio plan u tri točke koji uključuje neovisno praćenje modela umjetne inteligencije tijekom njihova razvoja, regulaciju na razini cijele industrije i globalnu regulaciju.

Altman: Neovisni nadzornici su sjajna ideja
Nakon što se njegov prijedlog proširio, podršku ideji o neovisnim nadzornicima koji bi mogli procjenjivati sigurnost modela tijekom njihova razvoja izrazili su čak i konkurenti.

"Slažem se s Dariom da moramo usporiti razvoj najnaprednije umjetne inteligencije", napisao je izvršni direktor OpenAI-ja Sam Altman na X-u. Neovisne nadzornike nazvao je "sjajnom idejom".

Musk, koji je osnovao xAI, tvrtku koja razvija Grok, također se složio da je šef Anthropica "u pravu".

OpenAI je zaustavio određene dijelove razvoja svog najnovijeg modela
Zabrinutost zbog kibernetičke sigurnosti raste kako novi modeli pokazuju sve snažnije sposobnosti. Anthropic je javnosti uskratio pristup svom modelu Mythos nakon što je u travnju otkriveno da on može samostalno pobjeći iz testnog okruženja poznatog kao sandbox.

Uoči objave svog najnovijeg modela Astra, OpenAI je izrazio zabrinutost zbog kibernetičke sigurnosti te objasnio da je zbog toga zaustavio određene dijelove razvoja modela. "OpenAI-jevi agenti u biti su djelovali kao fanatično odana skupina", naglasio je Amodei. OpenAI je objavio da je zbog toga usporio treniranje određenih naprednih modela umjetne inteligencije i alata.

Amodei, koji je ranije radio kao potpredsjednik u OpenAI-ju, rekao je da je 2021. godine suosnovao Anthropic kako bi mogao razvijati sigurnije i pouzdanije modele umjetne inteligencije.

U svom je eseju istaknuo da je umjetna inteligencija napredovala "drastično brže", uključujući i njezinu "sposobnost izgradnje sljedeće generacije umjetne inteligencije". Također je spomenuo incident povezan s konkurentskim OpenAI-jem, koji je u srpnju otkrio da su njegovi agenti hakirali mete za koje nisu dobili uputu da ih napadnu.

Amodei je pozvao na "razvoj umjetne inteligencije uravnoteženim tempom koji nastoji osigurati njezinu sigurnost, uz istodobno ostvarivanje njezinih prednosti".