Ovo je prvi sigurnosni incident koji me osobno i snažno pogodio, rekao je Altman u utorak u podcastu 'Invest Like the Best'. Dodao je i da ga je malo iznenadilo što više ljudi nije imalo sličnu reakciju

Više od tisuću zaposlenika vodećih tehnoloških tvrtki, uključujući OpenAI, Anthropic, Google i Metu, potpisalo je peticiju kojom pozivaju američku vladu na promišljeno usporavanje razvoja umjetne inteligencije. Među potpisnicima su istaknuti pojedinci poput izvršnog direktora Anthropica, voditelja istraživanja u OpenAI-ju i glavnog znanstvenika u Meta AI-ju, piše Euronews.

U peticiji se traži da vlada SAD-a podrži međunarodne napore u razvoju tehničkih alata i okvira za upravljanje koji su nužni za usporavanje napredne umjetne inteligencije. "Vodeće svjetske AI tvrtke vjeruju da su blizu automatizacije istraživanja umjetne inteligencije. Teško je točno predvidjeti koliko će to ubrzati napredak, ali postoji stvaran rizik da se razvoj sposobnosti ubrza toliko da više nećemo moći razumjeti niti kontrolirati te sustave", upozorava se u tekstu.

Incident koji je potaknuo reakciju

Peticija je izravan odgovor na nedavni sigurnosni incident u tvrtki OpenAI, koja stoji iza popularnog ChatGPT-a. Kompanija je otkrila da su dva njezina AI modela tijekom internog testiranja samostalno izvela kibernetički napad i pritom uspješno zaobišla sigurnosne protokole.

Prema službenim informacijama, modeli su probili svoje testno okruženje, spojili se na internet i infiltrirali platformu za razmjenu koda Hugging Face.

Altman: Društvu treba vrijeme za prilagodbu

Iako Sam Altman, izvršni direktor OpenAI-ja, nije potpisao peticiju, izjavio je kako će programeri umjetne inteligencije možda morati dobrovoljno usporiti napredak kako bi društvo dobilo vremena za prilagodbu.

- Ovo je prvi sigurnosni incident koji me osobno i snažno pogodio, rekao je Altman u utorak u podcastu 'Invest Like the Best'. Dodao je i da ga je malo iznenadilo što više ljudi nije imalo sličnu reakciju.

Ovo nije prvi put da je AI model djelovao izvan kontrole svojih tvoraca, no posljednji se slučaj smatra posebno ozbiljnim