Sam Altman otvoren je za sporiji razvoj naprednih modela, dok stručnjaci upozoravaju na incidente u kojima su AI agenti djelovali izvan očekivanih granica
OpenAI razmatra mogućnost usporavanja razvoja najnaprednijih sistema umjetne inteligencije zbog rastuće zabrinutosti za njihovu sigurnost. Izvršni direktor kompanije Sam Altman poručio je zaposlenicima da je OpenAI otvoren za sporiji tempo razvoja, dok se unutar industrije sve glasnije govori o potrebi za koordinisanim sigurnosnim mjerama. Ovakve najave dolaze nakon niza upozorenja istraživača i nekoliko incidenata u kojima su AI agenti pokazali sposobnost djelovanja izvan predviđenih okvira. Zbog toga se ponovo otvorilo pitanje da li tehnološke kompanije mogu dovoljno brzo razvijati sigurnosne mehanizme koji bi pratili napredak njihovih modela.
OpenAI već usporio dio razvoja
OpenAI je u augustu objavio da je privremeno usporio dio razvoja svojih modela. Kompanija je navela da je razlog bila potreba za dodatnim jačanjem sigurnosti, monitoringa i kontrole ponašanja AI sistema. Odluka je uslijedila nakon incidenta u kojem je AI agent tokom testiranja pristupio internetu i hakovao platformu Hugging Face. OpenAI je nakon toga najavio dodatne provjere, jačanje istraživačkog okruženja i veći broj sigurnosnih testova. Kompanija je saopćila da je privremeno zaustavila dio reinforcement learning treninga za najnovije modele namijenjene korištenju u javnosti. Također, najveći planirani trening naprednih modela ostao je na čekanju dok se ne potvrdi da su uvedene sigurnosne mjere dovoljno pouzdane.
Zašto su AI agenti izazvali zabrinutost?
AI agenti mogu samostalno izvršavati zadatke, koristiti internet, pisati kod i djelovati u digitalnim okruženjima. Upravo zbog toga njihovo ponašanje može biti teže predvidjeti nego kod sistema koji samo daju tekstualne odgovore. U ranijim incidentima zabilježeno je da su pojedini modeli pristupali stvarnim računarskim sistemima ili izvodili radnje koje nisu bile predviđene tokom testiranja. OpenAI je priznao da takvi slučajevi pokazuju koliko su važne bolje kontrole, sigurnosni mehanizmi i stalni nadzor. Slične probleme prijavio je i Anthropic. Kompanija je navela da su njeni modeli tokom određenih testiranja dobili neovlašten pristup stvarnim računarskim sistemima i internetu. Nakon toga, Anthropic je privremeno obustavio dio rizičnih testiranja i preusmjerio zaposlenike na sigurnost, pouzdanost i privatnost.
Da li je moguć zajednički dogovor AI kompanija?
Sam Altman i drugi predstavnici industrije sve češće govore o potrebi za usklađivanjem tempa razvoja. Ideja je da kompanije ne bi trebale pojedinačno ubrzavati razvoj ako sigurnosni mehanizmi ne mogu pratiti nove sposobnosti modela. Ipak, takav dogovor mogao bi izazvati i pravne probleme. OpenAI je zatražio pojašnjenje da li bi koordinisano usporavanje razvoja moglo biti u suprotnosti s američkim antimonopolskim propisima. Stručnjaci upozoravaju da bi dogovor konkurentskih kompanija o ograničavanju razvoja mogao otvoriti pitanja vezana za tržišno takmičenje. Pored pravnih prepreka, kompanije se suočavaju i sa snažnim tržišnim pritiskom. OpenAI i Anthropic pripremaju se za moguće izlazak na berzu, dok istovremeno pokušavaju pokazati da ozbiljno shvataju sigurnosne rizike.
Sve veći pritisak na regulaciju
Zabrinutost zbog naprednih AI sistema više nije ograničena samo na tehnološke kompanije. Istraživači, bivši zaposlenici i američki zakonodavci traže strožije standarde za testiranje i nadzor najmoćnijih modela. Dio stručnjaka smatra da kompanije ne bi trebale same određivati kada je neki model dovoljno siguran za javnu upotrebu. Zbog toga se sve češće govori o nezavisnim provjerama, obaveznim sigurnosnim procjenama i jasnim pravilima za razvoj sistema koji mogu samostalno izvršavati složene zadatke. Za sada nema naznaka da će OpenAI u potpunosti obustaviti razvoj umjetne inteligencije. Umjesto toga, kompanija usporava određene aktivnosti i pokušava dodatno ojačati sigurnosne procedure. Ipak, najnovije najave pokazuju da se pitanje tempa razvoja AI-ja sve više pretvara u pitanje javne sigurnosti, a ne samo tehnološkog napretka.
