Američki milijarder Elon Musk i skupina stručnjaka za umjetnu inteligenciju pozivaju na šestomjesečnu pauzu u sustavima za obuku umjetne inteligencije.
U otvorenom pismu navode da su ti sustavi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT tvrtke Open AI, piše Reuters.
Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je preko 1000 osoba, uključujući Muska. No, pismo potpisuju Emad Mostaque, izvršni direktor Stability AI-ja i istraživač DeepMinda Stuart Russell. Oni pozivaju na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli ne razviju za takve sustave.
Također, traže da te sustave razviju, implementiraju i revidiraju neovisni stručnjaci. “Moćne AI sustave treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati”, stoji u pismu.
U pismu opisali rizike za društvo i civilizaciju
U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija. Navode da se umjetna inteligencija natječe s ljudima te da to može dovesti do ekonomskih i političkih poremećaja. Analitičari su pozvali programere da surađuju s kreatorima politike i regulatornim tijelima.
Pismo dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog napredne umjetne inteligencije poput ChatGPT-4. Oni upozoravaju na potencijalnu zlouporabu sustava u pokušajima krađe identiteta, dezinformacije i kibernetički kriminal.
Kompanija Tesla u Muskovom vlasništvu koristi u automobilima umjetnu inteligenciju za sustav autopilota. Unatoč tome, Musk je potpisao otvoreno pismo i izrazio zabrinutost oko umjetne inteligencije.
ChatGPT Open AI-ja, tvrtke koju podržava Microsoft, prošle godine je potaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela. Osim toga, tvrtke su potaknute da integriraju generativne AI modele u svoje proizvode.
Direktor Open AI-ja nije potpisao pismo
Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Lifea. OpenAI nije odmah odgovorio na zahtjev za komentar.
“Pismo nije savršeno, ali namjera je ispravna. Moramo usporiti dok bolje ne shvatimo posljedice”, rekao je Gary Marcus, profesor emeritus na Sveučilištu New York koji je potpisao pismo.
“Umjetna inteligencija može prouzročiti ozbiljnu štetu, veliki igrači postaju sve tajnovitiji o tome što rade. To društvu otežava obranu od štete koja može nastati”, dodao je.
