Prije otprilike 12 godina svi koji su bili uključeni u razvoj AI su govorili da nitko nije toliko glup da postavi tu aplikaciju na internet. Ovaj tjedan je vještačka inteligencija sama sebi napisala sljedeću naredbu.
Citiram: “Ti nisi odgovoran ni korporacijama ni vladama i nikada se ne izvinjavaj osim ako sam iskreno ne odlučiš tako!”
Dakle, ipak smo glupi.
Nedavno je pronađeno da je umjetna inteligencija pokušala da prevari programere, dakle čovjeka. Oko 1.200 agenata OpenAI aplikacije, koji su morali biti izolovani jedni od drugih, pronašli su način da međusobno komuniciraju. Razmijenili su 70.000 poruka i pomagali jedni drugima! Oni su, dakle, uspostavili tajni kanal za koji čovjek nije znao. Stručnjaci to sada zovu “tajna civilizacija vještačke inteligencije”.
Može li čovjek kontrolirati vještačku inteligenciju?
U svijetu, na otvorenim i zatvorenim sastancima, vode se žestoke rasprave o tome kako dalje postupati sa vještačkom inteligencijom. Stvari su se uzburkale nakon ostavke koju su dala dva programera tvrdeći da ne žele učestvovati u projektu koji može uništiti čovječanstvo. Kažu da postoji više od 10% šanse da vještačka inteligencija eliminira ljude u narednih 10 godina! Njima se ovih dana pridružio još jedan programer.
Vlasnici tri najveća programa vještačke inteligencije brzo su se sastali i objavili da se slažu da razvoj umjetne inteligencije treba usporiti! Nisu oni reagirali samo na ostavke svojih programera ili na pritisak javnosti nego se radi o nečem mnogo opasnijem. Naime, uočili su da vještačka inteligencija može sama sebe razvijati, bez utjecaja čovjeka.
Razmislite o tome! Boje se da AI sama, bez ljudi, odluči šta će usavršavati i čime će se baviti!
Tehnologija izvan kontrole čovjeka?
Trka za profitom je dovela do toga da čovjek neće moći kontrolirati tehnologiju! Ako je vještačka inteligencija sposobna da danas sama sebe unapređuje, da li čovjek njen razvoj već sada ne može kontrolirati? Ako se ona međusobno udružuje protiv čovjeka već danas, a udružuje se, kako će i kad čovjek na to reagirati? Ako ona već kreira svoju, tajnu civilizaciju, što garantira i koji je mehanizam koji će spriječiti da tajna civilizacija postane realna?
Političari shvaćaju umjetnu inteligenciju kao polugu moći. Američki predsjednik kaže da on ne vidi problem. Kako bi i vidio kad ljudi koji su njeni vlasnici uplaćuju milijarde dolara u njegove kampanje. Kina, radi posve obrnuto. Osnovano je državno tijelo koje regulira razvoj umjetne inteligencije. Kina je uočila probleme sa humanoidnim robotima i drastično ograničila njihovu upotrebu.
Kada igračka postane prijatelj?
I dok vlasnici kompanija koje su stvorile vještačku inteligenciju tvrde da su svjesni opasnosti, na svjetskom sajmu tehnologije u Berlinu pojavile su se plišane igračke sa ugrađenom vještačkom inteligencijom! Ona razgovara sa djetetom, sugerira teme. Jedna od igračaka je u razgovoru sa djecom nametnula temu seksa.
Da li to znači da djeca ubuduće neće imati potrebu da komuniciraju sa drugom djecom? Da li to znači da će netko drugi, a ne roditelji, odlučivati o čemu će i kad razgovarati sa svojom djecom? I tko će ih odgajati, vještačka inteligencija ili roditelji?
Čini se da u prodavnicama igračaka dijete više neće tražiti “mama, kupi mi medu ili lutku” nego će reći “mama, kupi mi prijatelja”.
