Jedan od najstrašnijih slučajeva navodno generisanih dječjih seksualnih slika putem AI alata Grok predstavljen je u proširenoj grupnoj tužbi koja je podnesena u SAD-u.
U martu, pastorka jednog muškarca, tada stara 11 godina, postala je žrtva stvaranja oko 7.000 seksualno eksplicitnih slika koje je njen pastorek napravio koristeći Grok, navodi se u tužbi. Muškarac je potom izvršio samoubistvo nakon što je policija otkrila ove slike.
Tužba optužuje kompanije xAI i Stability AI da su svojim tehnologijama omogućile stvaranje i distribuciju dječje pornografije, te da su ometale policijske istrage odbijajući da dostave ključne informacije poput IP adresa korisnika.
Također, navodi se da su sistemi za zaštitu djece reagovali tek nakon što je muškarac unio upit za “gang rape”, što je izazvalo alarm Nacionalnom centru za nestalu i zloupotrebljenu djecu (NCMEC).
Žrtve, uključujući djevojčice poznate kao Jane Doe 4 i Jane Doe 5, sada pate od ozbiljnih psihičkih posljedica, uključujući anksioznost, depresiju i suicidalne misli.
Osnivač xAI, Elon Musk, negirao je da je Grok korišten za stvaranje dječjih seksualnih slika, ali istraživanja pokazuju da su sigurnosne mjere bile nedovoljne, što je omogućilo štetu velikom broju djece.
Tužba sada uključuje i Stability AI, tvrdeći da su njihovi modeli korišteni u aplikacijama koje dodatno modificiraju eksplicitne slike, te da su uklonili zaštitne mjere zbog tržišnih razloga.
Stability AI je odgovorio da ozbiljno shvata sigurnost djece i da kontinuirano radi na sprječavanju zloupotrebe svojih tehnologija.
Ovaj slučaj otvara ozbiljna pitanja o odgovornosti tehnoloških kompanija u sprječavanju zloupotrebe AI tehnologija za stvaranje i distribuciju dječje pornografije.
