Austrijska grupa za zaštitu privatnosti Noyb podnijela je tužbu protiv ChatGPT-a zbog sklonosti chatbot-a da “halucinira” i generiše netačne informacije o pojedincima. Jedan od slučajeva uključuje lažnu priču o korisniku Arveu Hjalmaru Holmenu, kojem je ChatGPT pripisao zločine koje nikada nije počinio.
U augustu 2024. godine, Holmen je pitao ChatGPT da li ima informacija o njemu, nakon čega je chatbot generirao lažnu priču da je on ubio dvoje svoje djece i pokušao ubiti trećeg sina. Iako su neke od navedenih činjenica bile tačne, poput broja djece i imena rodnog grada, priča je bila potpuno izmišljena.
“Činjenica da je neko mogao pročitati ovo i povjerovati da je istina, ono je što me najviše plaši”, rekao je Holmen u izjavi koju je podijelio Noyb.
OpenAI je nakon ovog slučaja ažurirao ChatGPT kako bi tražio informacije na internetu kada su u pitanju pojedinci, što bi u teoriji trebalo spriječiti generiranje lažnih podataka. Međutim, Noyb ističe da netačne informacije i dalje mogu biti dio skupa podataka AI modela.
U žalbi podnijetoj norveškom tijelu za zaštitu podataka (Datatilsynet), Noyb je zatražio da OpenAI bude kažnjen i da izbriše klevetničke sadržaje, te fino podesi svoj model kako bi eliminisao netačne rezultate. Prema Noyb-u, OpenAI krši princip tačnosti podataka propisan Općom uredbom o zaštiti podataka (GDPR).
Iako ChatGPT korisnicima nudi odricanje od odgovornosti na dnu interfejsa, Noyb smatra da to nije dovoljno. “Ne možete samo širiti lažne informacije i na kraju dodati malo odricanje odgovornosti. GDPR je jasan – lični podaci moraju biti tačni, a korisnici imaju pravo na ispravku”, istaknuo je Joakim Söderberg, advokat za zaštitu podataka u Noyb-u.
Ovo je druga tužba koju je Noyb podnio protiv ChatGPT-a. Prošle godine grupa je tužila OpenAI zbog netačnih informacija o rođendanu osnivača Maxa Schremsa. Europska tijela za zaštitu podataka formirala su radnu grupu 2023. godine kako bi koordinirala mjere u vezi s privatnošću na platformi, a kasnije je proširena na općenitiju radnu grupu za umjetnu inteligenciju.
