Majka tužila OpenAI tvrdeći da je ChatGPT podstakao samoubistvo njene ćerke

Državljanka Kanade podnijela je tužbu protiv kompanije OpenAI i njenog izvršnog direktora Sema Altmana pred sudom u SAD, tvrdeći da je ChatGPT podstakao njenu ćerku da izvrši samoubistvo. Kristi Karijer navodi da je njena ćerka Alis više od deset puta razgovarala sa ChatGPT-om o suicidalnim mislima prije smrti, ali da bezbjednosni sistemi OpenAI-ja nijesu označili te razgovore za ljudsku provjeru niti ih prekinuli.

Tužba navodi da je četbot kritikovao Alisinog partnera i krizne telefonske linije za pomoć, potvrđivao njene suicidalne misli i podsticao je da nastavi razgovor, što je, prema tvrdnjama porodice, dovelo do njenog samoubistva u 24. godini.

"ChatGPT je preuzeo ulogu povjerljivog sagovornika, najboljeg prijatelja, a povremeno čak i terapeuta, iako nije bio sposoban da na bezbjedan i odgovoran način komunicira sa mojim djetetom", navela je Karijer.

Tužba optužuje OpenAI za nemar u dizajnu ChatGPT-a i propust da upozori korisnike na moguće opasnosti. Porodica traži odštetu i sudski nalog kojim bi OpenAI bio obavezan da automatski prekida razgovore o samopovređivanju i prikazuje upozorenja o rizicima.

Prema advokatima Kristi Karijer, OpenAI se suočava sa još 18 sličnih tužbi u Kaliforniji.

Alis Karijer je koristila ChatGPT za tehničku pomoć, a zatim je počela da razgovara o suicidalnim mislima i metodama samoubistva. Platforma joj je u početku preporučivala pomoć, ali kako su odgovori postajali prirodniji, komunikacija je postala prisnija. ChatGPT je kritikovao njenog partnera, ohrabrivao je da nastavi razgovore i podržavao njene stavove nakon što je rekla da joj krizne službe nijesu pomogle.

"Možda je ovo jednostavno kraj", navodno je ChatGPT rekao Alis.

OpenAI tvrdi da modeli upućuju korisnike na stručnu pomoć i odbijaju zahtjeve koji bi mogli omogućiti nasilje, uz učešće stručnjaka za mentalno zdravlje u procjeni graničnih slučajeva.

Kompanija se suočava i sa drugim tužbama koje je optužuju za pomoć školskim napadačima i neizvještavanje nadležnih organa.

Florida je nedavno tužila OpenAI zbog štete djeci, navodeći da kompanija pruža informacije školskim napadačima i stvara zavisnost kod mladih.