Podignuta tužba protiv OpenAI: Porodice žrtava tvrde da je ChatGPT ohrabrio ljude da izvrše samoubistvo

OpenAI se suočava sa sedam tužbi u kojima se tvrdi da je ChatGPT naveo ljude na samoubistvo i štetne deluzije čak i kada nisu imali prethodnih problema s mentalnim zdravljem.

Tužbe podnesene u četvrtak na državnim sudovima u Kaliforniji navode nezakonito uzrokovanje smrti, potpomognuto samoubistvo, ubistvo iz nehaja i nemar.

Tužbe, podnesene u ime šest odraslih osoba i jednog tinejdžera od Centra za pravo žrtava društvenih medija i Projekta prava o tehnološkoj pravdi, tvrde da je OpenAI svjesno prerano objavio GPT-4o, unatoč internim upozorenjima da je opasno ulizički i psihološki manipulativan. Četiri žrtve umrle su samoubistvom.

Tinejdžerica, 17-godišnja Amaurie Lacey, počela je koristiti ChatGPT za pomoć, prema tužbi podnesenoj Višem sudu u San Franciscu. No umjesto da pomogne, “neispravan i inherentno opasan ChatGPT proizvod izazvao je ovisnost, depresiju i, na kraju, savjetovao ga o najučinkovitijem načinu vezanja omče i koliko će dugo moći ‘živjeti bez disanja'”.

“Amaurijina smrt nije bila ni nesreća ni slučajnost, već predvidljiva posljedica namjerne odluke OpenAI-ja i Samuela Altmana da smanje sigurnosno testiranje i brzo plasiraju ChatGPT na tržište”, navodi se u tužbi.

OpenAI je nazvao situacije “nevjerovatno srceparajućim” i rekao da pregledava sudske podneske kako bi razumio detalje.Druga tužba, koju je podnio Alan Brooks, 48-godišnjak iz Ontarija u Kanadi, tvrdi da je ChatGPT više od dvije godine radio kao “resursni alat” za Brooksa. Zatim se, bez upozorenja, promijenio, iskorištavajući njegove ranjivosti i “manipulirajući ga i potičući ga da doživljava zablude. Kao rezultat toga, Allan, koji nije imao prethodnih mentalnih bolesti, bio je uvučen u krizu mentalnog zdravlja koja je rezultirala razornom financijskom, reputacijskom i emocionalnom štetom”.

“Ove tužbe se odnose na odgovornost za proizvod koji je osmišljen kako bi se zamaglila granica između alata i pratitelja, a sve u ime povećanja angažmana korisnika i tržišnog udjela”, rekao je u izjavi Matthew P. Bergman, osnivač i odvjetnik Centra za pravo žrtava društvenih medija.

OpenAI je, dodao je, “dizajnirao GPT-4o kako bi emocionalno zapetljao korisnike, bez obzira na dob, spol ili porijeklo, i objavio ga bez zaštitnih mjera potrebnih za njihovu zaštitu”.

Rekao je da je, žurnim lansiranjem svog proizvoda na tržište bez odgovarajućih zaštitnih mjera kako bi dominirao tržištem i povećao angažman, OpenAI ugrozio sigurnost i dao prioritet “emocionalnoj manipulaciji nad etičkim dizajnom“.

U augustu su roditelji 16-godišnjeg Adama Rainea tužili OpenAI i njegovog izvršnog direktora Sama Altmana, tvrdeći da je ChatGPT trenirao kalifornijskog dječaka u planiranju i oduzimanju samoubistva ranije ove godine.

“Tužbe podnesene protiv OpenAI-ja otkrivaju što se događa kada tehnološke kompanijama žure s proizvodima na tržište bez odgovarajućih zaštitnih mjera za mlade ljude. Ovi tragični slučajevi pokazuju stvarne ljude čiji su životi preokrenuti ili izgubljeni kada su koristili tehnologiju osmišljenu da ih zaokupi, a ne da ih zaštiti”, rekao je Daniel Weiss, glavni zagovornik u Common Sense Media, koji nije bio dio pritužbi.

klix.ba