ChatGPT optužen da ugrožava djecu i pomaže masovnim ubicama

Savezna država Florida postala je prva američka država koja je tužila kompaniju OpenAI zbog dizajna i sigurnosnih aspekata njenog chatbot sistema umjetne inteligencije ChatGPT.

U tužbi, koju je podnio državni tužilac Floride James Uthmeier, navedeno je da OpenAI i njegov izvršni direktor Sam Altman ugrožavaju djecu, stvaraju ovisnost o tehnologiji, pomažu i podržavaju masovne ubice te podstiču korisnike na samoubistvo u nastojanju kompanije da ostvari profit.

U odgovoru na tužbu, OpenAI je saopćio da je uspostavio vodeće zaštitne mjere i politike u industriji.

Pravni postupak pokrenut je dok Florida vodi i krivičnu istragu o tome da li je ChatGPT imao bilo kakvu ulogu u ubistvu dvije osobe tokom masovne pucnjave na Državnom univerzitetu Floride prošle godine.

U građanskoj tužbi također se nastoji lično pozvati na odgovornost Sama Altmana zbog navodnog “nesavjesnog i namjernog ponašanja”, uključujući, kako je navedeno, “potpuno zanemarivanje rizika po ljudske živote izazvanog djelovanjem njegove kompanije”.

OpenAI se tereti za više prekršaja, uključujući obmanjujuće i nepoštene poslovne prakse, nemar, kršenje zakona o odgovornosti za proizvode, lažno predstavljanje i izazivanje javne štete.

U tužbi se spominje pucnjava na Državnom univerzitetu Floride, kao i ubistvo dvoje doktoranata Univerziteta Južne Floride, gdje je osumnjičeni navodno postavljao ChatGPT-u pitanja o načinima odlaganja ljudskih tijela, prema navodima tužilaštva.

– Sam Altman i ChatGPT izabrali su utrku u razvoju umjetne inteligencije umjesto sigurnosti naše djece. Izabrali su profit umjesto javne sigurnosti i mi to nećemo tolerirati u Floridi. Pozvat ćemo ih na odgovornost – izjavio je Uthmeier na konferenciji za novinare.

OpenAI je u izjavi za BBC naveo da je gubitak djeteta najteža tragedija koju porodica može doživjeti te da su svjesni “da nikakve riječi ne mogu ublažiti takvu bol”.

Kompanija je dodala da umjetna inteligencija predstavlja novu i moćnu tehnologiju te da maloljetnici zahtijevaju posebnu zaštitu, zbog čega su uvedene zaštitne mjere poput sistema za procjenu starosne dobi korisnika i alata koji roditeljima omogućavaju nadzor nad korištenjem AI tehnologije.

– Svjesni smo da ove mjere ne mogu vratiti izgubljeni život, ali ostajemo posvećeni tome da ovaj sistem učinimo što sigurnijim – saopćio je glasnogovornik OpenAI-ja.

Tužba dolazi u trenutku kada se OpenAI suočava s nizom drugih sudskih postupaka u kojima se osporavaju njegove sigurnosne prakse. Među njima su i tužbe koje tvrde da je ChatGPT djelovao kao “savjetnik za samoubistvo” ili podsticao štetne zablude kod pojedinih korisnika.

Porodice nekih žrtava masovne pucnjave u Tumbler Ridgeu u Kanadi također su podnijele tužbu protiv OpenAI-ja. Kompanija je tada ugasila ChatGPT račun osumnjičenog zbog zabrinjavajuće aktivnosti, ali nije obavijestila policiju.

OpenAI je kasnije izrazio žaljenje što nije kontaktirao nadležne organe, ali je naveo da aktivnosti korisnika nisu dostigle prag koji bi ukazivao na vjerodostojnu ili neposrednu prijetnju ozbiljnim fizičkim nasiljem.

S pravnim izazovima suočavaju se i druge velike tehnološke kompanije.

Početkom godine otac jednog muškarca s Floride tužio je Google tvrdeći da je njegov vodeći AI proizvod doprinio razvoju zabluda koje su dovele do samoubistva njegovog sina.

Istovremeno, kompanije društvenih mreža, uključujući Meta Platforms, Snap, TikTok i YouTube, suočavaju se s velikim brojem tužbi saveznih država, školskih okruga i pojedinaca koji tvrde da su njihovi proizvodi namjerno dizajnirani da izazivaju ovisnost.

U martu su Meta i Google proglašeni odgovornim za štetu koju je pretrpio 20-godišnji tužitelj koji je tvrdio da su njihove platforme namjerno kreirane da bi izazivale ovisnost.

Ta presuda označila je značajan zaokret u pravnoj praksi. Tehnološke kompanije godinama su tvrdile da ne mogu biti odgovorne za sadržaj koji kreiraju korisnici, ali slučajevi zasnovani na odgovornosti za dizajn proizvoda sve više dobijaju na značaju.

Uthmeier i guverner Floride Ron DeSantis, obojica republikanci, često su bili u sukobu s kompanijama iz oblasti umjetne inteligencije koje imaju značajnu podršku američkog predsjednika Donalda Trumpa.

Florida se također usprotivila nastojanjima Trumpove administracije da ograniči mogućnost saveznih država da reguliraju umjetnu inteligenciju te je nedavno predložila “Povelju o pravima u oblasti umjetne inteligencije”, s ciljem jačanja zaštite privatnosti podataka i zaštite građana od mogućih negativnih ekonomskih posljedica razvoja podatkovnih centara, prenosi BBC. 

Dobivaj najvažnije vijesti porukom na Viberu: KLIKNI OVDJE
Preuzmite mobilnu aplikaciju 072info za Android: KLIKNI OVDJE
Preuzmite mobilnu aplikaciju 072info za iOS: KLIKNI OVDJE