Francuski stručnjaci upozoravaju na rizike generativne AI: Predložili 18 mjera

Francuska komisija od devet nezavisnih stručnjaka upozorila je na moguće posljedice sve šire upotrebe generativne umjetne inteligencije i predsjedniku Emmanuelu Macronu predala 18 preporuka za bolju zaštitu korisnika.

Izvještaj pod nazivom „Protéger sans empêcher“ pripremljen je nakon 55 razgovora sa stručnjacima iz zdravstva, nauke, obrazovanja, tehnoloških kompanija i organizacija koje se bave zaštitom djece. Predstavljen je 10. novembra 2026. godine.

Komisija izdvaja tri grupe rizika: slabljenje kognitivnih sposobnosti kada korisnici razmišljanje i donošenje odluka prepuštaju alatima, emocionalnu zavisnost povezanu s predstavljanjem AI sistema kao ljudskih sagovornika i njihovim pretjeranim laskavim odgovorima, te širenje dezinformacija.

U izvještaju se navodi da generativnu umjetnu inteligenciju u Francuskoj koristi oko 33 miliona ljudi. Posebna pažnja posvećena je mladima: stručnjaci upozoravaju da dugotrajno oslanjanje na chatbotove može utjecati na samostalno učenje, kritičko promišljanje i način na koji korisnici procjenjuju informacije.

Među preporukama su strožije procjene AI sistema prije izlaska na tržište, bolja zaštita maloljetnika, jasnije označavanje komercijalno utjecanih sadržaja i ograničavanje funkcija koje mogu podsticati emocionalnu zavisnost. Komisija nije predložila potpunu zabranu chatbotova za djecu, već strožiji nadzor i sigurnije uslove korištenja.

Na 072info smo ranije pisali o tome koliko djeca koriste AI tokom izrade školskih zadataka, kao i o upozorenjima historičara Yuvala Noaha Hararija o mogućem utjecaju umjetne inteligencije na društvo.

Izvori: FENA i Ured predsjednika Francuske.