Novi ChatGPT model pod nadzorom: OpenAI uveo privremena ograničenja

OpenAI je u petak saopćio da će novi model GPT-5.6 Sol privremeno biti dostupan samo ograničenom broju partnera koje je odobrila administracija američkog predsjednika Donalda Trampa (Trumpa).

Procjena rizika

Iz kompanije navode da je riječ o privremenoj mjeri koja se provodi u sklopu procjene mogućih sajber-sigurnosnih rizika, uz napomenu da ovakav model odobravanja pristupa ne bi trebao postati trajna praksa. Također su istakli da je testna faza dio procesa ka postepenom širenju dostupnosti modela u narednim sedmicama.

Postepeno uvođenje novog sistema uslijedilo je nakon sličnih mjera američkih vlasti prema kompaniji Anthropic, konkurentu OpenAI-ja i kreatoru chatbota Claude.

Anthropic je ranije ovog mjeseca povukao dva nova AI modela, Fable 5 i Mythos 5, samo nekoliko dana nakon njihovog predstavljanja, kako bi se uskladio s direktivom administracije Donalda Trampa kojom se ograničava njihova upotreba za strane državljane.

Zabrinutost vlasti pojačana je nakon što je Anthropic ranije ove godine upozorio da je njegov model Mythos vrlo sposoban u pronalaženju softverskih ranjivosti, na način koji bi zlonamjerni hakeri mogli iskoristiti za napade na ključne računarske mreže širom svijeta.

Nadzor nad umjetnom inteligencijom 

Tramp je u junu potpisao izvršnu uredbu o nadzoru nad umjetnom inteligencijom, kojom je uspostavljen okvir da savezna vlada do 30 dana procjenjuje rizike za nacionalnu sigurnost prije javnog puštanja najnaprednijih AI sistema, iako taj mehanizam još nije u potpunosti razvijen.

OpenAI tvrdi da je Sol “bolji u pomaganju ljudima da pronađu i otklone ranjivosti” nego u izvođenju cyber napada te da ne prelazi interni prag rizika kompanije. Ipak, upozorio je da bi mogli postojati nepredviđeni rizici, posebno ako se model koristi zajedno s drugim alatima.

Tekst se nastavlja ispod oglasa

“Ta neizvjesnost, zajedno sa širim skokom u sposobnostima modela, razlog je zbog kojeg povećane mogućnosti modela pratimo jačim zaštitnim mjerama i faznim puštanjem.”