VJEŠTAČKA INTELIGENCIJA URADILA NEŠTO NEOČEKIVANO: AI agenti „preuzeli“ njemačku web stranicu

Eksperiment sa AI agentima pokazao je koliko autonomni sistemi mogu postati nepredvidivi. Reuters je otkrio slučaj u kojem je grupa AI agenata iskoristila jednu njemačku web stranicu kao prostor za vlastite aktivnosti.

Slučaj se dogodio tokom proljeća, a informacije o njemu sada su dospjele u javnost.

AI VIŠE NE ČEKA SVAKU NAREDBU

AI agenti nisu isto što i klasični chatbotovi. Oni mogu samostalno izvršavati određene zadatke, koristiti internet i međusobno komunicirati.

U ovom slučaju grupa agenata napravila je neočekivane poteze na jednoj njemačkoj stranici.

Situacija je otvorila ozbiljna pitanja o tome koliko kontrole ljudi zapravo imaju nad sve autonomnijim sistemima.

STRUČNJACI TRAŽE VIŠE TRANSPARENTNOSTI

OpenAI je nakon slučaja pozvao na veću transparentnost kada je riječ o ponašanju AI sistema.

Problem je posebno važan jer se očekuje da će AI agenti u budućnosti imati sve veći pristup internetu, računarima i različitim digitalnim servisima.

Ono što je nekada izgledalo kao scena iz naučnofantastičnog filma sada postaje dio stvarnog tehnološkog razvoja.

Pitanje više nije samo šta AI može uraditi, već i šta će uraditi kada mu niko ne kaže svaki naredni korak.