OpenAI, jedna od vodećih tvrtki u razvoju umjetne inteligencije, nedavno je predstavila novu funkcionalnost nazvanu ChatGPT Agent. Ova tehnologija omogućuje da umjetna inteligencija (AI agent) samostalno izvršava zadatke u ime korisnika, poput naručivanja proizvoda na internetu, organiziranja sastanaka ili upravljanja drugim aplikacijama. Iako to zvuči korisno i praktično, ovaj novi korak donosi i ozbiljne rizike za privatnost i sigurnost – posebno za one koji nisu upoznati s načinom na koji umjetna inteligencija funkcionira.
Što su AI agenti?
Za razliku od dosadašnjeg ChatGPT-a koji odgovara na pitanja i pomaže u pisanju tekstova, AI agenti idu korak dalje – oni mogu samostalno djelovati u naše ime. To znači da mogu pristupati drugim aplikacijama, donositi odluke i izvršavati radnje bez stalnog nadzora korisnika. Da bi to mogli, potrebne su im posebne dozvole – na primjer, pristup internetu, kalendaru, e-mailu ili čak digitalnom novčaniku.
Primjeri iz stvarnog života:
Zamislimo da korisnik želi da AI agent kupi haljinu preko interneta. Da bi to učinio, agent mora imati pristup webu, ali i pristup sredstvima plaćanja – poput digitalnog novčanika. Ako korisnik želi da agent organizira događaj i pozove prijatelje, tada agent mora „pročitati“ kalendar i kontakte iz imenika. Dakle, što je zadatak složeniji i što više slobode damo agentu, to mu dajemo veći pristup našim osobnim informacijama.
Zašto je to važno za učitelje?
Kao učitelji, neovisno o tome predajemo li povijest, matematiku, likovni ili tjelesni, sve smo više izloženi tehnologijama koje koriste umjetnu inteligenciju. Mnoge škole već koriste ChatGPT, razne edukacijske aplikacije ili digitalne asistente. No, razvoj takvih alata ide brže nego što ga većina može pratiti. Pritom se često ne raspravlja dovoljno o rizicima.
Korištenje ChatGPT-a već sada nosi određene rizike jer učenici i učitelji u njega unose razne osobne informacije – imena, sadržaje zadataka, školske dokumente i slično. Novi AI agenti traže još više podataka i imaju mogućnost pristupa različitim sustavima – što povećava rizik od zloupotrebe informacija, bilo greškom sustava, bilo zbog zlonamjernih korisnika.
Što možemo učiniti?
Sam Altman, direktor OpenAI-ja, preporučuje da se AI agentima daje samo minimalan pristup koji je nužan za izvršenje konkretnog zadatka. Drugim riječima, ako je zadatak npr. isključivo pretraga informacija, ne treba im dati pristup e-mailu ili dokumentima.
Učitelji trebaju biti posebno oprezni – ne samo zbog vlastite privatnosti, nego i zbog podataka o učenicima. U mnogim slučajevima, potencijalne štete mogu biti znatno veće od koristi koje agenti nude u vidu uštede vremena ili lakšeg upravljanja obavezama.
Za kraj – važnost digitalne pismenosti
Ova tema pokazuje koliko je važno razvijati AI pismenost – razumijevanje kako umjetna inteligencija funkcionira, koji su njezini potencijali, ali i koje su njezine opasnosti. Nažalost, tehnologija se razvija mnogo brže nego što obrazovni sustav ili društvo u cjelini može pratiti. Mnogi još nisu ni shvatili moguće rizike postojećeg ChatGPT-a, a već nam dolaze alati s još većim mogućnostima i rizicima.
Učitelji su na prvoj liniji kada je riječ o prenošenju znanja, ali i zaštiti djece i mladih. U vremenu sve prisutnijih AI alata, osnovno razumijevanje njihovih prednosti i prijetnji postaje nužan dio naše profesionalne odgovornosti.
Ako vas ova tema zanima, razmislite o sudjelovanju u edukacijama koje se bave digitalnim kompetencijama i sigurnim korištenjem umjetne inteligencije u obrazovanju. Budućnost je već tu – važno je da u njoj sudjelujemo informirano i odgovorno.
