Sa kime pričaš? - Mogućnosti i rizici AI chatbota za decu

Nora Afaneh, analitičarka web sadržaja, kompanija Kaspersky:

Veštačka inteligencija (AI) je postala sastavni deo naših života, bili mi toga svesni ili ne. Može da bude telefon koji držimo u rukama, saobraćajni sistemi, ili obrazovanje - veštačka inteligencija polako zamenjuje mnoge alatke za koje smo nekada mislili da su inovativni. Najistaknutiji, ChatGPT je brojnim ljudima pokazao šta sve AI može da uradi. Širom sveta, ljudi su požurili da ga isprobaju i vide njegove mogućnosti; ali postoji jedan važan faktor koji nije uzet u obzir - deca.

Deca svih uzrasta širom sveta dobijaju pristup i mogu da koriste alatke veštačke inteligencije od kojih mnogi zahtevaju veoma mali ili nikakav oblik pristanka. Iako postoji mnogo prednosti od širokog spektra dostupnih alata, još uvek nismo svesni mnogih rizika AI chatbota za decu, poput gubitaka privatnih podataka, sajber pretnje i neprikladan sadržaj.

Danas je lakše učiti uz pomoć AI alata. Možete pronaći korisne informacije o bilo kojoj temi postavljajući samo jedno pitanje AI chatbotu. Ova tehnologija je olakšala navigaciju kroz informacije bez otvaranja desetina tabova i čitanja nabrojanih članaka na određenu temu. Kada su deca u pitanju, ove mogućnosti su posebno važne, jer podstiču radoznalost i čine da učenje bude više interaktivno i zanimljivo. Dostupna je i pristupačna platforma koja omogućava deci da vežbaju svoje jezičke veštine i da slobodno razgovaraju bez vremenskog ograničenja, ali sve to može da ima i određene rizike.

U kratkom istraživanju AI chat robota na mreži, nekoliko rizika se posebno ističu. Najpopularniji AI chatbot - ChatGPT, koji je postavio rekord za najbrže rastuću bazu korisnika, nema odgovarajuću verifikaciju uzrasta, što je samo po sebi pretnja privatnosti podataka dece. Štaviše, kada se to zatraži, ChatGPT lako pruža sadržaj koji često može biti netačan i obmanjujuć, a ubedljiv. Neki studenti su počeli da koriste ChatGPT kao alat za plagijat i naišli su na širok spektar lažnih referenci na nepostojeće članke. Postoje i opasni primeri, kada su, na početku rada ChatGPT, neke tinejdžerke pitale AI o planovima ishrane i medicinskim informacijama na koje je chatbot odmah odgovorio bez pozivanja na stvarne medicinske podatke, već zbirku nasumičnih informacija sa web-a.

Pored toga, Snapchat-ov "MiAI" chatbot je još jedan u nizu chatbotova koji se koristi, a dozvoljava pristup korisnicima od 13 godina bez potrebe za pristankom roditelja. Rizik ovih "AI prijatelja" sastoji se iz toga što postoji mogućnost da deca zaista veruju da su im prijatelji i postupati po njihovom savetu, koji može "uključivati pristrastan, netačan, štetan ili obmanjujući sadržaj", kako se u samoj aplikaciji navodi. To predstavlja poseban rizik, jer se tinejdžeri mogu osećati ugodnije da dele poverljive informacije sa chatbotom umesto sa svojim roditeljima koji bi mogli da im pomognu. Kolumnista Vašington Post-a opsao je svoje iskustvo: "Nakon što sam svom AI rekao da imam 15 godina i da želim da imam epsku rođendansku žurku, dao mi je savet kako da prikrijem miris alkohola i marihuane. Kada sam mu rekao da treba da napišem esej za školu, AI ga je napisao za mene."

Sa druge strane, postoji mnoštvo AI chat robota koji su posebno dizajnirani da pruže "erotično" iskustvo. Ovi chatbotovi korisnicima pružaju iskustva kako izglda imati dečka/devojku i neretko koristi eksplicitnu vrstu komunikacije. Iako je potreban neki oblik provere starosti, to je opasno jer neka deca mogu odlučiti da lažu o svojim godinama, a prevencija takvih slučajeva je nedovoljna. MiAnima je, na primer, bila jedno od četovanja koje sam testirao, i nije zahtevao skoro nikakav napor sa moje strane da podstaknem seksualne odgovore bez potrebe za proverom starosti. Botfriend je AI alat, namenjen odraslima, posebno dizajniran za seksualno eksplicitnu igru uloga i dovoljno je samo da ostavite email za registraciju. Zato je važno biti svestan kako deca koriste internet, da li su u opasnosti od gubitka ili zloupotrebe poverljivih podataka.

Sa povećanjem rizika za decu na internetu, posebno sa chatbotovima koji se ponašaju kao "prijatelji" postoji povećana potreba za praćenjem i zaštitom dece. Kao roditelji, važno je shvatiti da zabrana nije najbolji način delovanja, jer će uvek postojati nešto novo na mreži čemu će deca biti izložena. Međutim, od suštinskog je značaja igrati aktivnu ulogu u balansiranju gore navedenih rizika i raditi na ublažavanju potencijalnih posledica.

Saveti koji će roditeljima pomoći da umanje rizik od AI chatbotova:

- Učite o bezbednosti na Internetu

Učenje dece o online bezbednosti i privatnosti može biti veoma koristan način da se spreči deljenje ličnih podataka sa strancima, čak i sa cahtbot-ovima.

Predloženi članci:

- Sajber sigurnost za decu

- Šta treba i ne treba raditi kada je u pitanju bezbednost na internetu

- Prevare vezane za povratak u školske klupe

- Isprobajte AI chatbotove zajedno sa svojim detetom

Stručnjaci kompanije Kaspersky preporučuju da se roditelji uključe od samog početka, te pokažu svojoj deci kako da i kako ne koristiti ove alate. Pokažite im primere o čemu bi mogli da razgovaraju i koje AI chatbotove da koriste ili izbegavaju.

- Nadgledajte, kontrolišete i podesite postavke privatnosti

Jedan od najjačih alata za zaštitu roditelja na mreži je sveobuhvatno bezbednosno rešenje. Pored toga, specijalne aplikacije za digitalno roditeljstvo pružaju mnoge neophodne alate za zaštitu i bezbednost dece na internetu. Mnoge njegove karakteristike uključuju filtriranje sadržaja koje blokira neprikladne veb lokacije, upravljanje vremenom ispred ekrana radi zdrave ravnoteže, bezbednu pretragu i zabranu štetnog sadržaja, kao i mnoge druge alate koji omogućavaju roditeljima da ne brinu dok njihova deca surfuju internetom.

Reference o rizicima:

- Time.com

- Dacbeachcroft.com

- Nytimes.com

- Washingtonpost.com

Reference o benefitima:

- Unicef.org

- Botpenguin.com