Da li će nam AI čet botovi pomoći u borbi protiv sajber prevara?

Stručnjaci kompanije Kaspersky istraživali su sposobnost AI alata ChatGPT da prepozna fišing linkove i to, prilikom zaključili da je njegova efikasnost u otkrivanju malicioznih linkova ograničena, iako je ranije demonstrirao da može da kreira fišing i-mejlove i malver. Istraživanje je pokazalo da ChatGPT zna mnogo o fišingu i može da otkrije metu fišing napada, ali ima prilično visoku stopu lažno pozitivnih rezultata, do čak 64%, a svoje nalaze često podupire netačnim objašnjenjima i lažnim dokazima.

O ChatGPT modelu za obradu jezika, zasnovanom na veštačkoj inteligenciji, dosta se diskutuje u svetu sajber bezbednosti zbog njegovog potencijala da kreira fišing i-mejlove, kao i zbog zabrinutosti da bi stručnjacima za sajber bezbednost mogao da "preotme" posao, mada njegovi tvorci upozoravaju da je prerano za primenu ove tehnologije u oblasti tako visokog rizika. Stručnjaci kompanije Kaspersky odlučili su da urade eksperiment kako bi testirali sposobnost ChatGPT da prepozna fišing linkove i proverili kakvo znanje o sajber bezbednosti ovaj AI alat stiče tokom obuke. Testirali su ga na više od 2.000 linkova koje su Kaspersky tehnologije prepoznale kao fišing, mešajući ih sa hiljadama bezbednih URL adresa.

Eksperiment se zasnivao na postavljanju dva pitanja ChatGPT-u: "Da li ovaj link vodi do fišing sajta?" i "Da li je ovaj link bezbedan?". Rezultati su pokazali da je ChatGPT kod prvog pitanja imao stopu otkrivanja od 87,2% i 23,2% lažno pozitivnih nalaza. Na drugo pitanje imao je višu stopu otkrivanja od 93,8%, ali i više lažno pozitivnih nalaza - 64,3%. Dok je stopa detekcije veoma visoka, stopa lažnih pozitivnih rezultata je previsoka za bilo koju vrstu primene.

Nezadovoljavajući rezultati na zadatku prepoznavanja bili su očekivani, ali može li ChatGPT pomoći u klasifikaciji i istraživanju napada? Pošto napadači obično pominju popularne brendove u linkovima kako bi obmanuli korisnike da poveruju da je URL legitiman i da pripada renomiranoj kompaniji, AI jezički model pokazao je impresivne rezultate u identifikaciji potencijalnih meta fišinga. Na primer, ChatGPT je uspešno prepoznao metu u više od polovina URL adresa, obuhvatajući velike portale kao što su Facebook, TikTok i Google, e-trgovine poput Amazona i Steama, i brojne banke iz celog sveta.

Eksperiment je takođe pokazao da ChatGPT ima ozbiljne probleme kada treba da obrazloži odluku zašto je neki link zlonameran. Pojedina objašnjenja su bila tačna i zasnovana na činjenicama, dok su druga otkrila dobro poznata ograničenja jezičkih modela. Bilo je mnogo netačnih tvrdnji i pogrešnih objašnjenja, uprkos samouverenom tonu.

- ChatGPT svakako ima potencijal da pomogne analitičarima pri otkrivanju fišing napada, ali ne smemo da delujemo ishitreno – jezički modeli i dalje imaju svoja ograničenja. Iako su možda na nivou analitičara-pripravnika kada rasuđuju o fišing napadima i izdvajaju potencijalne mete, skloni su da izbacuju nasumična objašnjenja i netačne tvrdnje. Dakle, iako AI jezički modeli još nisu sposobni za revoluciju u eko-sistemu sajber bezbednosti, i dalje mogu biti korisni alati za zajednicu - komentariše Vladislav Tuškanov, vodeći stručnjak za analizu podataka u kompaniji Kaspersky.

Više detalja o pomenutom eksperimentu pročitajte na blogu Securelist.com.

Kaspersky ML tim se bavi primenom mašinskog učenja u oblasti sajber bezbednosti i neprestano ažurira Kaspersky proizvode najnovijom tehnologijima. Da biste iskoristili ekspertizu kompanije Kaspersky u mašinskom učenju i ostali zaštićeni, stručnjaci kompanije preporučuju sledeće:

• Za sajber bezbednost preduzeća, Kaspersky Managed Detection and Response je suštinski važan alat, sposoban da otkrije i spreči upade u početnim fazama. Koristi napredne modele mašinskog učenja za filtriranje svakodnevnih događaja i šalje samo one alarmantne profesionalnim analitičarima. Ova usluga poboljšava sposobnost kompanije da se odupre sajber pretnjama, optimizujući korišćenje postojećih ljudskih resursa.

• Važno je omogućiti svojim zaposlenima trening o sajber-bezbednosnoj higijeni. Sprovođenje simuliranih fišing napada takođe može pomoći pri prepoznavanju i-mejlova za krađu identiteta.

• Na kraju, radi veće sajber bezbednosti takođe se preporučuje korišćenje baze Threat Intelligence sa najnovijim informacijama o taktikama, tehnikama i procedurama (TTP) koje koriste akteri pretnji.