Sajber bezbednost u doba veštačke inteligencije - Šta se promenilo u 2023?

Stručnjaci kompanije Kaspersky su u najnovijem izveštaju analizirali veliki uticaj veštačke inteligencije (AI) na sajber bezbednost. Akcenat je na primeni AI u domenu zaštite i neophodnosti zakonske regulative, a posebno je analizirana moguća zloupotreba AI od sajber kriminalaca. Ovo sveobuhvatno istraživanje deo je Kaspersky Security Bulletin-a (KSB) – godišnjeg izdanja sa predviđanjima i detaljnim izveštajima koji objašnjavaju promene u dinamičnom okruženju sajber bezbednosti.

Usled rapidnog tehnološkog napretka i stalnih društvenih promena, AI je postala jedna od glavnih tema na globalnom nivou. Sa širenjem velikih jezičkih modela (LLM) raste i zabrinutost kakav uticaj će AI imati u domenu sajber bezbednosti. Istraživači kompanije Kaspersky ilustruju kako su AI alatke pomogle sajber kriminalcima u njihovim malicioznim aktivnostima tokom 2023. godine, dok istovremeno ukazuju na potencijalnu primenu te iste tehnologije u cilju zaštite. Pored toga, stručnjaci kompanije Kaspersky izneli su predviđanja kako bi u budućnosti mogle da izgledaju AI pretnje:

Kako LLM sve češće postaju deo proizvoda, nove kompleksne ranjivosti će se pojaviti u okviru generativne AI i tradicionalnih determinističkih tehnologija, proširujući tako prostor mogućih napada koji profesionalci za sajber bezbednost treba da pokriju. Programeri će morati da prouče nove bezbednosne mere, poput onih koje traže odobrenje korisnika za radnje koje iniciraju LLM.

Crveni timovi i istraživači koristiće generativnu AI za inovativne bezbednosne alate, što potencijalno vodi ka asistentu koji koristi LLM ili mašinsko učenje (ML). Ovaj alat bi mogao da automatizuje zadatke crvenog tima, nudeći smernice zasnovane na izvršenim komandama.

U narednoj godini prevaranti će unaprediti taktike koristeći neuronske mreže i AI alate za kreiranje ubedljivijeg obmanjujućeg sadržaja. Koliko će biti lako generisati ubedljive slike i video-zapise, toliko će porasti i rizik od eskalacije sajber pretnji.

Uprkos navedenim trendovima, stručnjaci kompanije Kaspersky i dalje ne veruje da će AI značajno promeniti sajber pretnje u skorije vreme. Iako sajber kriminalci usvajaju generativnu AI, isto važi i za branioce, koji će koristiti iste ili naprednije alate za testiranje i unapređenje bezbednosti softvera i mreža, zbog čega je malo verovatno da će se vrste napada drastično promeniti.

Kako se ova tehnologija brzo razvija, tako će ubrzano postati i jedna od glavnih tema za kreatore zakona i pravila. Broj regulatornih inicijativa u vezi sa AI će rasti tokom sledeće godine. S obzirom na njihovu stručnost u razvoju i korišćenju AI, tehnološke kompanije mogu pružiti neprocenjive uvide tokom diskusija o regulaciji veštačke inteligencije na globalnom i nacionalnom nivou.

Za označavanje i identifikaciju sintetičkog sadržaja biće potrebno više propisa, kao i mera od strane pružalaca usluga koji će nastaviti da ulažu u tehnologije za detekciju. Programeri i istraživači će, sa svoje strane, doprineti metodama obeležavanja vodenim žigom na sintetičkim medijima radi lakše identifikacije i otkrivanja porekla.

- Veštačka inteligencija u sajber bezbednosti je mač sa dve oštrice. Njene adaptivne sposobnosti jačaju odbranu, nudeći nam proaktivni štit od pretnji koje se konstantno razvijaju. Međutim, ista dinamika može biti rizična, jer napadači koriste veštačku inteligenciju za kreiranje sofisticiranijih napada. Da bismo obezbedili naše digitalne granice, važno je ostvariti ravnotežu i obezbediti odgovorno korišćenje AI bez nepotrebnog deljenja osetljivih podataka - komentariše Vladislav Tushkanov, bezbednosni stručnjak kompanije Kaspersky.

Potražite više detalja o primeni AI u sajber bezbednosti na blogu Securelist.com

Ovaj izveštaj je deo Kaspersky Security Bulletin-a (KSB) – godišnje izdanje predviđanja i analiza ključnih promena u svetu sajber bezbednosti. Na ovom linku možete pročitati ceo izveštaj.