- Dirbtinis intelektas leidžia aptikti, susieti ir reaguoti į didelio masto kibernetines grėsmes, sumažinant klaidingai teigiamus rezultatus ir reakcijos laiką.
- Generatyvusis dirbtinis intelektas sustiprina tiek gynybą (modeliavimą, sintetinius duomenis, automatizavimą), tiek atakas (pažangų sukčiavimą, giluminį klastojimą, balso klonavimą).
- Mašininis mokymasis taikomas duomenų klasifikavimui, elgsenos analizei, vartotojų profiliavimui ir robotų blokavimui, taip gerinant apsaugą nepakeičiant žmonių komandų.
- Būsimoji sėkmė priklauso nuo paties dirbtinio intelekto srauto saugumo, duomenų reglamentų laikymosi ir automatizavimo derinimo su žmogaus priežiūra bei sprendimais.
Hiperskaitmeniniame pasaulyje kibernetinis saugumas tapo esminiu apsaugos tinklu ir yra raktas į saugumą bei privatumą skaitmeniniame amžiuje įmonėms, vyriausybėms ir paprastiems piliečiams. Kiekviena nauja debesijos paslauga, kiekvienas prijungtas įrenginys ir kiekviena įdiegta programa plečia atakų paviršių, kuriuo gali pasinaudoti kibernetiniai nusikaltėliai.
Tuo pačiu metu dirbtinio intelekto (DI), mašininio mokymosi (MM) ir generatyvinio DI atsiradimas visiškai pakeitė žaidimo taisykles. Šios technologijos ne tik sustiprina gynybą, bet ir yra naudojamos užpuolikų, kad pradėtų didesnes, tikslesnes ir sunkiau aptinkamas kampanijas, todėl labai svarbu suprasti jų galimybes, veikimo principus ir apribojimus.
Kaip dirbtinis intelektas keičia kibernetinį saugumą
Dirbtinis intelektas (DI) sukėlė kokybinį šuolį incidentų aptikimo, tyrimo ir reagavimo į juos srityje , ypač aplinkose, kuriose kasdien generuojama milijonai saugumo įvykių. Tokios platformos kaip SIEM, XDR, NDR ar modernūs galinių taškų sprendimai būtų praktiškai neįmanomi be algoritmų, gebančių filtruoti triukšmą ir nustatyti prioritetą tam, kas iš tiesų svarbu.
Daugumoje organizacijų saugumo sistemos kas minutę registruoja tūkstančius įvykių : neįprastus prisijungimus, pakartotinius prisijungimus, įtartinus atsisiuntimus, konfigūracijos pakeitimus ir pan. Dauguma šių įspėjimų yra nekenksmingi, tačiau keli slepia akivaizdžiai kenkėjišką elgesį. Būtent čia sužiba dirbtinis intelektas, kuris išmoksta atskirti teisėtus modelius nuo tų, kurie rodo tikrą ataką.
Mašininio mokymosi modeliai susieja veiklas, kurios, vertinamos atskirai, atrodo nekenksmingos (prisijungimas ne darbo valandomis, suspaustas failas, prieiga prie konkretaus serverio), bet kartu sudaro tipišką išpirkos reikalaujančios programinės įrangos, horizontalios migracijos ar duomenų nutekėjimo pėdsaką; todėl labai svarbu turėti vietines atsargines kopijas.
Be to, pažangiausiuose sprendimuose integruoti generatyviniai dirbtinio intelekto varikliai, galintys natūralia kalba rašyti suprantamas ataskaitas , apibendrinant, kas įvyko, koks galimas poveikis, kurios sistemos paveiktos ir kokie veiksmai rekomenduojami. Tai žymiai sutrumpina analizės laiką ir palengvina netechniniams vadovams rizikos supratimą ir sprendimų priėmimą.
Kitas svarbus indėlis yra automatinis pažeidžiamumų ir nežinomų išteklių identifikavimas : įrenginiai, be leidimo prisijungiantys prie tinklo, neinventorizuoti debesijos programų, netaisytų operacinių sistemų arba prastai apsaugotų neskelbtinų duomenų. Kryžminėmis nuorodomis į inventorius, tinklo srautus ir politikas, dirbtinis intelektas atskleidžia anksčiau nepastebėtas saugumo spragas.
Jis taip pat tapo tiesioginiu SOC komandų sąjungininku, nes sudėtingas užklausas ir techninius rezultatus verčia į kasdienę kalbą . Jaunesnieji analitikai gali tirti incidentus net neįvaldę pažangių užklausų kalbų, o pats įrankis siūlo taisomuosius veiksmus, atakos suvaldymo gaires ir geriausią praktiką, kaip išvengti pasikartojimo.
Apibendrindamas ir analizuodamas duomenis iš įvairių šaltinių – saugumo žurnalų, tinklo srauto, išorinių grėsmių informacijos, vartotojų elgesio ir galinių taškų – dirbtinis intelektas suteikia vieningą saugumo būsenos vaizdą , įskaitant tinklo įrangos valdymą , išryškindamas atakų modelius, kurių būtų neįmanoma nustatyti rankiniu būdu. Ši sintezės galimybė chaotiškus duomenis paverčia išties veiksminga informacija.
Viena sritis, kurioje dirbtinis intelektas daro didelį skirtumą, yra klaidingai teigiamų ir klaidingai neigiamų rezultatų mažinimas . Naudodami šablonų atpažinimą, konteksto analizę, anomalijų aptikimą ir nuolatinį mokymąsi, modeliai koreguoja savo jautrumą, kad sumažintų tiek nesvarbius įspėjimus, tiek praleistas grėsmes – tai labai svarbu kovojant su apsaugos personalo nuovargiu dėl įspėjimų.
Galiausiai, dirbtinis intelektas siūlo tokį mastelio keitimą, kokio negali pasiūlyti vien žmogaus darbas . Jis gali apdoroti didžiulius duomenų srautus realiuoju laiku, mokytis iš kiekvieno incidento ir prisitaikyti prie naujos atakų taktikos. Augant kibernetinių grėsmių kiekiui ir infrastruktūros sudėtingumui, ši galimybė plėstis nedidinant personalo išlaidų tampa nepakeičiama.
Praktinis dirbtinio intelekto taikymas kibernetinio saugumo srityje
Praktiškai dirbtinis intelektas jau yra beveik kiekviename organizacijos gynybos lygmenyje. Nuo naudotojų autentifikavimo iki anomalinio elgesio aptikimo – jo vaidmuo gerokai viršija paprastą technologinį „papildomą“ elementą.
Pavyzdžiui, tapatybės valdymo srityje dirbtinis intelektas padeda sustiprinti slaptažodžių apsaugą ir autentifikavimą, aptikdamas neįprastą naudojimą, prieigą iš neįprastų vietų arba anksčiau nematytus įrenginius, ypač mobiliojoje aplinkoje, pavyzdžiui, „Android“ ir „iOS“ saugumo srityje . Jis taip pat prisideda prie adaptyvių autentifikavimo sistemų, padidindamas saugumo lygį, kai kažkas „nesuderinama“ su vartotojo elgesiu.
Sukčiavimo ir tapatybės vagysčių aptikimo bei prevencijos srityje (sukčiavimas apsimetant kitais asmenimis, ieškant tikslinių duomenų, naudojant „vishing“, SMS žinučių siuntimą, QR žinučių siuntimą ir kt.) algoritmai analizuoja turinį, rašymo stilių, įterptąsias nuorodas ir metaduomenis, kad atskirtų teisėtus pranešimus nuo vis sudėtingesnių apgaulės bandymų, pasitelkiant generatyvinį dirbtinį intelektą, ir yra svarbi internetinės apsaugos dalis.
Taip pat labai naudingi pažeidžiamumų valdymas ir tinklo saugumas . Mašininio mokymosi sistemos nustato saugumo spragų prioritetus pagal jų faktinį išnaudojimo galimybes ir konkretų organizacijos kontekstą, o dirbtinio intelekto pagrįstos sistemos stebi srautą, ieškodamos anomalių modelių, ryšio su kenkėjiškomis sritimis ar judėjimo tarp serverių, ir valdo raktus naudodamos aparatinės įrangos saugumo modulius.
Elgesio analizė tapo dar vienu svarbiu privalumu: elgesio profiliai kuriami tiek vartotojams, tiek sistemoms , kad bet koks svarbus nukrypimas – keisti laikai, neįprasta prieiga prie jautrių duomenų, neįprasti atsisiuntimų kiekiai – suaktyvintų įspėjimą ar net automatinį atsaką.
Dirbtinio intelekto valdomi kibernetinio saugumo įrankiai
Teorija juk gera, tačiau tikrasis poveikis matomas konkrečiuose sprendimuose, kuriuose dirbtinis intelektas arba mašininis mokymasis jau yra integruoti kaip pagrindinė jų veiklos dalis. Tarp svarbiausių galime išskirti kelias grupes ir po kelis reprezentatyvius produktus iš kiekvienos kategorijos.
Pirma, turime dirbtiniu intelektu pagrįstus galinių taškų saugumo sprendimus , galinčius blokuoti nežinomas kenkėjiškas programas analizuojant jų elgesį realiuoju laiku, nesiremiant vien tik parašais. Daugelyje naujos kartos antivirusinių programų yra integruoti šie varikliai, derinantys statinę ir dinaminę analizę su nuspėjamaisiais modeliais.
Dirbtiniu intelektu paremtos naujos kartos užkardos (NGFW) užtikrina išsamią srauto patikrą, programų identifikavimą, įsilaužimų aptikimą ir intelektualų segmentavimą. Dirbtinis intelektas padeda aptikti neįprastus ryšio modelius, slaptus tunelius ar bandymus apeiti politiką, kurių tradicinė užkarda nepastebėtų. Perimetro ir segmentavimo architektūroms rekomenduojama atlikti maršrutizatorių analizę.
Centralizuoto stebėjimo srityje SIEM (saugumo informacijos ir įvykių valdymo) platformos išsivystė į daug išmanesnius analitinius variklius. Jos koreliuoja įvykius iš šimtų šaltinių, taiko elgsenos modelius ir teikia pirmenybę įtartiniems incidentams, taip sumažindamos SOC rankų darbo krūvį.
Taip pat populiarėja dirbtiniu intelektu paremti debesijos saugumo sprendimai , stebintys IaaS, PaaS ir SaaS aplinkas, aptikdami netinkamas konfigūracijas, anomalią API prieigą ir neįprastus judėjimus tarp regionų ar paskyrų. Kelių debesų infrastruktūrose šie varikliai yra labai svarbūs norint išlaikyti matomumą.
Galiausiai, yra dirbtinio intelekto valdomi tinklo aptikimo ir reagavimo (NDR) įrankiai , specialiai sukurti kibernetinėms grėsmėms aptikti atliekant išsamią tinklo srauto analizę. Jie identifikuoja komandinės eilutės atakas, įsilaužimus, vidinius nuskaitymus ir robotų veiklą bei siūlo automatinius atsakymus, pvz., įrenginių izoliavimą arba ryšių blokavimą.
Generatyvusis dirbtinis intelektas: nauja kibernetinio saugumo sritis
Generatyviojo dirbtinio intelekto (pvz., GPT modelių arba GAN) atsiradimas atvėrė visiškai naują kibernetinio saugumo frontą. Šie modeliai ne tik analizuoja duomenis, bet ir geba generuoti turinį: tekstą, vaizdus, garso įrašus, vaizdo įrašus ar net kodą.
Gynybos srityje generatyvinis dirbtinis intelektas leidžia imituoti sudėtingas kibernetines atakas, siekiant patikrinti gynybą , generuoti sintetinius duomenis sistemoms mokyti nepakenkiant realiai informacijai ir kurti itin realistiškus mokymo scenarijus incidentų reagavimo komandoms.
SOC aplinkose ir SIEM platformose generatyviniai modeliai mokosi iš įprasto tinklo elgesio ir žymi subtilius nukrypimus, kurie gali rodyti kenkėjiškas programas, išpirkos reikalaujančias programas ar slaptą srautą, taip žymiai pagerindami anomalijų aptikimą, palyginti su statinėmis taisyklėmis.
Be to, ši technologija prisideda prie pažangios saugumo užduočių automatizacijos : nuo optimizuotų užkardos taisyklių siūlymo iki incidentų reagavimo scenarijų generavimo ir net aiškių vadovų ataskaitų rašymo iš sudėtingų techninių žurnalų. Generatyvusis dirbtinis intelektas veikia kaip specializuotas asistentas, sutaupantis valandų valandas pasikartojančio darbo.
Jo poveikis mokymui taip pat milžiniškas, nes jis leidžia atkurti realistiškas atakų aplinkas, kurios dinamiškai prisitaiko prie mokinio lygio, derinant skirtingus vektorius (sukčiavimą sukčiavimo būdu, judėjimą į šonus, privilegijų eskalavimą, išvarymą), siekiant lavinti tiek techninius įgūdžius, tiek sprendimų priėmimą esant spaudimui.
Kibernetinės atakos, kurias skatina generatyvinis dirbtinis intelektas
Deja, kibernetiniai nusikaltėliai labai greitai išnaudojo generatyvinį dirbtinį intelektą savo naudai . Anksčiau jiems reikėjo laiko, techninių žinių ir tam tikrų socialinių įgūdžių, o dabar jie turi įrankius, kurie automatizuoja didelę dalį darbo.
Ryškus pavyzdys yra pažangūs teksto generatoriai , gebantys rašyti melagingas naujienas, sukčiavimo el. laiškus ar šantažavimo pranešimus tobula ispanų kalba, be rašybos klaidų ar keistų frazių. Tai labai padidina tikimybę apgauti auką, nes el. laiškas „skamba“ kaip teisėtas banko, socialinio tinklo ar vyriausybinės agentūros pranešimas.
Taip pat išplito vaizdo įrašų ir „deepfake“ kūrimo įrankiai , leidžiantys vartotojams uždėti veidus ant kitų kūnų arba keisti išraiškas ir žodžius tikruose vaizdo įrašuose. Naudojant specializuotą programinę įrangą, galima sukurti netikrus politikų, vadovų ar šeimos narių vaizdo įrašus, kurie yra labai įtikinami visiems, kas juos gauna.
Balso klonavimas tapo prieinamesnis dėl modelių, kurie vos keliomis minutėmis tikro garso gali beveik idealiai imituoti žmogaus balso toną, akcentą ir pauzes. Šie žemi balsai leidžia skambinti telefonu taip, lyg kalbėtų šeimos narys, įmonės vadovas ar banko vadybininkas.
Vienas labiausiai nerimą keliančių atvejų yra finansinis sukčiavimas, kai naudojamas klonuotas šeimos nario balsas . Auka gauna skambutį iš asmens, kuris skamba lygiai taip pat kaip jos vaikas, partneris ar artimas giminaitis, prašydamas skubiai pervesti pinigus dėl tariamos avarinės situacijos. Susidūrę su emociniu spaudimu ir tariamu balso autentiškumu, daugelis galiausiai atlieka dideles permokas į užpuolikų kontroliuojamas sąskaitas.
Dirbtinio intelekto poveikis sukčiavimui ir socialinei inžinerijai
Socialinė inžinerija, apimanti visas technikas, skirtas manipuliuoti žmonėmis ir įtikinti juos daryti tai, kas jiems kenkia , rado pavojingą sąjungininką generatyviniame dirbtiniame intelekte. Tai, kam anksčiau reikėjo valandų valandas rankinio tyrimo, dabar gali būti automatizuota dideliu mastu.
Tradiciškai, norint pradėti tikslinę sukčiavimo kampaniją, reikėdavo nuodugniai ištirti auką : jos pareigas, santykius, interesus, tiekėjus ir panašiai. Tai buvo brangu ir daug laiko reikalaujanti veikla, todėl sudėtingos atakos buvo retesnės. Šiandien dirbtinis intelektas gali per kelias minutes peržiūrėti socialinę žiniasklaidą, atviruosius šaltinius ir ankstesnius el. laiškus, kad sukurtų labai išsamius profilius.
Kampanijos paįvairėjo: be tradicinio pašto, atsirado SMS žinutės (SMSishing) , sukčiavimas socialiniuose tinkluose, kenkėjiški telefono skambučiai (vishing), „pamirštos“ USB atmintinės, skirtos suvilioti vartotoją (baiting), ir vis dažniau naudojami manipuliuojami QR kodai (QRishing), kurie nukreipia į netikras svetaines arba įdiegia kenkėjiškas programas.
Laikui bėgant, užpuolikai patobulino savo taktiką: nuo labai bendrinių masinių pranešimų jie perėjo prie hiper-asmeninių el. laiškų, kurie imituoja tikrus vidinius procesus , vadovų ar įprastų tiekėjų pranešimus ar net nuolatines el. pašto grandines. Šis tikslinis sukčiavimas sudaro labai mažą visų el. laiškų procentą, tačiau yra atsakingas už didžiąją dalį rimčiausių saugumo pažeidimų.
Ispanijoje ši problema toli gražu nėra nereikšminga. 2024 m. buvo užregistruota dešimtys tūkstančių kibernetinio saugumo incidentų – tai gerokai daugiau nei ankstesniais metais, ir didelė jų dalis kilo dėl apgaulingų el. laiškų ar žinučių. Neatsitiktinai daugelis vadovų dabar didelę reputacijos ataką ar duomenų nutekėjimą įvardija kaip vieną pagrindinių rizikų savo verslui.
Žmogiškieji apribojimai, rizika ir silpnybės
Nors dirbtinis intelektas siūlo įspūdingų patobulinimų, tai nėra stebuklinga priemonė ar patikimas sprendimas . Jam vis tiek reikalinga žmogaus priežiūra, geri mokymo duomenys ir tvirta kibernetinio saugumo strategija.
Vienas iš istorinių saugumo trūkumų yra žmogaus klaidos konfigūruojant sistemą . Hibridinės aplinkos su viešuoju ir privačiu debesimi, pasenusiomis sistemomis ir naujomis programomis nuoseklios ir saugios konfigūracijos palaikymas yra milžiniška užduotis. Dirbtinis intelektas gali padėti nustatydamas neatitikimus, siūlydamas koregavimus ar net taikydamas automatinius pakeitimus, tačiau visada laikantis kontrolės ir peržiūros sistemos.
Žmonių nuovargis ir neefektyvumas susiduriant su pasikartojančiomis užduotimis taip pat yra problema. Šimtų ar tūkstančių galinių taškų konfigūravimas rankiniu būdu, įspėjimų peržiūra diena iš dienos ar nuolatinis žurnalų tikrinimas galiausiai sumažina bet kurios komandos susikaupimą. Išmanioji automatizacija leidžia šias užduotis perkelti algoritmams, paliekant žmonėms tvarkyti interpretavimą ir sudėtingus sprendimus.
Įspėjimų nuovargis yra dar viena klasikinė problema: per daug nuolatinių pranešimų priverčia analitikus mintyse atsiriboti arba sutelkti dėmesį tik į skubiausius klausimus, paliekant mažiau akivaizdžias, bet ne mažiau pavojingas grėsmes be dėmesio. Dirbtinis intelektas padeda suskirstydamas ir grupuodamas susijusius įvykius bei suskirstydamas juos pagal riziką.
Be to, žmonių komandų galimybės yra ribotos. Kvalifikuotų kibernetinio saugumo ir dirbtinio intelekto / mašininio mokymosi specialistų trūkumas yra pasaulinis, o žmonių mokymas šiose srityse trunka metus. Dirbtiniu intelektu pagrįsti įrankiai leidžia mažoms komandoms valdyti labai sudėtingas aplinkas, tačiau jie nepanaikina žmonių talentų poreikio; jie tiesiog pakeičia talentų atliekamų užduočių tipą.
Kaip dirbtinis intelektas ir mašininis mokymasis iš tikrųjų veikia kibernetinio saugumo srityje
Svarbu atskirti kelis lygmenis. Viena vertus, dirbtinis intelektas yra plati disciplina , kurios pagrindinis tikslas – suteikti mašinoms beveik žmogiškas galimybes: samprotavimą, prisitaikymą ir kūrybiškumą. Mašininis mokymasis patenka į šią sistemą, o gilusis mokymasis, kaip konkretesnė disciplina, taip pat įtraukiamas.
Praktiškai šiandien kibernetinio saugumo srityje dažniausiai naudojamas mašininis mokymasis (ML) , t. y. modeliai, kurie mokosi iš istorinių duomenų, kad galėtų daryti prognozes ir klasifikuoti. Šie modeliai labai gerai atranda modelius, tačiau jie iš tikrųjų „nesupranta“ konteksto taip, kaip tai padarytų žmogus; išsamesnės informacijos galite rasti technologijų vadove.
Mašininis mokymasis orientuotas į konkrečių užduočių tikslumą ir optimizavimą : atsižvelgiant į duomenų rinkinį (pavyzdžiui, ankstesnių atakų žurnalus), jis ieško geriausio būdo atskirti įprastą ir kenkėjišką srautą. Jis nebando rasti „geriausio bendro sprendimo“ saugumo problemai, o siekia maksimaliai padidinti savo našumą atliekant užduotį, kuriai buvo apmokytas.
Gilusis mokymasis (DL) šią idėją plėtoja dar labiau, kurdamas daugiasluoksnius neuroninius tinklus, galinčius modeliuoti labai sudėtingus ryšius. Kibernetinio saugumo srityje šie tinklai naudojami srautui klasifikuoti, anomalijoms aptikti, kenkėjiškam kodui analizuoti ir natūraliai kalbai el. laiškuose, žinutėse ar ataskaitose apdoroti, nors praktiniais tikslais terminas ML dažnai vartojamas bendriau.
ML vertė pasireiškia per įvairius procesus: duomenų klasifikavimą (failų, elgesio ar įvykių žymėjimą kaip gerybinį ar kenkėjišką), klasterizavimą (keisto elgesio grupių be ankstesnių žymėjimų atradimas), veiksmų planų rekomendavimą (atsakomųjų veiksmų siūlymą remiantis ankstesniais sprendimais) arba nuspėjamąjį prognozavimą (incidento ar pažeidžiamumo išnaudojimo tikimybės įvertinimą).
Konkretūs mašininio mokymosi pavyzdžiai kibernetinio saugumo srityje
Siekdami pritaikyti šias idėjas praktiškai, daugelis gamintojų ir tyrimų komandų pademonstravo, kaip mašininis mokymasis (ML) padidina aptikimo galimybes . Gerai žinomas pavyzdys yra pasaulinės analizės grupės, kurios naudoja duomenis iš visame pasaulyje paskirstytų saugumo tinklų, kad apmokytų modelius, kurie atpažįsta naujas pažangias grėsmes, taip žymiai padidindami pažangių nuolatinių atakų (APT) aptikimą.
Plačiai naudojamas automatinis klasifikavimas ir duomenų privatumo reikalavimų laikymasis . Algoritmai žymi informaciją, kurioje yra asmens duomenų, kad būtų lengviau ją valdyti pagal BDAR arba CCPA, o tai leidžia greitai rasti visą su vartotoju susijusią informaciją, jei jis pasinaudoja savo prieigos prie duomenų arba jų ištrynimo teise.
Kita įprasta taikymo sritis – naudotojų elgsenos profilių („Vartotojų elgsenos analizė“) kūrimas , leidžiantis atskirti įprastą darbuotojų veiklą nuo tos, kuri gali rodyti pavogtus prisijungimo duomenis ar kenkėjišką vidinę prieigą. Tokie elementai kaip klavišų paspaudimai, prisijungimo laikas ir pasiekti ištekliai tampa įsibrovėlių aptikimo signalais.
Panašiai, sistemos našumo profiliai kuriami siekiant suprasti, kaip serveris ar kompiuteris turėtų elgtis, kai yra „sveikas“. Jei procesoriaus, atminties, disko ar pralaidumo naudojimas staiga padidėja be aiškios priežasties, sistema gali suaktyvinti įspėjimus arba net izoliuoti įrenginį, kol jis tiriamas.
Ginant svetaines ir API, mašininis mokymasis (ML) naudojamas robotams blokuoti pagal jų elgesį , atskiriant teisėtą srautą iš realių vartotojų nuo automatinių užklausų bangų, kuriomis bandoma perkrauti paslaugą, pavogti turinį arba masiškai patikrinti nutekėjusius prisijungimo duomenis, net bandant slėptis už VPN ar tarpinių serverių.
Generatyvus dirbtinis intelektas, duomenys ir saugūs kanalai
Tačiau intensyvus mašininio mokymosi ir generatyvinio dirbtinio intelekto naudojimas kelia didelių iššūkių, susijusių su pačios dirbtinio intelekto sistemos privatumu ir saugumu . Efektyvių modelių mokymui reikia didelių duomenų kiekių, iš kurių daugelis yra jautrūs arba asmeniniai, o tai prieštarauja tokiems principams kaip „teisė būti pamirštam“.
Viena perspektyviausių tyrimų krypčių – sintetinių duomenų, kurie statistiškai imituotų tikrus duomenis , generavimas, leidžiantis apmokyti modelius neatskleidžiant autentiškos naudotojo informacijos. Tai geriau apsaugo privatumą, nors reikia stebėti šališkumą ir galimą netiesioginį pakartotinį identifikavimą.
Kitas prioritetas – viso dirbtinio intelekto proceso apsauga: nuo duomenų rinkimo ir saugojimo iki modelio diegimo gamyboje . Tai apima patikimą duomenų valdymą, šifravimą, prieigos kontrolę, daugiafaktorinį autentifikavimą, kodo auditą ir nuolatinį stebėjimą, siekiant aptikti klastojimą ar neteisėtą naudojimą.
Jei dirbtinio intelekto modelis yra manipuliuojamas, pavyzdžiui, naudojant užterštus duomenis, jis gali neaptikti tam tikrų grėsmių arba įvesti pavojingų šališkumų priimant sprendimus . Todėl modelių ir jų mokymo duomenų vientisumo apsauga dabar yra esminė kibernetinio saugumo dalis. Tai ypač aktualu tokiuose kontekstuose kaip skaitmeniniai dvyniai.
Tuo pačiu metu daugelis ekspertų ragina sukurti kibernetinio saugumo dirbtinio intelekto reguliavimo sistemas ir konkrečius standartus , apimančius viską – nuo atsakomybės už klaidas iki minimalaus skaidrumo, kurio reikalaujama sistemose, priimančiose svarbius sprendimus, taip pat testavimo ir periodinio audito reikalavimus.
Rekomenduojami dirbtinio intelekto valdomi kibernetinio saugumo įrankiai
Be bendrinių kategorijų, yra ir konkrečių sprendimų, kurie išgarsėjo dėl intensyvaus dirbtinio intelekto ir mašininio mokymosi naudojimo įvairiuose saugumo aspektuose.
Namų ir smulkaus verslo sektoriuose tam tikri produktai yra skirti pirmiausia „Mac“ ir „Windows“ naudotojams , siūlydami apsaugą nuo virusų, tinklo grėsmių, išpirkos reikalaujančių programų ir kitų kenkėjiškų programų. Jų skiriamasis bruožas dažnai slypi dirbtinio intelekto naudojime naujiems variantams aptikti atliekant elgsenos analizę ir teikiant suasmenintus patarimus, pritaikytus kiekvieno naudotojo naudojimo modeliams.
Įmonių segmente kai kurie gamintojai sukūrė debesijos pagrindu veikiančias platformas, kurios naudoja dirbtinį intelektą galinių taškų aptikimui ir reagavimui . Šie sprendimai kiekviename įrenginyje įdiegia lengvą jutiklį, renka išsamią telemetrijos informaciją ir siunčia ją į centrinę platformą, kurioje pažangūs modeliai analizuoja neįprastą elgesį, koreliuoja įvykius keliuose įrenginiuose ir automatizuoja reagavimą.
Kiti pasiūlymai daugiausia dėmesio skiria tinklu pagrįstam aptikimui, atsisakant tradicinio parašais pagrįsto metodo . Nuolatinės srauto analizės būdu šios sistemos aptinka šoninį judėjimą, eksfiltraciją ir vadovavimo bei kontrolės veiklą, nuolat mokydamosi prisitaikyti prie naujų tipų atakų, kurios nėra aprašytos tradiciniuose indikatorių sąrašuose.
Atsirado net nemokamų dirbtinio intelekto valdomų įrankių , kurie specializuojasi galimų sukčiavimo atvejų analizėje . Vartotojai gali įkelti ekrano kopiją, nuorodą ar įtartiną tekstą, o sistema palygina jo turinį su didele žinomų sukčiavimo atvejų duomenų baze, naudodama NLP, kad nustatytų apgaulingus modelius: perdėtą skubumą, nerealistiškus pasiūlymus, prašymus pateikti asmeninę ar banko informaciją ir pan.
Visais atvejais svarbiausia yra tai, kad dirbtinis intelektas ne tik reaguoja į žinomas grėsmes, bet ir nuolat mokosi iš aplinkos , koreguodamas savo aptikimo galimybes ir mažindamas priklausomybę nuo juodųjų sąrašų ar griežtų taisyklių, kurios labai greitai pasensta.
Pasiruošimas dirbtinio intelekto / mašininio mokymosi ateičiai kibernetinio saugumo srityje
Žvelgiant į ateitį, dirbtinio intelekto, mašininio mokymosi ir generatyvinio dirbtinio intelekto derinys žada daug aktyvesnę ir automatizuotesnę saugumo ekosistemą , tačiau taip pat ir scenarijų, kuriame užpuolikai turės tokius pat sudėtingus įrankius savo kampanijoms vykdyti.
Tikimasi, kad ateinančiais metais bus vis tikslesnių ir suasmenintų dirbtinio intelekto valdomų atakų, galinčių apeiti daugelį tradicinių gynybos būdų, taip pat tikimasi, kad gynėjai vis dažniau naudos dirbtinį intelektą beveik realiuoju laiku vykdomam aptikimui, analizei ir reagavimui.
Atsižvelgiant į tai, įvairaus dydžio organizacijos turės investuoti į savo technologijų atitikimą ateičiai : atnaujinti infrastruktūrą, diegti patikrintus dirbtinio intelekto pagrindu veikiančius įrankius ir atsisakyti pasenusių sistemų, kurios kelia nuolatinę išnaudojimo riziką.
Tuo pačiu metu labai svarbu pripažinti, kad dirbtinis intelektas turėtų papildyti žmonių komandas, o ne jas pakeisti . Kūrybiškumas, kritinis mąstymas, verslo nuovoka ir etinė atsakomybė išliks išskirtinai žmogiški. Specialistams reikės mokymų, kad suprastų, kaip šie modeliai veikia, kaip jie interpretuoja jų rezultatus ir kaip juos efektyviai valdyti.
Galiausiai, esminis komponentas bus reguliavimo pritaikymas duomenų, privatumo ir dirbtinio intelekto naudojimo srityje. Vidaus politikos atnaujinimas ir prisitaikymas prie besikeičiančių teisės aktų nėra neprivalomas, ypač reguliuojamuose sektoriuose, kur saugumo pažeidimas gali užtraukti kelių milijonų dolerių baudas ir sunkiai atitaisomą žalą reputacijai.
Viskas rodo ateitį, kurioje žmonių ir mašinų bendradarbiavimas bus skaitmeninės gynybos kertinis akmuo : dirbtinis intelektas, vykdantis nuolatinę stebėseną, atliekantis masinę duomenų analizę ir pirmąjį automatizuotą reagavimą, o kibernetinio saugumo komandos, priimančios strateginius sprendimus, tobulinančios modelius ir kuriančios pasaulines strategijas, skirtas sistemoms apsaugoti nuolat besikeičiančioje grėsmių aplinkoje.
