- Dirbtinis intelektas leidžia aptikti, susieti ir reaguoti į didelio masto kibernetines grėsmes, sumažinant klaidingai teigiamus rezultatus ir reakcijos laiką.
- Generatyvusis dirbtinis intelektas sustiprina tiek gynybą (modeliavimą, sintetinius duomenis, automatizavimą), tiek atakas (pažangų sukčiavimą, giluminį klastojimą, balso klonavimą).
- Mašininis mokymasis taikomas duomenų klasifikavimui, elgsenos analizei, vartotojų profiliavimui ir robotų blokavimui, taip gerinant apsaugą nepakeičiant žmonių komandų.
- Būsimoji sėkmė priklauso nuo paties dirbtinio intelekto srauto saugumo, duomenų reglamentų laikymosi ir automatizavimo derinimo su žmogaus priežiūra bei sprendimais.
Hiperskaitmeniniame pasaulyje Kibernetinis saugumas tapo pagrindiniu saugos diržu ir tai yra raktas į Saugumas ir privatumas skaitmeniniame amžiuje Įmonėms, vyriausybinėms agentūroms ir paprastiems piliečiams. Kiekviena nauja debesijos paslauga, kiekvienas prijungtas įrenginys ir kiekviena įdiegta programa plečia atakų paviršių, kuriuo gali pasinaudoti kibernetiniai nusikaltėliai.
Tuo tarpu, atvykus dirbtinis intelektas (DI), mašininis mokymasis (ML) ir generatyvinis DI Tai visiškai pakeitė žaidimo taisykles. Šios technologijos ne tik sustiprina gynybą, bet ir yra naudojamos užpuolikų, kad pradėtų didesnes, tikslesnes ir sunkiau aptinkamas kampanijas, todėl labai svarbu iki galo suprasti, ką jos siūlo, kaip jos veikia ir kur slypi jų apribojimai.
Kaip dirbtinis intelektas keičia kibernetinį saugumą
Dirbtinis intelektas (DI) sukėlė kokybinį šuolį incidentų aptikimo, tyrimo ir reagavimo į juos srityje.Tai ypač aktualu aplinkose, kuriose kasdien generuojama milijonai saugumo įvykių. Tokios platformos kaip SIEM, XDR, NDR ar modernūs galinių taškų sprendimai būtų praktiškai nevaldomi be algoritmų, gebančių filtruoti triukšmą ir nustatyti prioritetą tam, kas iš tiesų svarbu.
Daugumoje organizacijų Apsaugos sistemos kas minutę užfiksuoja tūkstančius įvykiųKeisti ryšiai, pakartotiniai prisijungimai, įtartini atsisiuntimai, konfigūracijos pakeitimai ir kt. Dauguma šių įspėjimų yra nekenksmingi, tačiau keli iš jų slepia akivaizdžiai kenkėjišką elgesį. Būtent čia sužiba dirbtinis intelektas, kuris išmoksta atskirti teisėtus modelius nuo tų, kurie rodo tikrą ataką.
Mašininio mokymosi modeliai koreliuoja veikla, kuri, vertinama atskirai, atrodo nekenksminga (prisijungimas ne darbo valandomis, suspaustas failas, prieiga prie konkretaus serverio), tačiau kartu jie sudaro tipišką išpirkos reikalaujančios programinės įrangos, horizontalios migracijos ar duomenų nutekėjimo pėdsaką; todėl labai svarbu turėti vietinės atsarginės kopijos.
Be to, pažangiausi sprendimai integruoja generatyviniai dirbtinio intelekto varikliai, gebantys rašyti suprantamas ataskaitas natūralia kalbaTai apibendrina, kas įvyko, galimas poveikis, paveiktos sistemos ir rekomenduojami veiksmai. Tai žymiai sutrumpina analizės laiką ir palengvina netechniniams vadovams rizikos supratimą ir sprendimų priėmimą.
Kitas svarbus indėlis yra Automatinis pažeidžiamumų ir nežinomų išteklių identifikavimasĮrenginiai, be leidimo jungiami prie tinklo, neinventorizuota debesijos programa, netaisytos operacinės sistemos arba prastai apsaugoti jautrūs duomenys. Kryžminėmis nuorodomis į inventorius, tinklo srautus ir politikas, dirbtinis intelektas atskleidžia anksčiau nepastebėtas saugumo spragas.
Nuo tada ji taip pat tapo tiesiogine SOC komandų sąjungininke išverčia sudėtingas užklausas ir techninius rezultatus į kasdienę kalbąJaunesnieji analitikai gali tirti incidentus net neįvaldę pažangių užklausų kalbų, o pati priemonė siūlo taisomuosius veiksmus, gaires, kaip suvaldyti ataką, ir geriausią praktiką, kaip užkirsti kelią jos pasikartojimui.
Apibendrindami ir analizuodami duomenis iš įvairių šaltinių – saugumo žurnalų, tinklo srauto, išorinių grėsmių informacijos, vartotojų elgesio ir galinių taškų – Dirbtinis intelektas siūlo vieningą saugumo būsenos vaizdą, įskaitant valdymą tinklo įrangaišryškinant atakų modelius, kurių būtų neįmanoma pamatyti rankiniu būdu. Ši sintezės galimybė chaotiškus duomenis paverčia išties veiksminga informacija.
Viena sritis, kurioje dirbtinis intelektas daro didelį skirtumą, yra klaidingai teigiamų ir klaidingai neigiamų rezultatų sumažinimasNaudodami šablonų atpažinimą, konteksto analizę, anomalijų aptikimą ir nuolatinį mokymąsi, modeliai koreguoja savo jautrumą, kad sumažintų tiek nesvarbius įspėjimus, tiek nepastebėtas grėsmes, o tai yra labai svarbu kovojant su apsaugos darbuotojų patiriamu įspėjimų nuovargiu.
Galiausiai, dirbtinis intelektas suteikia mastelio keitimas, kuriam negali prilygti vien žmogaus darbasJis geba realiuoju laiku apdoroti didžiulius duomenų srautus, mokytis iš kiekvieno incidento ir prisitaikyti prie naujų atakų taktikų. Augant kibernetinių grėsmių kiekiui ir infrastruktūros sudėtingumui, ši galimybė plėstis nedidinant personalo išlaidų tampa nepakeičiama.
Praktinis dirbtinio intelekto taikymas kibernetinio saugumo srityje
Praktikoje, Dirbtinis intelektas jau yra beveik kiekviename gynybos lygmenyje organizacijos. Nuo naudotojų autentifikavimo iki anomalios elgsenos aptikimo – jų vaidmuo yra daug daugiau nei paprastas technologinis „papildomas asmuo“.
Pavyzdžiui, tapatybės valdymo srityje Dirbtinis intelektas padeda sustiprinti slaptažodžių apsaugą ir autentifikavimą, aptinkant neįprastus naudojimo būdus, prieigą iš neįprastų vietų ar įrenginių, kurie anksčiau nebuvo matomi, ypač mobiliojoje aplinkoje, pvz. „Android“ ir „iOS“ saugumasTai taip pat prisideda prie adaptyvių autentifikavimo sistemų, padidindama saugumo lygį, kai kažkas „neatitinka“ vartotojo modelio.
Srityje sukčiavimo ir tapatybės vagysčių aptikimas ir prevencija (sukčiavimas apsimetant kitais asmenimis, tikslinis sukčiavimas apsimetant kitais asmenimis, „vishing“, SMS žinučių siuntimas, QR žinučių siuntimas ir kt.), algoritmai analizuoja turinį, rašymo stilių, įterptąsias nuorodas ir metaduomenis, kad atskirtų teisėtus pranešimus nuo vis sudėtingesnių apgaulės bandymų, pasitelkiant generatyvinį dirbtinį intelektą, ir yra pagrindinė šių sistemų dalis. apsauga internete.
Sritys, pažeidžiamumų valdymas ir tinklo saugumas Jie taip pat gauna milžinišką naudą. ML varikliai prioritetizuoja saugumo spragas pagal jų faktinį išnaudojimo galimybes ir konkretų organizacijos kontekstą, o dirbtinio intelekto pagrįstos sistemos stebi srautą, ieškodamos anomalių modelių, ryšio su kenkėjiškomis sritimis ar judėjimo tarp serverių, ir valdo raktus su... aparatinės įrangos apsaugos moduliai.
Elgesio analizė tapo dar vienu svarbiu privalumu: Elgesio profiliai kuriami tiek vartotojams, tiek sistemomskad bet koks svarbus nukrypimas – keisti laikai, neįprasta prieiga prie jautrių duomenų, neįprasti atsisiuntimų kiekiai – suaktyvintų įspėjimą arba net automatinį atsaką.
Dirbtinio intelekto valdomi kibernetinio saugumo įrankiai
Teorija gera ir gera, bet tikrasis poveikis matomas būtent ten, kur konkretūs sprendimai, kurie jau integruoja dirbtinį intelektą arba mašininį mokymąsi kaip centrinę jos veiklos dalį. Tarp svarbiausių galime išskirti kelias grupes ir kai kuriuos kiekvienos kategorijos reprezentatyvius produktus.
Visų pirma, mes randame Dirbtiniu intelektu paremti galinių taškų saugumo sprendimaiŠie varikliai gali blokuoti nežinomas kenkėjiškas programas, analizuodami jų elgseną realiuoju laiku, nesiremdami vien tik parašais. Daugelyje naujos kartos antivirusinių programų yra šie varikliai, derinantys statinę ir dinaminę analizę su nuspėjamaisiais modeliais.
Los Dirbtiniu intelektu pagrįstos naujos kartos užkardos (NGFW) Jie teikia išsamią srauto analizę, programų identifikavimą, įsilaužimų aptikimą ir intelektualų segmentavimą. Dirbtinis intelektas padeda aptikti neįprastus ryšio modelius, slaptus tunelius ar bandymus apeiti politiką, kurių tradicinė užkarda nepastebėtų. Perimetro ir segmentavimo architektūroms rekomenduojama peržiūrėti... maršrutizatoriaus analizė.
Centralizuoto stebėjimo komponento platformose SIEM (saugumo informacija ir įvykių valdymas) Jie išsivystė į daug išmanesnius analitinius variklius. Jie koreliuoja įvykius iš šimtų šaltinių, taiko elgesio modelius ir teikia pirmenybę įtartiniems incidentams, taip sumažindami SOC rankų darbo krūvį.
Jie taip pat įgijo jėgų Dirbtinio intelekto valdomi debesijos saugumo sprendimaiŠie moduliai, stebintys IaaS, PaaS ir SaaS aplinkas, aptinka netinkamas konfigūracijas, anomalią API prieigą ir neįprastus judėjimus tarp regionų ar paskyrų. Kelių debesų infrastruktūrose šie moduliai yra labai svarbūs norint išlaikyti matomumą.
Galiausiai, yra įrankiai, skirti Dirbtinio intelekto valdoma NDR (tinklo aptikimas ir reagavimas)Šie įrankiai yra specialiai sukurti kibernetinėms grėsmėms aptikti atliekant išsamią tinklo srauto analizę. Jie identifikuoja komandinės eilutės atakas, įsilaužimus, vidinius nuskaitymus ir robotų veiklą bei siūlo automatinius atsakymus, pvz., įrenginių izoliavimą arba ryšių blokavimą.
Generatyvusis dirbtinis intelektas: nauja kibernetinio saugumo sritis
Sutrikimas generatyvinis dirbtinis intelektas (pvz., GPT modeliai arba GAN) Tai atvėrė visiškai naują frontą kibernetinio saugumo srityje. Šie modeliai ne tik analizuoja duomenis, bet ir gali generuoti turinį: tekstą, vaizdus, garso, vaizdo įrašus ar net kodą.
Gynybinėje pusėje generatyvinis dirbtinis intelektas leidžia imituoti sudėtingas kibernetines atakas, siekiant patikrinti gynybą, generuoti sintetinius duomenis sistemoms apmokyti nepakenkiant realiai informacijai ir sukurti itin realistiškus incidentų reagavimo komandų mokymo scenarijus.
SOC aplinkose ir SIEM platformose generatyviniai modeliai Jie mokosi iš įprasto tinklo elgesio ir jie nurodo subtilius nukrypimus, kurie gali rodyti kenkėjiškas programas, išpirkos reikalaujančias programas ar slaptą srautą, taip žymiai pagerindami anomalijų aptikimą, palyginti su statinėmis taisyklėmis.
Be to, ši technologija prisideda prie pažangi saugumo užduočių automatizacijaNuo optimizuotų užkardos taisyklių siūlymo iki incidentų reagavimo scenarijų generavimo ir net aiškių vadovų ataskaitų rašymo iš sudėtingų techninių žurnalų – generatyvinis dirbtinis intelektas veikia kaip savotiškas specializuotas asistentas, sutaupantis valandų valandas pasikartojančio darbo.
Jo poveikis švietimui taip pat milžiniškas, nes Tai leidžia atkurti realistiškas atakos aplinkas, kurios dinamiškai prisitaiko. studentų lygmeniu, derinant skirtingus vektorius (sukčiavimą apsimetant kitais asmenimis, horizontaliąja migracija, privilegijų eskalavimu, eksfiltracija), siekiant lavinti tiek techninius įgūdžius, tiek sprendimų priėmimą esant spaudimui.
Kibernetinės atakos, kurias skatina generatyvinis dirbtinis intelektas
Deja, Kibernetiniai nusikaltėliai labai greitai išnaudojo generatyvinį dirbtinį intelektą savo naudai.Anksčiau jiems reikėjo laiko, techninių žinių ir tam tikrų socialinių įgūdžių, o dabar jie turi įrankius, kurie automatizuoja didelę dalį darbo.
Ryškus pavyzdys yra pažangių teksto generatoriųJie geba rašyti melagingas naujienas, sukčiavimo el. laiškus ar šantažavimo pranešimus tobula ispanų kalba, be rašybos klaidų ar keistų frazių. Tai labai padidina tikimybę apgauti auką, nes el. laiškas „skamba“ kaip teisėtas banko, socialinio tinklo ar viešosios įstaigos pranešimas.
Įrankiai kurti vaizdo įrašus ir giliuosius klaidinimusŠios priemonės leidžia vartotojams uždėti veidus ant kitų kūnų arba keisti išraiškas ir žodžius tikruose vaizdo įrašuose. Naudojant specializuotą programinę įrangą, galima sukurti netikrus politikų, vadovų ar šeimos narių vaizdo įrašus, kurie yra labai įtikinami visiems, kas juos gauna.
La balso klonavimas Tai tapo prieinamiau dėl modelių, kurie vos per kelias minutes tikro garso gali beveik idealiai imituoti žmogaus balso toną, akcentą ir pauzes. Šie žemi balsai leidžia skambinti telefonu taip, lyg kalbėtų šeimos narys, įmonės vadovas ar banko vadybininkas.
Vienas iš labiausiai nerimą keliančių atvejų yra tas, ekonominis sukčiavimas naudojant klonuotą šeimos nario balsąAuka sulaukia skambučio iš asmens, kuris skamba lygiai taip pat, kaip jos vaikas, partneris ar artimas giminaitis, prašydamas skubiai pervesti pinigus dėl tariamos avarinės situacijos. Dėl emocinio spaudimo ir tariamo balso autentiškumo daugelis galiausiai atlieka dideles permokas į užpuolikų kontroliuojamas sąskaitas.
Dirbtinio intelekto poveikis sukčiavimui ir socialinei inžinerijai
Socialinė inžinerija, apimanti visas technikas, skirtas manipuliuoti žmonėmis ir įtikinti juos daryti tai, kas jiems kenkiaJis rado pavojingą sąjungininką – generatyvinį dirbtinį intelektą. Tai, kam anksčiau reikėjo valandų valandas rankinio tyrimo, dabar gali būti automatizuota dideliu mastu.
Tradiciškai, pradedant tikslinę sukčiavimo kampaniją, reikėjo kruopščiai ištirti aukąJų pareigos, santykiai, interesai, tiekėjai ir kt. Tai buvo brangu ir daug laiko reikalaujanti veikla, todėl sudėtingos atakos buvo retesnės. Šiandien dirbtinis intelektas gali per kelias minutes peržiūrėti socialinę žiniasklaidą, atviruosius šaltinius ir ankstesnius el. laiškus, kad sukurtų labai išsamius profilius.
Kampanijos paįvairėjo: be tradicinio pašto, turime ir SMS siuntimas (tekstinės ir momentinės žinutės), sukčiavimas socialiniuose tinkluose, kenkėjiški telefono skambučiai (vishing), „pamiršti“ USB atmintinės, skirtos suvilioti vartotoją (baiting) arba vis dažniau naudojami manipuliuojami QR kodai (QRishing), kurie nukreipia į netikras svetaines arba įdiegia kenkėjiškas programas.
Laikui bėgant, užpuolikai patobulino savo taktiką: nuo labai bendrų masinių pranešimų jie perėjo prie hiperpersonalizuoti el. laiškai, imituojantys tikrus vidinius procesusTai apima pranešimus iš vadovų ar nuolatinių tiekėjų, arba net nuolatinius el. pašto grandinius. Šis sukčiavimo atvejis sudaro labai mažą visų el. laiškų procentą, tačiau jis yra atsakingas už didžiąją dalį rimčiausių saugumo pažeidimų.
Ispanijoje problema toli gražu nėra nereikšminga. 2024 m. buvo užregistruota [atvejų skaičius]. dešimtys tūkstančių kibernetinio saugumo incidentųTai reikšmingas padidėjimas, palyginti su praėjusiais metais, ir didelė dalis šių incidentų kyla dėl apgaulingų el. laiškų ar žinučių. Neatsitiktinai daugelis vadovų dabar didelę reputacijos ataką ar duomenų nutekėjimą įvardija kaip vieną pagrindinių rizikų savo verslui.
Žmogiškieji apribojimai, rizika ir silpnybės
Nors dirbtinis intelektas atneša įspūdingų patobulinimų, Tai nėra magiškas ar neklystantis sprendimasJam vis dar reikalinga žmonių priežiūra, geri mokymo duomenys ir tvirta kibernetinio saugumo strategija.
Vienas iš istorinių saugumo trūkumų yra žmogaus klaida sistemos konfigūracijojeHibridinės aplinkos su viešuoju ir privačiu debesimi, pasenusiomis sistemomis ir naujomis programomis nuoseklios ir saugios konfigūracijos palaikymas yra milžiniška užduotis. Dirbtinis intelektas gali padėti nustatant neatitikimus, siūlant koregavimus ar net taikant automatinius pakeitimus, tačiau visada laikantis kontrolės ir peržiūros sistemos.
La žmogaus nuovargis ir neefektyvumas susidūrus su pasikartojančiomis užduotimis Jie taip pat yra problema. Rankinis šimtų ar tūkstančių galinių taškų konfigūravimas, įspėjimų peržiūra kiekvieną dieną ar nuolatinis žurnalų tikrinimas galiausiai sumažina bet kurios komandos susikaupimą. Išmanioji automatizacija leidžia šias užduotis perkelti algoritmams, paliekant žmonėms tvarkyti interpretavimą ir sudėtingus sprendimus.
Skambutis budrumo nuovargis Tai dar viena klasikinė problema: per daug nuolatinių pranešimų priverčia analitikus mintyse atsiriboti arba sutelkti dėmesį tik į skubiausius klausimus, paliekant mažiau akivaizdžias, bet ne mažiau pavojingas grėsmes be dėmesio. Dirbtinis intelektas padeda suskirstydamas ir grupuodamas susijusius įvykius bei suskirstydamas juos pagal riziką.
Be to, žmonių komandų galimybės yra ribotos. Kvalifikuotų kibernetinio saugumo ir dirbtinio intelekto / mašininio mokymosi specialistų trūkumas Tai pasaulinis reiškinys, ir žmonių mokymas šiose srityse užtrunka metų metus. Dirbtiniu intelektu pagrįsti įrankiai leidžia mažoms komandoms valdyti labai sudėtingas aplinkas, tačiau jie nepanaikina žmonių talentų poreikio; jie tiesiog pakeičia talentų atliekamų užduočių tipus.
Kaip dirbtinis intelektas ir mašininis mokymasis iš tikrųjų veikia kibernetinio saugumo srityje
Naudinga atskirti kelis lygius. Viena vertus, yra dirbtinis intelektas kaip plati disciplinakurio galutinis tikslas būtų aprūpinti mašinas beveik žmogaus gebėjimais: mąstymu, prisitaikymu ir kūrybiškumu. Mašininis mokymasis ir, kaip konkretesnė jo dalis, gilusis mokymasis patenka į šią sistemą.
Praktiškai kibernetinio saugumo srityje šiandien dažniausiai naudojama mašininis mokymasis (ML)Tai yra modeliai, kurie mokosi iš istorinių duomenų, kad galėtų daryti prognozes ir klasifikuoti. Šie modeliai labai gerai atranda modelius, tačiau jie iš tikrųjų „nesupranta“ konteksto taip, kaip tai padarytų žmogus; daugiau informacijos žr. technologijų vadovas.
ML dėmesys sutelkiamas į konkrečių užduočių tikslumas ir optimizavimasPateiktas duomenų rinkinys (pavyzdžiui, ankstesnių atakų žurnalai), jis ieško geriausio būdo atskirti įprastą ir kenkėjišką srautą. Jis nebando rasti „geriausio bendro sprendimo“ saugumo problemai, o siekia maksimaliai padidinti savo našumą atliekant užduotį, kuriai buvo apmokytas.
Gilusis mokymasis (DL) šią idėją plėtoja dar labiau, kurdamas daugiasluoksnius neuroninius tinklus, galinčius modeliuoti labai sudėtingus ryšius. Kibernetinio saugumo srityje šie tinklai naudojami klasifikuoti srautą, aptikti anomalijas, analizuoti kenkėjišką kodą arba apdoroti natūralią kalbą el. laiškuose, žinutėse ar ataskaitose, nors praktiniais tikslais tai dažniausiai vadinama ML.
ML vertė realizuojama per įvairius procesus: duomenų klasifikacija (failų, elgesio ar įvykių žymėjimas kaip nekenksmingų arba kenkėjiškų), klasterizavimas (atrandant keistas elgesio grupes be išankstinių etikečių), veiksmų planų rekomendacijos (siūlyti atsakomuosius veiksmus remiantis ankstesniais sprendimais) arba nuspėjamosios prognozės (įvertinkite incidento įvykimo arba pažeidžiamumo išnaudojimo tikimybę).
Konkretūs mašininio mokymosi pavyzdžiai kibernetinio saugumo srityje
Siekdami įgyvendinti šias idėjas praktiškai, daugelis gamintojų ir tyrimų grupių pademonstravo, Kaip mašininis mokymasis padidina aptikimo galimybesGerai žinomas pavyzdys yra pasaulinės analizės grupės, kurios naudoja duomenis iš visame pasaulyje išsibarsčiusių apsaugos tinklų, kad apmokytų modelius, kurie atpažįsta naujas pažangias grėsmes, taip žymiai padidindamos pažangių nuolatinių atakų (APT) aptikimą.
Labai plačiai paplitęs naudojimas yra automatinis klasifikavimas ir duomenų privatumo laikymasisAlgoritmai žymi informaciją, kurioje yra asmens duomenų, kad būtų lengviau juos valdyti pagal BDAR arba CCPA, ir leidžia greitai rasti viską, kas susiję su vartotoju, jei jis pasinaudoja savo prieigos prie duomenų arba jų ištrynimo teise.
Kitas įprastas pritaikymas yra statyba naudotojų elgsenos profiliai (naudotojų elgsenos analizė)Šie elementai leidžia atskirti įprastą darbuotojų veiklą nuo veiklos, kuri gali rodyti pavogtus prisijungimo duomenis arba kenkėjišką vidinę prieigą. Tokios funkcijos kaip klavišų paspaudimai, prisijungimo laikas ir pasiekti ištekliai tampa įsibrovėlių aptikimo signalais.
Panašiai jie yra sukurti sistemos našumo profiliai Suprasti, kaip serveris ar kompiuteris turėtų elgtis, kai yra „sveikas“. Jei procesoriaus, atminties, disko ar pralaidumo naudojimas staiga padidėja be aiškios priežasties, sistema gali suaktyvinti įspėjimus arba net izoliuoti įrenginį, kol jis tiriamas.
Ginant svetaines ir API, mašininis mokymasis naudojamas robotų blokavimas pagal jų elgesįatskiriant teisėtą srautą iš realių vartotojų nuo automatinių užklausų bangų, kuriomis bandoma perkrauti paslaugą, pavogti turinį arba masiškai patikrinti nutekėjusius prisijungimo duomenis, net bandant pasislėpti už VPN ar tarpinių serverių.
Generatyvus dirbtinis intelektas, duomenys ir saugūs kanalai
Tačiau intensyvus mašininio mokymosi ir generatyvinio dirbtinio intelekto naudojimas kelia klausimą: dideli iššūkiai, susiję su pačios dirbtinio intelekto sistemos privatumu ir saugumuNorint apmokyti efektyvius modelius, reikia didelių duomenų kiekių, iš kurių daugelis yra jautrūs arba asmeniniai, o tai prieštarauja tokiems principams kaip „teisė būti pamirštam“.
Viena perspektyviausių darbo sričių yra generuoti sintetinius duomenis, kurie statistiškai imituoja tikrus duomenisTai leidžia modelius apmokyti neatskleidžiant autentiškos naudotojo informacijos. Taip geriau išsaugomas privatumas, nors reikia stebėti šališkumą ir galimą netiesioginį pakartotinį identifikavimą.
Kitas prioritetas – užtikrinti visus Dirbtinio intelekto srautas: nuo duomenų rinkimo ir saugojimo iki modelio diegimo gamybojeTai apima patikimą duomenų valdymą, šifravimą, prieigos kontrolę, daugiafaktorinį autentifikavimą, kodo auditą ir nuolatinį stebėjimą, siekiant aptikti klastojimą ar neteisėtą naudojimą.
Jei dirbtinio intelekto modelis yra manipuliuojamas, pavyzdžiui, naudojant užterštus duomenis, Jis gali neaptikti tam tikrų grėsmių arba įvesti pavojingų šališkumų priimant sprendimus.Todėl modelių ir jų mokymo duomenų vientisumo apsauga dabar yra esminė kibernetinio saugumo dalis. Tai ypač aktualu tokiose situacijose kaip skaitmeniniai dvyniai.
Tuo tarpu daugelis ekspertų tvirtina, Dirbtinio intelekto kibernetinio saugumo reguliavimo sistemos ir konkretūs standartai, kurie apima viską – nuo atsakomybės už klaidas iki minimalaus skaidrumo, reikalaujamo sistemose, priimančiose svarbius sprendimus, įskaitant testavimo ir periodinio audito reikalavimus.
Rekomenduojami dirbtinio intelekto valdomi kibernetinio saugumo įrankiai
Be bendrinių kategorijų, yra ir konkrečių sprendimų, kurie Jie išgarsėjo dėl intensyvaus dirbtinio intelekto naudojimo. ir mašininį mokymąsi įvairiuose saugumo frontuose.
Buitinių ir smulkaus verslo sektoriuose tam tikri produktai pirmiausia skirti „Mac“ ir „Windows“ naudotojaisiūlo apsaugą nuo virusų, tinklo grėsmių, išpirkos reikalaujančių programų ir kitų kenkėjiškų programų. Jo išskirtinė vertė paprastai slypi dirbtinio intelekto naudojime naujiems variantams aptikti atliekant elgsenos analizę ir teikiant suasmenintus patarimus, pritaikytus kiekvieno vartotojo naudojimo modeliams.
Įmonių segmente kai kurie gamintojai sukūrė debesijos pagrindu sukurtos platformos, kurios naudoja dirbtinį intelektą galinių taškų aptikimui ir reagavimuiŠie sprendimai kiekviename įrenginyje įdiegia lengvą jutiklį, renka išsamią telemetriją ir siunčia ją į centrinę platformą, kurioje pažangūs modeliai analizuoja neįprastą elgesį, koreliuoja įvykius keliuose įrenginiuose ir automatizuoja atsakymus.
Kiti pasiūlymai daugiausia skirti tinklo pagrindu veikiantis aptikimas, atsisakant klasikinio parašo metodoNuolat analizuodamos srautą, šios sistemos aptinka šoninį judėjimą, eksfiltraciją ir vadovavimo bei kontrolės veiklą, nuolat mokydamosi prisitaikyti prie naujų tipų atakų, kurios nėra aprašytos tradiciniuose indikatorių sąrašuose.
Jie netgi atsirado Nemokami dirbtinio intelekto valdomi įrankiai, skirti analizuoti galimas sukčiavimo operacijasVartotojas gali įkelti ekrano kopiją, nuorodą arba įtartiną tekstą, o sistema palygina jo turinį su didele žinomų sukčiavimo atvejų duomenų baze, naudodama NLP, kad nustatytų apgaulės modelius: perdėtą skubumą, nerealistiškus pasiūlymus, prašymus pateikti asmeninius ar banko duomenis ir kt.
Visais atvejais svarbiausia yra tai, kad dirbtinis intelektas Jis ne tik reaguoja į žinomas grėsmes, bet ir nuolat mokosi iš aplinkos., koreguodama aptikimo galimybes ir mažindama priklausomybę nuo juodųjų sąrašų ar griežtų taisyklių, kurios labai greitai pasensta.
Pasiruošimas dirbtinio intelekto / mašininio mokymosi ateičiai kibernetinio saugumo srityje
Žvelgiant į ateitį, dirbtinio intelekto, mašininio mokymosi ir generatyvinio dirbtinio intelekto derinys žada daug aktyvesnė ir automatizuota saugumo ekosistemaTačiau tai taip pat scenarijus, kai užpuolikai turi tokius pat sudėtingus įrankius savo kampanijoms sustiprinti.
Tikimasi, kad per ateinančius kelerius metus bus vis tikslesnių ir suasmenintų dirbtinio intelekto atakųgalintis apeiti daugelį tradicinių gynybos mechanizmų, taip pat padidėjęs DI naudojimas gynėjų beveik realiuoju laiku atliekamam aptikimui, analizei ir reagavimui.
Atsižvelgiant į tai, įvairaus dydžio organizacijos turės Investuokite į savo technologijų atitikimą ateičiaiatnaujinti infrastruktūrą, diegti patikrintus dirbtinio intelekto pagrindu veikiančius įrankius ir atsisakyti pasenusių sistemų, kurios kelia nuolatinę išnaudojimo riziką.
Tuo pačiu metu svarbu daryti prielaidą, kad DI Tai turėtų papildyti žmonių komandas, o ne jas pakeisti.Kūrybiškumas, kritinis mąstymas, verslo nuovoka ir etinė atsakomybė išliks išskirtinai žmogiškos savybės. Specialistams reikės mokymų, kad suprastų, kaip šie modeliai veikia, kaip interpretuoti jų rezultatus ir kaip juos efektyviai valdyti.
Galiausiai, esminis komponentas bus reguliavimo pritaikymas duomenų, privatumo ir dirbtinio intelekto naudojimo srityse. Atnaujinti vidaus politiką ir laikytis besikeičiančių teisės aktų Tai nėra neprivaloma, ypač reguliuojamuose sektoriuose, kur saugumo pažeidimas gali užtraukti kelių milijonų dolerių baudas ir sunkiai atitaisomą žalą reputacijai.
Viskas rodo į ateitį, kurioje Žmonių ir mašinų bendradarbiavimas bus skaitmeninės gynybos kertinis akmuoDirbtinis intelektas tvarko nuolatinį stebėjimą, masinę duomenų analizę ir pradinį automatizuotą reagavimą, o kibernetinio saugumo komandos priima strateginius sprendimus, tobulina modelius ir kuria pasaulines strategijas, kad sistemos būtų saugios nuolat besikeičiančioje grėsmių aplinkoje.
