Espert taċ-ċibersigurtà li janalizza t-theddid bl-użu ta' għodod tal-IA ġenerattiva.

Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà?

Introduzzjoni

L-IA Ġenerattiva – sistemi ta’ intelliġenza artifiċjali kapaċi joħolqu kontenut jew tbassir ġdid – qed titfaċċa bħala forza trasformattiva fiċ-ċibersigurtà. Għodod bħall-GPT-4 ta’ OpenAI wrew il-ħila li janalizzaw dejta kumplessa u jiġġeneraw test simili għal dak uman, u b’hekk jippermettu approċċi ġodda għad-difiża kontra t-theddid ċibernetiku. Il-professjonisti taċ-ċibersigurtà u dawk li jieħdu d-deċiżjonijiet fin-negozju fl-industriji kollha qed jesploraw kif l-IA ġenerattiva tista’ ssaħħaħ id-difiżi kontra attakki li qed jevolvu. Mill-finanzi u l-kura tas-saħħa sal-bejgħ bl-imnut u l-gvern, l-organizzazzjonijiet f’kull settur jiffaċċjaw tentattivi sofistikati ta’ phishing, malware, u theddid ieħor li l-IA ġenerattiva tista’ tgħin biex tikkumbatti. F’dan il-white paper, neżaminaw kif l-IA ġenerattiva tista’ tintuża fiċ-ċibersigurtà , u nenfasizzaw applikazzjonijiet tad-dinja reali, possibbiltajiet futuri, u kunsiderazzjonijiet importanti għall-adozzjoni.

L-IA Ġenerattiva hija differenti mill-IA analitika tradizzjonali mhux biss billi tiskopri mudelli iżda wkoll billi toħloq kontenut – kemm jekk tissimula attakki biex tħarreġ difiżi jew tipproduċi spjegazzjonijiet bil-lingwa naturali għal dejta kumplessa tas-sigurtà. Din il-kapaċità doppja tagħmilha xafra b'żewġt ixfar: toffri għodod difensivi ġodda u qawwija, iżda l-atturi tat-theddid jistgħu jisfruttawha wkoll. It-taqsimiet li ġejjin jesploraw firxa wiesgħa ta' każijiet ta' użu għall-IA ġenerattiva fiċ-ċibersigurtà, mill-awtomazzjoni tad-detezzjoni tal-phishing sat-titjib tar-rispons għall-inċidenti. Niddiskutu wkoll il-benefiċċji li jwiegħdu dawn l-innovazzjonijiet tal-IA, flimkien mar-riskji (bħal "alluċinazzjonijiet" tal-IA jew użu ħażin avversarju) li l-organizzazzjonijiet iridu jimmaniġġjaw. Fl-aħħar nett, nipprovdu konklużjonijiet prattiċi biex ngħinu lin-negozji jevalwaw u jintegraw b'mod responsabbli l-IA ġenerattiva fl-istrateġiji taċ-ċibersigurtà tagħhom.

AI Ġenerattiva fiċ-Ċibersigurtà: Ħarsa Ġenerali

L-IA Ġenerattiva fiċ-ċibersigurtà tirreferi għal mudelli tal-IA – ħafna drabi mudelli lingwistiċi kbar jew netwerks newrali oħra – li jistgħu jiġġeneraw għarfien, rakkomandazzjonijiet, kodiċi, jew saħansitra dejta sintetika biex jgħinu fil-kompiti tas-sigurtà. B'differenza minn mudelli purament predittivi, l-IA ġenerattiva tista' tissimula xenarji u tipproduċi outputs li jinqraw mill-bniedem (eż. rapporti, twissijiet, jew saħansitra kampjuni ta' kodiċi malizzjuż) ibbażati fuq id-dejta tat-taħriġ tagħha. Din il-kapaċità qed tiġi sfruttata biex tbassar, tidentifika, u tirrispondi għat-theddid b'modi aktar dinamiċi minn qabel ( X'inhi l-IA Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ). Pereżempju, mudelli ġenerattivi jistgħu janalizzaw logs vasti jew repożitorji ta' intelliġenza dwar theddid u jipproduċu sommarju konċiż jew azzjoni rakkomandata, li jiffunzjonaw kważi bħal "assistent" tal-IA għat-timijiet tas-sigurtà.

L-implementazzjonijiet bikrija tal-AI ġenerattiva għaċ-ċiberdifiża wrew wegħda. Fl-2023, Microsoft introduċiet Security Copilot , assistent imħaddem minn GPT-4 għall-analisti tas-sigurtà, biex jgħin fl-identifikazzjoni ta' ksur u fl-għarbil tal-65 triljun sinjal li Microsoft tipproċessa kuljum ( Microsoft Security Copilot huwa assistent ġdid tal-AI GPT-4 għaċ-ċibersigurtà | The Verge ). L-analisti jistgħu jipproponu din is-sistema f'lingwa naturali (eż. "Agħti sommarju tal-inċidenti kollha tas-sigurtà fl-aħħar 24 siegħa" ), u l-kopilota jipproduċi sommarju narrattiv utli. Bl-istess mod, l-AI tal-Intelliġenza tat-Theddid tuża mudell ġenerattiv imsejjaħ Gemini biex tippermetti tiftix konversazzjonali permezz tad-database vasta ta' intel tat-theddid ta' Google, tanalizza malajr kodiċi suspettuż u tiġbor sommarju tas-sejbiet biex tgħin lill-kaċċaturi tal-malware ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Dawn l-eżempji juru l-potenzjal: l-AI ġenerattiva tista' tiddiġerixxi dejta kumplessa u fuq skala kbira taċ-ċibersigurtà u tippreżenta għarfien f'forma aċċessibbli, u b'hekk taċċellera t-teħid tad-deċiżjonijiet.

Fl-istess ħin, l-IA ġenerattiva tista' toħloq kontenut falz realistiku ħafna, li huwa ta' benefiċċju għas-simulazzjoni u t-taħriġ (u, sfortunatament, għall-attakkanti li joħolqu inġinerija soċjali). Hekk kif nipproċedu għal każijiet ta' użu speċifiċi, se naraw li l-abbiltà tal-IA ġenerattiva li kemm tissintetizza kif ukoll tanalizza l-informazzjoni hija l-bażi tal-ħafna applikazzjonijiet taċ-ċibersigurtà tagħha. Hawn taħt, nidħlu f'każijiet ta' użu ewlenin, li jkopru kollox mill-prevenzjoni tal-phishing sal-iżvilupp sigur tas-softwer, b'eżempji ta' kif kull wieħed qed jiġi applikat fl-industriji kollha.

Applikazzjonijiet Ewlenin tal-AI Ġenerattiva fiċ-Ċibersigurtà

Figura: Każijiet ewlenin ta' użu għall-IA ġenerattiva fiċ-ċibersigurtà jinkludu kopiloti tal-IA għal timijiet tas-sigurtà, analiżi tal-vulnerabbiltà tal-kodiċi, skoperta adattiva ta' theddid, simulazzjoni ta' attakk zero-day, sigurtà bijometrika mtejba, u skoperta ta' phishing ( 6 Każijiet ta' Użu għall-IA Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ).

Sejbien u Prevenzjoni tal-Phishing

Il-phishing jibqa' wieħed mit-theddid ċibernetiku l-aktar mifrux, li jqarraq lill-utenti biex jikklikkjaw fuq links malizzjużi jew jiżvelaw il-kredenzjali. L-AI Ġenerattiva qed tiġi skjerata kemm biex tiskopri tentattivi ta' phishing kif ukoll biex issaħħaħ it-taħriġ tal-utenti biex jipprevjenu attakki ta' suċċess. Fuq in-naħa difensiva, il-mudelli tal-AI jistgħu janalizzaw il-kontenut tal-email u l-imġieba ta' min jibgħat biex jidentifikaw sinjali sottili ta' phishing li l-filtri bbażati fuq regoli jistgħu jitilfu. Billi jitgħallem minn settijiet ta' dejta kbar ta' emails leġittimi kontra dawk frodulenti, mudell ġenerattiv jista' jindika anomaliji fit-ton, fil-kliem, jew fil-kuntest li jindikaw scam - anke meta l-grammatika u l-ortografija ma jibqgħux jikxfuha. Fil-fatt, ir-riċerkaturi ta' Palo Alto Networks jinnutaw li l-AI ġenerattiva tista' tidentifika "sinjali sottili ta' emails ta' phishing li altrimenti jistgħu ma jinstabux," u tgħin lill-organizzazzjonijiet jibqgħu pass 'il quddiem mill-iskammers ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ).

It-timijiet tas-sigurtà qed jużaw ukoll l-AI ġenerattiva biex jissimulaw attakki ta’ phishing għat-taħriġ u l-analiżi. Pereżempju, Ironscales introduċiet għodda ta’ simulazzjoni ta’ phishing li taħdem bil-GPT li awtomatikament tiġġenera emails foloz ta’ phishing imfassla apposta għall-impjegati ta’ organizzazzjoni ( Kif Tista’ l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Dawn l-emails maħduma bl-AI jirriflettu l-aħħar tattiċi tal-attakkanti, u jagħtu lill-persunal prattika realistika biex jidentifika kontenut phishy. Taħriġ personalizzat bħal dan huwa kruċjali hekk kif l-attakkanti nfushom jadottaw l-AI biex joħolqu lures aktar konvinċenti. Ta’ min jinnota li, filwaqt li l-AI ġenerattiva tista’ tipproduċi messaġġi ta’ phishing raffinati ħafna (spiċċaw iż-żminijiet tal-Ingliż imkisser li faċilment jinstab), id-difensuri sabu li l-AI mhijiex imbattibbli. Fl-2024, ir-riċerkaturi tas-Sigurtà tal-IBM għamlu esperiment li qabbel emails ta’ phishing miktuba mill-bniedem ma’ dawk iġġenerati bl-AI, u “b’mod sorprendenti, l-emails iġġenerati bl-AI kienu għadhom faċli biex jiġu skoperti minkejja l-grammatika korretta tagħhom” ( 6 Każijiet ta’ Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Dan jissuġġerixxi li l-intuwizzjoni umana flimkien mad-detezzjoni assistita mill-AI xorta jistgħu jagħrfu inkonsistenzi sottili jew sinjali ta' metadata fi scams miktuba bl-AI.

L-AI Ġenerattiva tgħin fid-difiża kontra l-phishing b'modi oħra wkoll. Il-mudelli jistgħu jintużaw biex jiġġeneraw tweġibiet awtomatizzati jew filtri li jittestjaw emails suspettużi. Pereżempju, sistema tal-AI tista' twieġeb għal email b'ċerti mistoqsijiet biex tivverifika l-leġittimità ta' min jibgħatha jew tuża LLM biex tanalizza l-links u l-annessi ta' email f'sandbox, imbagħad tiġbor fil-qosor kwalunkwe intenzjoni malizzjuża. Il-pjattaforma tas-sigurtà ta' NVIDIA, Morpheus, turi l-qawwa tal-AI f'dan il-qasam - tuża mudelli NLP ġenerattivi biex tanalizza u tikklassifika l-emails malajr, u nstab li ttejjeb l-iskoperta ta' emails ta' spear-phishing b'21 % meta mqabbla ma' għodod tas-sigurtà tradizzjonali ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Morpheus saħansitra jipprofila mudelli ta' komunikazzjoni tal-utent biex jiskopri mġiba mhux tas-soltu (bħal utent li f'daqqa waħda jibgħat emails lil ħafna indirizzi esterni), li jistgħu jindikaw kont kompromess li jibgħat emails ta' phishing.

Fil-prattika, kumpaniji fl-industriji kollha qed jibdew jafdaw l-AI biex tiffiltra t-traffiku tal-email u tal-web għal attakki ta' inġinerija soċjali. Id-ditti finanzjarji, pereżempju, jużaw l-AI ġenerattiva biex jiskennjaw il-komunikazzjonijiet għal tentattivi ta' impersonazzjoni li jistgħu jwasslu għal frodi elettronika, filwaqt li l-fornituri tal-kura tas-saħħa jużaw l-AI biex jipproteġu d-dejta tal-pazjenti minn ksur relatat mal-phishing. Billi tiġġenera xenarji realistiċi ta' phishing u tidentifika l-karatteristiċi ta' messaġġi malizzjużi, l-AI ġenerattiva żżid saff qawwi mal-istrateġiji ta' prevenzjoni tal-phishing. Il-konklużjoni: L-AI tista' tgħin biex tiskopri u tiddiżattiva l-attakki ta' phishing aktar malajr u b'mod aktar preċiż, anke hekk kif l-attakkanti jużaw l-istess teknoloġija biex itejbu l-logħba tagħhom.

Sejbien ta' Malware u Analiżi tat-Theddid

Il-malware modern qed jevolvi kontinwament – l-attakkanti jiġġeneraw varjanti ġodda jew jaħbu l-kodiċi biex jaqbżu l-firem tal-antivirus. L-AI Ġenerattiva toffri tekniki ġodda kemm għall-iskoperta tal-malware kif ukoll għall-fehim tal-imġieba tiegħu. Approċċ wieħed huwa l-użu tal-AI biex tiġġenera "tewmin ħżiena" ta' malware : ir-riċerkaturi tas-sigurtà jistgħu jdaħħlu kampjun ta' malware magħruf f'mudell ġenerattiv biex joħolqu ħafna varjanti mutati ta' dak il-malware. Billi jagħmlu dan, huma jantiċipaw b'mod effettiv it-tweaks li jista' jagħmel attakkant. Dawn il-varjanti ġġenerati mill-AI jistgħu mbagħad jintużaw biex iħarrġu sistemi ta' antivirus u ta' skoperta ta' intrużjoni, sabiex anke verżjonijiet modifikati tal-malware jiġu rikonoxxuti fis-selvaġġ ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Din l-istrateġija proattiva tgħin biex tkisser iċ-ċiklu fejn il-hackers ibiddlu ftit il-malware tagħhom biex jevadu l-iskoperta u d-difensuri jridu jitħabtu biex jiktbu firem ġodda kull darba. Kif innutat f'podcast wieħed tal-industrija, l-esperti tas-sigurtà issa jużaw l-AI ġenerattiva biex "jissimulaw it-traffiku tan-netwerk u jiġġeneraw payloads malizzjużi li jimitaw attakki sofistikati," billi jittestjaw l-istress tad-difiżi tagħhom kontra familja sħiħa ta' theddid minflok istanza waħda. Din l-iskoperta adattiva tat-theddid tfisser li l-għodod tas-sigurtà jsiru aktar reżiljenti għal malware polimorfiku li altrimenti jgħaddi minnu.

Lil hinn mid-detezzjoni, l-AI ġenerattiva tassisti fl -analiżi tal-malware u l-inġinerija inversa , li tradizzjonalment huma kompiti li jeħtieġu ħafna xogħol għall-analisti tat-theddid. Mudelli lingwistiċi kbar jistgħu jiġu inkarigati bl-eżami ta' kodiċi jew skripts suspettużi u bl-ispjegazzjoni f'lingwaġġ sempliċi x'inhu maħsub li jagħmel il-kodiċi. Eżempju fid-dinja reali huwa VirusTotal Code Insight , karatteristika minn VirusTotal ta' Google li tuża mudell ta' AI ġenerattiv (Sec-PaLM ta' Google) biex tipproduċi sommarji f'lingwa naturali ta' kodiċi potenzjalment malizzjuż ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji fid-Dinja Reali ). Essenzjalment hija "tip ta' ChatGPT iddedikat għall-kodifikazzjoni tas-sigurtà," li taġixxi bħala analista tal-malware tal-AI li jaħdem 24/7 biex jgħin lill-analisti umani jifhmu t-theddid ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Minflok ma jħares fuq skript jew kodiċi binarju mhux familjari, membru tat-tim tas-sigurtà jista' jikseb spjegazzjoni immedjata mill-AI - pereżempju, "Dan l-iskript jipprova jniżżel fajl mis-server XYZ u mbagħad jimmodifika s-settings tas-sistema, li jindika mġiba tal-malware." Dan iħaffef b'mod drammatiku r-rispons għall-inċidenti, peress li l-analisti jistgħu jagħmlu triage u jifhmu malware ġdid aktar malajr minn qatt qabel.

L-AI Ġenerattiva tintuża wkoll biex tidentifika malware f'settijiet ta' dejta massivi . Magni antivirus tradizzjonali jiskennjaw fajls għal firem magħrufa, iżda mudell ġenerattiv jista' jevalwa l-karatteristiċi ta' fajl u saħansitra jbassar jekk huwiex malizzjuż ibbażat fuq mudelli mgħallma. Billi janalizza l-attributi ta' biljuni ta' fajls (malizzjużi u beninni), AI tista' taqbad intenzjoni malizzjuża fejn ma teżisti l-ebda firma espliċita. Pereżempju, mudell ġenerattiv jista' jimmarka eżekutibbli bħala suspettuż għaliex il-profil tal-imġieba tiegħu "jidher" bħal varjazzjoni żgħira ta' ransomware li ra waqt it-taħriġ, anke jekk il-binarju huwa ġdid. Din l-iskoperta bbażata fuq l-imġieba tgħin biex tikkumbatti malware ġdid jew zero-day. L-AI tal-Intelliġenza tat-Theddid ta' Google (parti minn Chronicle/Mandiant) allegatament tuża l-mudell ġenerattiv tagħha biex tanalizza kodiċi potenzjalment malizzjuż u "tgħin b'mod aktar effiċjenti u effettiv lill-professjonisti tas-sigurtà fil-ġlieda kontra l-malware u tipi oħra ta' theddid." ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ).

Min-naħa l-oħra, irridu nirrikonoxxu li l-attakkanti jistgħu jużaw l-IA ġenerattiva hawn ukoll – biex awtomatikament joħolqu malware li jadatta lilu nnifsu. Fil-fatt, l-esperti tas-sigurtà jwissu li -IA ġenerattiva tista' tgħin liċ-ċiberkriminali jiżviluppaw malware li huwa aktar diffiċli biex jiġi skopert ( X'inhi l-IA Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ). Mudell tal-IA jista' jingħata struzzjonijiet biex jittrasforma biċċa malware ripetutament (jibdel l-istruttura tal-fajl tagħha, il-metodi ta' encryption, eċċ.) sakemm tevadi l-kontrolli antivirus kollha magħrufa. Dan l-użu avversarju huwa ta' tħassib dejjem jikber (xi kultant imsejjaħ "malware mħaddem mill-IA" jew malware polimorfiku bħala servizz). Se niddiskutu dawn ir-riskji aktar tard, iżda dan jenfasizza li l-IA ġenerattiva hija għodda f'din il-logħba tal-qattus u l-ġurdien użata kemm mid-difensuri kif ukoll mill-attakkanti.

B'mod ġenerali, l-AI ġenerattiva ttejjeb id-difiża kontra l-malware billi tippermetti lit-timijiet tas-sigurtà jaħsbu bħal attakkant – jiġġeneraw theddid u soluzzjonijiet ġodda internament. Kemm jekk qed tipproduċi malware sintetiku biex ittejjeb ir-rati ta' skoperta jew tuża l-AI biex tispjega u tikkontrolla malware reali misjub fin-netwerks, dawn it-tekniki japplikaw fl-industriji kollha. Bank jista' juża analiżi tal-malware mmexxija mill-AI biex janalizza malajr makro suspettuż fi spreadsheet, filwaqt li ditta tal-manifattura tista' tiddependi fuq l-AI biex tiskopri malware li jimmira lejn sistemi ta' kontroll industrijali. Billi jżidu l-analiżi tradizzjonali tal-malware bl-AI ġenerattiva, l-organizzazzjonijiet jistgħu jirrispondu għal kampanji ta' malware aktar malajr u b'mod aktar proattiv minn qabel.

Intelliġenza dwar it-Theddid u l-Awtomazzjoni tal-Analiżi

Kuljum, l-organizzazzjonijiet jiġu bbumbardjati b'dejta dwar l-intelliġenza tat-theddid – minn feeds ta' indikaturi ta' kompromess (IOCs) li għadhom kif ġew skoperti għal rapporti ta' analisti dwar tattiċi emerġenti tal-hackers. L-isfida għat-timijiet tas-sigurtà hija li jgħarblu din id-dilluvju ta' informazzjoni u jiġbdu għarfien azzjonabbli. L-AI ġenerattiva qed turi li hija imprezzabbli fl- awtomazzjoni tal-analiżi u l-konsum tal-intelliġenza tat-theddid . Minflok ma jaqraw manwalment għexieren ta' rapporti jew entrati fid-database, l-analisti jistgħu jużaw l-AI biex jiġbru fil-qosor u jikkuntestwalizzaw l-intelliġenza tat-theddid bil-veloċità tal-magna.

Eżempju konkret wieħed huwa Threat Intelligence , li tintegra l-AI ġenerattiva (il-mudell Gemini) mat-teżori ta' dejta dwar it-theddid ta' Google minn Mandiant u VirusTotal. Din l-AI tipprovdi "tiftix konversazzjonali fir-repożitorju vast ta' intelliġenza dwar it-theddid ta' Google" , li jippermetti lill-utenti jistaqsu mistoqsijiet naturali dwar it-theddid u jiksbu tweġibiet distillati ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Pereżempju, analista jista' jistaqsi, "Rajna xi malware relatat mal-Grupp ta' Theddid X li jimmira lejn l-industrija tagħna?" u l-AI tiġbed intel rilevanti, forsi tinnota "Iva, il-Grupp ta' Theddid X kien marbut ma' kampanja ta' phishing ix-xahar li għadda bl-użu tal-malware Y" , flimkien ma' sommarju tal-imġieba ta' dak il-malware. Dan inaqqas drastikament il-ħin biex jinġabar għarfien li altrimenti jkun jeħtieġ li jiġu mistoqsija diversi għodod jew li jinqraw rapporti twal.

L-IA Ġenerattiva tista' wkoll tikkorrelata u tiġbor fil-qosor ix-xejriet tat-theddid . Tista' tgħarbel eluf ta' postijiet fuq blogs tas-sigurtà, aħbarijiet dwar ksur tas-sigurtà, u chatter dwar id-dark web u mbagħad tiġġenera sommarju eżekuttiv tal-"aqwa theddid ċibernetiku din il-ġimgħa" għal briefing tas-CISO. Tradizzjonalment, dan il-livell ta' analiżi u rappurtar kien jieħu sforz uman sinifikanti; issa mudell irfinut sew jista' jabbozzah f'sekondi, bil-bnedmin jirfinaw biss l-output. Kumpaniji bħal ZeroFox żviluppaw FoxGPT , għodda tal-IA ġenerattiva ddisinjata speċifikament biex "taċċellera l-analiżi u s-sommarju tal-intelliġenza fuq settijiet ta' dejta kbar," inkluż kontenut malizzjuż u dejta ta' phishing ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Billi tawtomatizza x-xogħol tqil tal-qari u r-referenzi inkroċjati tad-dejta, l-IA tippermetti lit-timijiet tal-intelliġenza dwar it-theddid jiffokaw fuq it-teħid tad-deċiżjonijiet u r-rispons.

Każ ta' użu ieħor huwa l-kaċċa għat-theddid konversazzjonali . Immaġina analista tas-sigurtà jinteraġixxi ma' assistent tal-AI: "Urini xi sinjali ta' esfiltrazzjoni tad-dejta fl-aħħar 48 siegħa" jew "X'inhuma l-aktar vulnerabbiltajiet ġodda li l-attakkanti qed jisfruttaw din il-ġimgħa?" L-AI tista' tinterpreta l-mistoqsija, tfittex logs interni jew sorsi esterni ta' intel, u twieġeb b'tweġiba ċara jew saħansitra b'lista ta' inċidenti rilevanti. Dan mhuwiex esaġerat - sistemi moderni ta' informazzjoni dwar is-sigurtà u ġestjoni tal-avvenimenti (SIEM) qed jibdew jinkorporaw mistoqsijiet bil-lingwa naturali. Is-suite ta' sigurtà QRadar tal-IBM, pereżempju, qed iżżid karatteristiċi tal-AI ġenerattivi fl-2024 biex tħalli lill-analisti "jistaqsu [...] mistoqsijiet speċifiċi dwar il-mogħdija ta' attakk fil-qosor" ta' inċident u jiksbu tweġibiet dettaljati. Tista' wkoll "tinterpreta u tiġbor fil-qosor intelliġenza dwar it-theddid rilevanti ħafna" awtomatikament ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Essenzjalment, l-AI ġenerattiva tbiddel muntanji ta' dejta teknika f'għarfien daqs chat fuq talba.

Fl-industriji kollha, dan għandu implikazzjonijiet kbar. Fornitur tal-kura tas-saħħa jista' juża l-AI biex jibqa' aġġornat dwar l-aħħar gruppi ta' ransomware li jimmiraw lejn l-isptarijiet, mingħajr ma jiddedika analista għal riċerka full-time. Is-SOC ta' kumpanija tal-bejgħ bl-imnut jista' malajr jagħmel sommarju tattiċi ġodda ta' malware POS meta jagħti informazzjoni lill-istaff tal-IT tal-ħanut. U fil-gvern, fejn id-dejta dwar it-theddid minn diversi aġenziji trid tiġi sintetizzata, l-AI tista' tipproduċi rapporti unifikati li jenfasizzaw it-twissijiet ewlenin. Billi awtomatizza l-ġbir u l-interpretazzjoni tal-intelliġenza dwar it-theddid , l-AI ġenerattiva tgħin lill-organizzazzjonijiet jirreaġixxu aktar malajr għat-theddid emerġenti u tnaqqas ir-riskju li jintilfu twissijiet kritiċi moħbija fl-istorbju.

Ottimizzazzjoni taċ-Ċentru tal-Operazzjonijiet tas-Sigurtà (SOC)

Iċ-Ċentri tal-Operazzjonijiet tas-Sigurtà huma magħrufa għall-għeja kkawżata mit-twissijiet u l-volum kbir ta’ dejta. Analista tipiku tas-SOC jista’ jgħaddi minn eluf ta’ twissijiet u avvenimenti kuljum, u jinvestiga inċidenti potenzjali. L-AI Ġenerattiva qed taġixxi bħala multiplikatur tal-forza fis-SOCs billi tawtomatizza x-xogħol ta’ rutina, tipprovdi sommarji intelliġenti, u saħansitra torkestra xi risposti. L-għan huwa li jiġu ottimizzati l-flussi tax-xogħol tas-SOC sabiex l-analisti umani jkunu jistgħu jiffokaw fuq l-aktar kwistjonijiet kritiċi filwaqt li l-kopilota tal-AI jieħu ħsieb il-bqija.

Applikazzjoni ewlenija waħda hija l-użu tal-IA ġenerattiva bħala "Kopilota tal-Analista" . Il-Kopilota tas-Sigurtà ta' Microsoft, li ssemma qabel, jagħti eżempju ta' dan: huwa "mfassal biex jgħin fix-xogħol ta' analista tas-sigurtà aktar milli jissostitwixxih," u jgħin fl-investigazzjonijiet u r-rappurtar tal-inċidenti ( Microsoft Security Copilot huwa assistent ġdid tal-IA GPT-4 għaċ-ċibersigurtà | The Verge ). Fil-prattika, dan ifisser li analista jista' jdaħħal dejta mhux ipproċessata – logs tal-firewall, skeda ta' żmien tal-avvenimenti, jew deskrizzjoni tal-inċident – u jitlob lill-IA biex tanalizzaha jew tiġborha fil-qosor. Il-kopilota jista' joħroġ narrattiva bħal, "Jidher li fis-2:35 AM, login suspettuż mill-IP X irnexxielu fuq is-Server Y, segwit minn trasferimenti ta' dejta mhux tas-soltu, li jindikaw ksur potenzjali ta' dak is-server." Dan it-tip ta' kuntestwalizzazzjoni immedjata hija imprezzabbli meta l-ħin ikun essenzjali.

Il-kopiloti tal-AI jgħinu wkoll biex inaqqsu l-piż tat-trijaġġ tal-livell 1. Skont id-dejta tal-industrija, tim tas-sigurtà jista' jqatta' 15-il siegħa fil-ġimgħa sempliċement jissortja madwar 22,000 twissija u pożittivi foloz ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Bl-AI ġenerattiva, ħafna minn dawn it-twissijiet jistgħu jiġu ttrijati awtomatikament – l-AI tista' twarrab dawk li huma b'mod ċar beninni (bir-raġunament mogħti) u tenfasizza dawk li verament jeħtieġu attenzjoni, xi kultant saħansitra tissuġġerixxi l-prijorità. Fil-fatt, is-saħħa tal-AI ġenerattiva fil-fehim tal-kuntest tfisser li tista' tikkorrelata twissijiet li jistgħu jidhru li ma jagħmlux ħsara waħedhom iżda flimkien jindikaw attakk f'diversi stadji. Dan inaqqas iċ-ċans li wieħed jitlef attakk minħabba "għeja fit-twissija."

L-analisti tas-SOC qed jużaw ukoll lingwa naturali bl-AI biex iħaffu l-kaċċa u l-investigazzjonijiet. Purple AI , pereżempju, tgħaqqad interface ibbażata fuq LLM ma' dejta tas-sigurtà f'ħin reali, li tippermetti lill-analisti "jistaqsu mistoqsijiet kumplessi dwar il-kaċċa għat-theddid bl-Ingliż sempliċi u jiksbu tweġibiet rapidi u preċiżi" ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Analista jista' jittajpja, "Have xi endpoints ikkomunikaw mad-dominju badguy123[.]com fl-aħħar xahar?" , u Purple AI se tfittex fil-logs biex twieġeb. Dan jiffranka lill-analista milli jikteb mistoqsijiet jew skripts tad-database - l-AI tagħmel dan bil-moħbi. Ifisser ukoll li l-analisti junior jistgħu jimmaniġġjaw kompiti li qabel kienu jeħtieġu inġinier b'esperjenza fil-lingwi tal-mistoqsijiet, u b'hekk itejbu l-ħiliet tat-tim permezz tal-assistenza tal-AI . Tabilħaqq, l-analisti jirrappurtaw li l-gwida tal-IA ġenerattiva "tagħti spinta lill-ħiliet u l-profiċjenza tagħhom" , billi l-istaff junior issa jista' jikseb appoġġ għall-kodifikazzjoni jew pariri dwar l-analiżi on-demand mill-IA, u b'hekk inaqqas id-dipendenza fuq li dejjem jistaqsu l-għajnuna lill-membri anzjani tat-tim ( 6 Każijiet ta' Użu għall-IA Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ).

Ottimizzazzjoni oħra tas-SOC hija s-sommarju u d-dokumentazzjoni awtomatizzati tal-inċidenti . Wara li jiġi mmaniġġjat inċident, xi ħadd irid jikteb ir-rapport – kompitu li ħafna jsibu tedjuż. L-AI Ġenerattiva tista’ tieħu d-dejta forensika (logs tas-sistema, analiżi tal-malware, skeda ta’ żmien tal-azzjonijiet) u tiġġenera l-ewwel abbozz ta’ rapport tal-inċident. L-IBM qed tibni din il-kapaċità f’QRadar sabiex b’ “klikk waħda” sommarju tal-inċident ikun jista’ jiġi prodott għal partijiet interessati differenti (eżekuttivi, timijiet tal-IT, eċċ.) ( Kif Tista’ l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Dan mhux biss jiffranka l-ħin iżda jiżgura wkoll li xejn ma jiġi injorat fir-rapport, peress li l-AI tista’ tinkludi d-dettalji rilevanti kollha b’mod konsistenti. Bl-istess mod, għall-konformità u l-awditjar, l-AI tista’ timla formoli jew tabelli tal-evidenza bbażati fuq dejta tal-inċidenti.

Ir-riżultati tad-dinja reali huma konvinċenti. Dawk li adottaw bikrija s-SOAR (orkestrazzjoni tas-sigurtà, awtomazzjoni, u rispons) immexxija mill-AI ta' Swimlane jirrappurtaw żidiet enormi fil-produttività – Global Data Systems, pereżempju, raw lit-tim SecOps tagħhom jimmaniġġja ammont ta' każijiet ferm akbar; direttur wieħed qal "dak li nagħmel illum b'7 analisti probabbilment jieħu 20 membru tal-persunal mingħajr" l-awtomazzjoni mħaddma mill-AI ( Kif Tista' l-AI Ġenerattiva tintuża fiċ-Ċibersigurtà ). Fi kliem ieħor, l-AI fis-SOC tista' timmultiplika l-kapaċità . Fl-industriji kollha, kemm jekk hija kumpanija teknoloġika li tittratta allerti ta' sigurtà fuq il-cloud jew impjant tal-manifattura li jimmonitorja sistemi OT, it-timijiet tas-SOC jistgħu jiksbu skoperta u rispons aktar mgħaġġla, inqas inċidenti mitlufa, u operazzjonijiet aktar effiċjenti billi jħaddnu assistenti tal-AI ġenerattivi. Huwa dwar li taħdem b'mod aktar intelliġenti – li tippermetti lill-magni jimmaniġġjaw il-kompiti ripetittivi u tqal tad-dejta sabiex il-bnedmin ikunu jistgħu japplikaw l-intwizzjoni u l-kompetenza tagħhom fejn huwa l-aktar importanti.

Ġestjoni tal-Vulnerabbiltà u Simulazzjoni tat-Theddid

L-identifikazzjoni u l-immaniġġjar tal-vulnerabbiltajiet – dgħufijiet fis-softwer jew fis-sistemi li l-attakkanti jistgħu jisfruttaw – hija funzjoni ewlenija taċ-ċibersigurtà. L-AI Ġenerattiva qed ittejjeb l-immaniġġjar tal-vulnerabbiltajiet billi taċċellera l-iskoperta, tgħin fil-prijoritizzazzjoni tal-irqajja’, u saħansitra tissimula attakki fuq dawk il-vulnerabbiltajiet biex ittejjeb it-tħejjija. Essenzjalment, l-AI qed tgħin lill-organizzazzjonijiet isibu u jirranġaw in-nuqqasijiet fl-armatura tagħhom aktar malajr, u b’mod proattiv id-difiżi qabel ma jagħmlu dan l-attakkanti reali.

Applikazzjoni sinifikanti waħda hija l-użu tal-IA ġenerattiva għar -reviżjoni awtomatizzata tal-kodiċi u l-iskoperta ta' vulnerabbiltajiet . Bażijiet ta' kodiċi kbar (speċjalment sistemi legati) spiss ikollhom difetti fis-sigurtà li ma jiġux innutati. Mudelli tal-IA ġenerattivi jistgħu jiġu mħarrġa fuq prattiki ta' kodifikazzjoni siguri u mudelli ta' bugs komuni, imbagħad jiġu rilaxxati fuq kodiċi sors jew binarji kkumpilati biex isibu vulnerabbiltajiet potenzjali. Pereżempju, ir-riċerkaturi tal-NVIDIA żviluppaw pipeline tal-IA ġenerattiva li tista' tanalizza kontenituri ta' softwer legati u tidentifika vulnerabbiltajiet "b'eżattezza għolja - sa 4× aktar mgħaġġla mill-esperti umani." ( 6 Każijiet ta' Użu għall-IA Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). L-IA essenzjalment tgħallmet kif jidher kodiċi mhux sigur u kienet kapaċi tiskennja softwer ta' għexieren ta' snin biex timmarka funzjonijiet u libreriji riskjużi, u b'hekk tħaffef bil-kbir il-proċess normalment bil-mod tal-awditjar manwali tal-kodiċi. Dan it-tip ta' għodda jista' jkun bidla kbira għal industriji bħall-finanzi jew il-gvern li jiddependu fuq bażijiet ta' kodiċi kbar u eqdem - l-IA tgħin biex timmodernizza s-sigurtà billi tħaffer kwistjonijiet li l-persunal jista' jieħu xhur jew snin biex isib (jekk qatt isibhom).

L-AI Ġenerattiva tassisti wkoll fil -flussi tax-xogħol tal-ġestjoni tal-vulnerabbiltajiet billi tipproċessa r-riżultati tal-iskannjar tal-vulnerabbiltajiet u tipprijoritizzahom. Għodod bħall -ExposureAI jużaw l-AI ġenerattiva biex jippermettu lill-analisti jistaqsu d-dejta tal-vulnerabbiltajiet f'lingwaġġ sempliċi u jiksbu tweġibiet immedjati ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). ExposureAI tista' "tiġbor fil-qosor il-perkors sħiħ tal-attakk f'narrattiva" għal vulnerabbiltà kritika partikolari, billi tispjega kif attakkant jista' jikkatenaha ma' dgħufijiet oħra biex jikkomprometti sistema. Saħansitra tirrakkomanda azzjonijiet biex tirrimedja u twieġeb mistoqsijiet ta' segwitu dwar ir-riskju. Dan ifisser li meta jitħabbar CVE (Vulnerabbiltà u Espożizzjoni Komuni) kritiku ġdid, analista jista' jistaqsi lill-AI, "Hemm xi wieħed mis-servers tagħna affettwat minn dan is-CVE u x'inhu l-agħar xenarju jekk ma nwaħħlux il-patch?" u jirċievi valutazzjoni ċara meħuda mid-dejta tal-iskannjar tal-organizzazzjoni stess. Billi tikkontestwalizza l-vulnerabbiltajiet (eż. din hija esposta għall-internet u fuq server ta' valur għoli, għalhekk hija l-ogħla prijorità), l-AI ġenerattiva tgħin lit-timijiet jagħmlu patchs b'mod intelliġenti b'riżorsi limitati.

Minbarra li ssib u timmaniġġja vulnerabbiltajiet magħrufa, l-AI ġenerattiva tikkontribwixxi għall -ittestjar tal-penetrazzjoni u s-simulazzjoni tal- – essenzjalment tiskopri mhux magħrufa jew tittestja kontrolli tas-sigurtà. Netwerks avversarji ġenerattivi (GANs), tip ta' AI ġenerattiva, intużaw biex joħolqu dejta sintetika li timita t-traffiku reali tan-netwerk jew l-imġiba tal-utent, li tista' tinkludi mudelli ta' attakk moħbija. Studju tal-2023 issuġġerixxa l-użu tal-GANs biex jiġġeneraw traffiku realistiku ta' attakk zero-day biex iħarrġu sistemi ta' skoperta ta' intrużjoni ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Billi jitimgħu l-IDS b'xenarji ta' attakk imfassla mill-AI (li ma jirriskjawx li jużaw malware attwali fuq netwerks ta' produzzjoni), l-organizzazzjonijiet jistgħu jħarrġu d-difiżi tagħhom biex jagħrfu theddid ġdid mingħajr ma jistennew li jintlaqtu minnhom fir-realtà. Bl-istess mod, l-AI tista' tissimula attakkant li jinvestiga sistema – pereżempju, jipprova awtomatikament diversi tekniki ta' sfruttament f'ambjent sigur biex jara jekk xi waħda tirnexxix. L-Aġenzija tal-Proġetti ta' Riċerka Avvanzata fid-Difiża tal-Istati Uniti (DARPA) tara wegħda hawnhekk: l-Isfida Ċibernetika tal-AI tal-2023 tagħha tuża espliċitament l-AI ġenerattiva (bħal mudelli lingwistiċi kbar) biex "awtomatikament issib u tirranġa vulnerabbiltajiet fis-softwer open-source" bħala parti minn kompetizzjoni ( DARPA Timmira li Tiżviluppa AI, Applikazzjonijiet ta' Awtonomija li l-Ġellieda Jistgħu Jafdaw > Dipartiment tad-Difiża tal-Istati Uniti > Aħbarijiet tad-Dipartiment tad-Difiża ). Din l-inizjattiva tenfasizza li l-AI mhux biss qed tgħin biex isewwi toqob magħrufa; qed tiskopri b'mod attiv oħrajn ġodda u tipproponi soluzzjonijiet, kompitu tradizzjonalment limitat għal riċerkaturi tas-sigurtà tas-sengħa (u għaljin).

L-AI ġenerattiva tista’ saħansitra toħloq honeypots intelliġenti u tewmin diġitali għad-difiża. L-istartups qed jiżviluppaw sistemi ta’ liska mmexxija mill-AI li jimitaw b’mod konvinċenti servers jew apparati reali. Kif spjega CEO wieħed, l-AI ġenerattiva tista’ “tikklona sistemi diġitali biex timita dawk reali u tħajjar hackers” ( 6 Każijiet ta’ Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Dawn il-honeypots iġġenerati mill-AI jaġixxu bħall-ambjent reali (ngħidu aħna, apparat IoT falz li jibgħat telemetrija normali) iżda jeżistu biss biex jattiraw lill-attakkanti. Meta attakkant jimmira lejn in-nassa, l-AI tkun essenzjalment qarrietu biex jiżvela l-metodi tiegħu, li d-difensuri mbagħad jistgħu jistudjaw u jużaw biex isaħħu s-sistemi reali. Dan il-kunċett, imħaddem minn immudellar ġenerattiv, jipprovdi mod li jħares ’il quddiem biex idawwar is-sitwazzjoni fuq l-attakkanti , bl-użu ta’ qerq imtejjeb mill-AI.

Fl-industriji kollha, ġestjoni tal-vulnerabbiltà aktar mgħaġġla u intelliġenti tfisser inqas ksur tas-sigurtà. Fl-IT tal-kura tas-saħħa, pereżempju, l-AI tista' malajr tidentifika librerija skaduta vulnerabbli f'apparat mediku u twassal għal tiswija tal-firmware qabel ma xi attakkant jisfruttaha. Fil-qasam bankarju, l-AI tista' tissimula attakk minn ġewwa fuq applikazzjoni ġdida biex tiżgura li d-dejta tal-klijent tibqa' sigura fix-xenarji kollha. Għalhekk, l-AI ġenerattiva taġixxi kemm bħala mikroskopju kif ukoll bħala stress-tester għall-qagħda tas-sigurtà tal-organizzazzjonijiet: iddawwal difetti moħbija u tagħmel pressjoni fuq is-sistemi b'modi immaġinattivi biex tiżgura r-reżiljenza.

Ġenerazzjoni ta' Kodiċi Sikura u Żvilupp ta' Softwer

It-talenti tal-AI Ġenerattiva mhumiex limitati għad-detezzjoni tal-attakki – jestendu wkoll għall -ħolqien ta’ sistemi aktar siguri mill-bidu . Fl-iżvilupp tas-softwer, il-ġeneraturi tal-kodiċi tal-AI (bħal GitHub Copilot, OpenAI Codex, eċċ.) jistgħu jgħinu lill-iżviluppaturi jiktbu kodiċi aktar malajr billi jissuġġerixxu siltiet ta’ kodiċi jew saħansitra funzjonijiet sħaħ. L-angolu taċ-ċibersigurtà huwa li jiġi żgurat li dawn il-biċċiet ta’ kodiċi ssuġġeriti mill-AI jkunu siguri u li tintuża l-AI biex tittejjeb il-prattiki tal-kodifikazzjoni.

Minn naħa waħda, l-AI ġenerattiva tista' taġixxi bħala assistent tal-kodifikazzjoni li jinkorpora l-aħjar prattiki tas-sigurtà . L-iżviluppaturi jistgħu jqanqlu għodda tal-AI, "Iġġenera funzjoni ta' reset tal-password f'Python," u idealment jiksbu kodiċi lura li mhux biss funzjonali iżda wkoll isegwi linji gwida siguri (eż. validazzjoni xierqa tal-input, logging, immaniġġjar tal-iżbalji mingħajr ma tinħareġ informazzjoni, eċċ.). Assistent bħal dan, imħarreġ fuq eżempji estensivi ta' kodiċi sigur, jista' jgħin biex jitnaqqsu l-iżbalji umani li jwasslu għal vulnerabbiltajiet. Pereżempju, jekk żviluppatur jinsa jissanitizza l-input tal-utent (u b'hekk jiftaħ il-bieb għal injezzjoni SQL jew kwistjonijiet simili), AI tista' jew tinkludi dan awtomatikament jew twissih. Xi għodod tal-kodifikazzjoni tal-AI issa qed jiġu rfinati b'dejta ffukata fuq is-sigurtà biex iservu dan l-iskop preċiż - essenzjalment, l-AI tgħaqqad il-programmazzjoni ma' kuxjenza tas-sigurtà .

Madankollu, hemm ukoll in-naħa l-oħra tal-munita: l-IA ġenerattiva tista’ faċilment tintroduċi vulnerabbiltajiet jekk ma tkunx immexxija kif suppost. Kif innota l-espert tas-sigurtà ta’ Sophos Ben Verschaeren, l-użu tal-IA ġenerattiva għall-kodifikazzjoni huwa “tajjeb għal kodiċi qasir u verifikabbli, iżda riskjuż meta kodiċi mhux ikkontrollat jiġi integrat” fis-sistemi ta’ produzzjoni. Ir-riskju huwa li IA tista’ tipproduċi kodiċi loġikament korrett li mhux sigur b’modi li persuna mhux esperta tista’ ma tinnotax. Barra minn hekk, atturi malizzjużi jistgħu jinfluwenzaw intenzjonalment il-mudelli pubbliċi tal-IA billi jiżirgħuhom b’mudelli ta’ kodiċi vulnerabbli (forma ta’ avvelenament tad-dejta) sabiex l-IA tissuġġerixxi kodiċi mhux sigur. Il-biċċa l-kbira tal-iżviluppaturi mhumiex esperti tas-sigurtà , għalhekk jekk IA tissuġġerixxi soluzzjoni konvenjenti, jistgħu jużawha bl-addoċċ, mingħajr ma jirrealizzaw li għandha difett ( 6 Każijiet ta’ Użu għall-IA Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Din it-tħassib hija reali – fil-fatt, issa hemm lista tal-OWASP Top 10 għal LLMs (mudelli lingwistiċi kbar) li tiddeskrivi riskji komuni bħal dan fl-użu tal-IA għall-kodifikazzjoni.

Biex jiġu indirizzati dawn il-kwistjonijiet, l-esperti jissuġġerixxu li "niġġieldu l-AI ġenerattiva bl-AI ġenerattiva" fil-qasam tal-kodifikazzjoni. Fil-prattika, dan ifisser li l-AI tintuża biex tirrevedi u tittestja l-kodiċi li kitbu AI oħra (jew bnedmin). AI tista' tiskennja commits ta' kodiċi ġodda ħafna aktar malajr minn reviżur tal-kodiċi uman u timmarka vulnerabbiltajiet potenzjali jew kwistjonijiet loġiċi. Diġà naraw għodod emerġenti li jintegraw fiċ-ċiklu tal-ħajja tal-iżvilupp tas-softwer: il-kodiċi jinkiteb (forsi bl-għajnuna tal-AI), imbagħad mudell ġenerattiv imħarreġ fuq prinċipji ta' kodiċi sigur jirrevedih u jiġġenera rapport ta' kwalunkwe tħassib (ngħidu aħna, l-użu ta' funzjonijiet deprekati, kontrolli ta' awtentikazzjoni neqsin, eċċ.). Ir-riċerka ta' NVIDIA, imsemmija qabel, li kisbet skoperta ta' vulnerabbiltà 4× aktar mgħaġġla fil-kodiċi hija eżempju tal-isfruttament tal-AI għall-analiżi sigura tal-kodiċi ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ).

Barra minn hekk, l-IA ġenerattiva tista' tgħin fil -ħolqien ta' konfigurazzjonijiet u skripts siguri . Pereżempju, jekk kumpanija teħtieġ li tuża infrastruttura sigura tal-cloud, inġinier jista' jitlob lil IA biex tiġġenera l-iskripts ta' konfigurazzjoni (Infrastruttura bħala Kodiċi) b'kontrolli tas-sigurtà (bħal segmentazzjoni xierqa tan-netwerk, rwoli IAM bl-inqas privileġġ) integrati. L-IA, wara li tkun ġiet imħarrġa fuq eluf ta' konfigurazzjonijiet bħal dawn, tista' tipproduċi linja bażi li l-inġinier imbagħad jirfina. Dan jaċċelera s-setup sigur tas-sistemi u jnaqqas l-iżbalji ta' konfigurazzjoni ħażina – sors komuni ta' inċidenti ta' sigurtà tal-cloud.

Xi organizzazzjonijiet qed jużaw ukoll l-AI ġenerattiva biex iżommu bażi ta' għarfien ta' mudelli ta' kodifikazzjoni siguri. Jekk żviluppatur ma jkunx ċert kif jimplimenta ċerta karatteristika b'mod sigur, jista' jistaqsi lil AI interna li tkun tgħallmet mill-proġetti tal-passat tal-kumpanija u l-linji gwida tas-sigurtà. L-AI tista' tirritorna approċċ rakkomandat jew saħansitra silta ta' kodiċi li tkun allinjata kemm mar-rekwiżiti funzjonali kif ukoll mal-istandards ta' sigurtà tal-kumpanija. Dan l-approċċ intuża minn għodod bħall -Awtomazzjoni tal-Kwestjonarji ta' Secureframe , li tiġbed tweġibiet mill-politiki u s-soluzzjonijiet tal-passat ta' kumpanija biex tiżgura tweġibiet konsistenti u preċiżi (essenzjalment tiġġenera dokumentazzjoni sigura) ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Il-kunċett jissarraf f'kodifikazzjoni: AI li "tiftakar" kif implimentajt xi ħaġa b'mod sigur qabel u tiggwidak biex terġa' tagħmilha b'dak il-mod.

Fil-qosor, l-IA ġenerattiva qed tinfluwenza l-iżvilupp tas-softwer billi tagħmel l-assistenza sigura għall-kodifikazzjoni aktar aċċessibbli . L-industriji li jiżviluppaw ħafna softwer apposta – teknoloġija, finanzi, difiża, eċċ. – jistgħu jibbenefikaw milli jkollhom kopiloti tal-IA li mhux biss iħaffu l-kodifikazzjoni iżda jaġixxu wkoll bħala reviżur tas-sigurtà dejjem viġilanti. Meta jiġu rregolati kif suppost, dawn l-għodod tal-IA jistgħu jnaqqsu l-introduzzjoni ta’ vulnerabbiltajiet ġodda u jgħinu lit-timijiet tal-iżvilupp jaderixxu mal-aħjar prattiki, anke jekk it-tim ma jkollux espert tas-sigurtà involut f’kull pass. Ir-riżultat huwa softwer li huwa aktar robust kontra l-attakki mill-ewwel jum.

Appoġġ għar-Rispons għall-Inċidenti

Meta jseħħ inċident taċ-ċibersigurtà – kemm jekk ikun tifqigħa ta’ malware, ksur tad-dejta, jew qtugħ tas-sistema minn attakk – il-ħin huwa kritiku. L-AI Ġenerattiva qed tintuża dejjem aktar biex tappoġġja lit-timijiet ta’ rispons għall-inċidenti (IR) biex jikkontrollaw u jirrimedjaw l-inċidenti aktar malajr u b’aktar informazzjoni fil-idejn. L-idea hi li l-AI tista’ ġġorr parti mill-piż investigattiv u ta’ dokumentazzjoni waqt inċident, u saħansitra tissuġġerixxi jew tawtomatizza xi azzjonijiet ta’ rispons.

Rwol ewlieni tal-AI fl-IR huwa l-analiżi u s-sommarju tal-inċidenti f'ħin reali . F'nofs inċident, dawk li jwieġbu jistgħu jkollhom bżonn tweġibiet għal mistoqsijiet bħal "Kif daħal l-attakkant?" , "Liema sistemi huma affettwati?" , u "Liema dejta tista' tkun kompromessa?" . L-AI Ġenerattiva tista' tanalizza l-logs, it-twissijiet, u d-dejta forensika minn sistemi affettwati u tipprovdi malajr għarfien. Pereżempju, Microsoft Security Copilot jippermetti lil min iwieġeb għall-inċidenti biex idaħħal diversi biċċiet ta' evidenza (fajls, URLs, logs tal-avvenimenti) u jitlob skeda ta' żmien jew sommarju ( Microsoft Security Copilot huwa assistent ġdid tal-AI GPT-4 għaċ-ċibersigurtà | The Verge ). L-AI tista' twieġeb b': "Il-ksur x'aktarx beda b'email ta' phishing lill-utent JohnDoe fl-10:53 GMT li kien fih malware X. Ladarba ġie eżegwit, il-malware ħoloq backdoor li ntuża jumejn wara biex jiċċaqlaq lateralment għas-server tal-finanzi, fejn ġabar id-dejta." Li jkollok din l-istampa koerenti f'minuti minflok sigħat tippermetti lit-tim jieħu deċiżjonijiet infurmati (bħal liema sistemi jiżolaw) ħafna aktar malajr.

L-IA Ġenerattiva tista' wkoll tissuġġerixxi azzjonijiet ta' konteniment u rimedju . Pereżempju, jekk endpoint jiġi infettat minn ransomware, għodda tal-IA tista' tiġġenera skript jew sett ta' struzzjonijiet biex tiżola dik il-magna, tiddiżattiva ċerti kontijiet, u timblokka IPs malizzjużi magħrufa fuq il-firewall – essenzjalment eżekuzzjoni ta' playbook. Palo Alto Networks tinnota li l-IA ġenerattiva hija kapaċi "tiġġenera azzjonijiet jew skripts xierqa bbażati fuq in-natura tal-inċident" , u tawtomatizza l-passi inizjali tar-rispons ( X'inhi l-IA Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ). F'xenarju fejn it-tim tas-sigurtà jkun mgħobbi żżejjed (ngħidu aħna attakk mifrux fuq mijiet ta' apparati), l-IA tista' saħansitra tesegwixxi direttament xi wħud minn dawn l-azzjonijiet taħt kundizzjonijiet approvati minn qabel, u taġixxi bħal rispondent junior li jaħdem bla heda. Pereżempju, aġent tal-IA jista' awtomatikament jirrisettja l-kredenzjali li jqis li kienu kompromessi jew jikkwarantina l-hosts li juru attività malizzjuża li taqbel mal-profil tal-inċident.

Waqt ir-rispons għall-inċident, il-komunikazzjoni hija vitali – kemm fi ħdan it-tim kif ukoll mal-partijiet interessati. L-IA Ġenerattiva tista’ tgħin billi tfassal rapporti ta’ aġġornament tal-inċidenti jew sommarji immedjatament . Minflok inġinier ma jwaqqaf is-soluzzjoni tal-problemi biex jikteb aġġornament bl-email, jista’ jistaqsi lill-IA, “Agħti sommarju ta’ x’ġara f’dan l-inċident s’issa biex tinforma lill-eżekuttivi.” L-IA, wara li tkun daħħlet id-dejta tal-inċident, tista’ tipproduċi sommarju konċiż: “Mit-3 PM, l-attakkanti aċċessaw 2 kontijiet ta’ utenti u 5 servers. Id-dejta affettwata tinkludi rekords tal-klijenti fid-database X. Miżuri ta’ konteniment: L-aċċess VPN għal kontijiet kompromessi ġie revokat u s-servers iżolati. Il-passi li jmiss: skennjar għal kwalunkwe mekkaniżmu ta’ persistenza.” Ir-rispondent imbagħad jista’ jivverifika jew jimmodifika dan malajr u jibgħatu, u jiżgura li l-partijiet interessati jinżammu infurmati b’informazzjoni preċiża u aġġornata.

Wara li jinqasmu l-affarijiet, tipikament ikun hemm rapport dettaljat tal-inċident xi jsir u t-tagħlimiet meħuda xi jsiru. Dan huwa qasam ieħor fejn l-appoġġ tal-AI jiddi. Jista' jirrevedi d-dejta kollha tal-inċident u jiġġenera rapport ta' wara l-inċident li jkopri l-kawża ewlenija, il-kronoloġija, l-impatt, u r-rakkomandazzjonijiet. IBM, pereżempju, qed tintegra l-AI ġenerattiva biex toħloq "sommarji sempliċi ta' każijiet u inċidenti ta' sigurtà li jistgħu jinqasmu mal-partijiet interessati" billi tagħfas buttuna ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Billi jissimplifikaw ir-rappurtar ta' wara l-azzjoni, l-organizzazzjonijiet jistgħu jimplimentaw titjib aktar malajr u jkollhom ukoll dokumentazzjoni aħjar għal skopijiet ta' konformità.

Użu innovattiv wieħed li jħares 'il quddiem huwa s-simulazzjonijiet ta' inċidenti mmexxija mill-AI . Simili għal kif wieħed jista' jmexxi drill tan-nar, xi kumpaniji qed jużaw AI ġenerattiva biex iwettqu xenarji ta' inċidenti "x'jiġri kieku". L-AI tista' tissimula kif ransomware jista' jinfirex minħabba t-tqassim tan-netwerk, jew kif persuna minn ġewwa tista' tesfiltra d-dejta, u mbagħad tikklassifika l-effettività tal-pjanijiet ta' rispons attwali. Dan jgħin lit-timijiet iħejju u jirfinaw il-pjanijiet ta' azzjoni qabel ma jseħħ inċident reali. Huwa bħallikieku jkollok konsulent tar-rispons għall-inċidenti li dejjem jitjieb u li kontinwament jittestja l-istat ta' tħejjija tiegħek.

F'industriji b'riskju għoli bħall-finanzi jew il-kura tas-saħħa, fejn il-ħin ta' waqfien jew it-telf ta' dejta minn inċidenti huwa partikolarment għali, dawn il-kapaċitajiet tal-IR immexxija mill-AI huma attraenti ħafna. Sptar li jesperjenza inċident ċibernetiku ma jistax jaffordja qtugħ tas-sistema fit-tul - AI li tgħin malajr fil-konteniment tista' litteralment issalva l-ħajjiet. Bl-istess mod, istituzzjoni finanzjarja tista' tuża l-AI biex timmaniġġja t-trijaġġ inizjali ta' intrużjoni suspettata ta' frodi fit-3 ta' filgħodu, sabiex sakemm il-bnedmin on-call ikunu online, ħafna xogħol preparatorju (qtugħ mill-kontijiet affettwati, imblukkar ta' tranżazzjonijiet, eċċ.) ikun diġà sar. Billi jżidu t-timijiet ta' rispons għall-inċidenti b'AI ġenerattiva , l-organizzazzjonijiet jistgħu jnaqqsu b'mod sinifikanti l-ħinijiet ta' rispons u jtejbu r-reqqa tal-immaniġġjar tagħhom, u fl-aħħar mill-aħħar itaffu l-ħsara minn inċidenti ċibernetiċi.

Analitika tal-Imġiba u Sejbien ta' Anomaliji

Ħafna attakki ċibernetiċi jistgħu jinqabdu billi wieħed jinnota meta xi ħaġa tiddevja mill-imġiba "normali" – kemm jekk ikun kont ta' utent li jniżżel ammont mhux tas-soltu ta' dejta jew apparat tan-netwerk li f'daqqa waħda jikkomunika ma' host mhux familjari. L-AI Ġenerattiva toffri tekniki avvanzati għall -analiżi tal-imġiba u d-detezzjoni ta' anomaliji , billi titgħallem il-mudelli normali tal-utenti u s-sistemi u mbagħad tissinjala meta xi ħaġa tidher mhux kif suppost.

L-iskoperta tradizzjonali ta' anomaliji spiss tuża limiti statistiċi jew tagħlim awtomatiku sempliċi fuq metriċi speċifiċi (żidiet fl-użu tas-CPU, login f'ħinijiet mhux tas-soltu, eċċ.). L-AI Ġenerattiva tista' tieħu dan aktar 'il quddiem billi toħloq profili ta' mġiba aktar sfumati. Pereżempju, mudell tal-AI jista' jinġerixxi l-logins, ix-xejriet ta' aċċess għall-fajls, u d-drawwiet tal-email ta' impjegat matul iż-żmien u jifforma fehim multidimensjonali tan-"normalità" ta' dak l-utent. Jekk dak il-kont aktar tard jagħmel xi ħaġa drastikament barra min-norma tiegħu (bħal li jidħol minn pajjiż ġdid u jaċċessa ġabra kbira ta' fajls tal-HR f'nofsillejl), l-AI tiskopri devjazzjoni mhux biss fuq metrika waħda iżda bħala xejra ta' mġiba sħiħa li ma taqbilx mal-profil tal-utent. F'termini tekniċi, mudelli ġenerattivi (bħal autoencoders jew mudelli ta' sekwenza) jistgħu jimmudellaw kif tidher in-"normalità" u mbagħad jiġġeneraw firxa mistennija ta' mġiba. Meta r-realtà taqa' barra minn dik il-firxa, tiġi mmarkata bħala anomalija ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ).

Implimentazzjoni prattika waħda hija fil- monitoraġġ tat-traffiku tan-netwerk . Skont stħarriġ tal-2024, 54% tal-organizzazzjonijiet tal-Istati Uniti semmew il-monitoraġġ tat-traffiku tan-netwerk bħala każ ta' użu ewlieni għall-AI fiċ-ċibersigurtà ( Amerika ta' Fuq: l-aqwa każijiet ta' użu tal-AI fiċ-ċibersigurtà madwar id-dinja 2024 ). L-AI Ġenerattiva tista' titgħallem il-mudelli normali ta' komunikazzjoni tan-netwerk ta' intrapriża - liema servers tipikament jitkellmu ma' xulxin, liema volumi ta' dejta jiċċaqalqu matul il-ħinijiet tan-negozju kontra matul il-lejl, eċċ. Jekk attakkant jibda jesfiltra d-dejta minn server, anke bil-mod biex jevita li jiġi skopert, sistema bbażata fuq l-AI tista' tinnota li "Server A qatt ma jibgħat 500MB ta' dejta fis-2 AM lil IP estern" u tqajjem twissija. Minħabba li l-AI mhix biss qed tuża regoli statiċi iżda mudell li qed jevolvi tal-imġiba tan-netwerk, tista' taqbad anomaliji sottili li regoli statiċi (bħal "twissija jekk id-dejta > X MB") jistgħu jitilfu jew jimmarkaw bi żball. Din in-natura adattiva hija dak li tagħmel l-iskoperta ta' anomaliji mmexxija mill-AI qawwija f'ambjenti bħal netwerks ta' tranżazzjonijiet bankarji, infrastruttura tal-cloud, jew flotot ta' apparati IoT, fejn id-definizzjoni ta' regoli fissi għal normali vs anormali hija estremament kumplessa.

L-AI Ġenerattiva qed tgħin ukoll fl -analitika tal-imġiba tal-utent (UBA) , li hija essenzjali biex jiġu identifikati theddid minn ġewwa jew kontijiet kompromessi. Billi tiġġenera linja bażi ta' kull utent jew entità, l-AI tista' tiskopri affarijiet bħall-użu ħażin tal-kredenzjali. Pereżempju, jekk Bob mill-kontabilità f'daqqa waħda jibda jistaqsi lid-database tal-klijenti (xi ħaġa li qatt ma għamel qabel), il-mudell tal-AI għall-imġiba ta' Bob se jimmarka dan bħala mhux tas-soltu. Jista' ma jkunx malware - jista' jkun każ fejn il-kredenzjali ta' Bob insterqu u ntużaw minn attakkant, jew Bob qed jinvestiga fejn m'għandux. Jew il-mod, it-tim tas-sigurtà jingħata twissija biex jinvestiga. Sistemi UBA mmexxija mill-AI bħal dawn jeżistu f'diversi prodotti tas-sigurtà, u tekniki ta' mmudellar ġenerattiv qed iżidu l-eżattezza tagħhom u jnaqqsu l-allarmi foloz billi jikkunsidraw il-kuntest (forsi Bob jinsab fuq proġett speċjali, eċċ., li l-AI xi kultant tista' tiddeduċi minn dejta oħra).

Fil-qasam tal-ġestjoni tal-identità u l-aċċess, l-iskoperta ta' deepfakes hija ħtieġa dejjem tikber - l-AI ġenerattiva tista' toħloq vuċijiet u vidjows sintetiċi li jqarrqu bis-sigurtà bijometrika. Interessanti, l-AI ġenerattiva tista' wkoll tgħin biex tiskopri dawn id-deepfakes billi tanalizza artefatti sottili fl-awdjo jew fil-vidjow li huma diffiċli biex jinnutaw mill-bnedmin. Rajna eżempju ma' Accenture, li użat AI ġenerattiva biex tissimula għadd kbir ta' espressjonijiet u kundizzjonijiet tal-wiċċ biex tħarreġ is-sistemi bijometriċi tagħha biex jiddistingwu utenti reali minn deepfakes iġġenerati mill-AI. Matul ħames snin, dan l-approċċ għen lil Accenture telimina l-passwords għal 90% tas-sistemi tagħha (imxiet għall-bijometrija u fatturi oħra) u tnaqqas l-attakki b'60% ( 6 Każijiet ta' Użu għall-AI Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Essenzjalment, użaw AI ġenerattiva biex isaħħu l-awtentikazzjoni bijometrika, u għamluha reżiljenti kontra attakki ġenerattivi (illustrazzjoni tajba tal-AI li tiġġieled l-AI). Dan it-tip ta' mmudellar tal-imġiba - f'dan il-każ ir-rikonoxximent tad-differenza bejn wiċċ uman ħaj vs. wieħed sintetizzat mill-AI - huwa kruċjali hekk kif niddependu aktar fuq l-AI fl-awtentikazzjoni.

L-iskoperta ta' anomaliji mħaddma mill-AI ġenerattiva hija applikabbli fl-industriji kollha: fil-kura tas-saħħa, il-monitoraġġ tal-imġiba tal-apparati mediċi għal sinjali ta' hacking; fil-finanzi, l-osservazzjoni tas-sistemi ta' kummerċ għal mudelli irregolari li jistgħu jindikaw frodi jew manipulazzjoni algoritmika; fl-enerġija/utilitajiet, l-osservazzjoni tas-sinjali tas-sistema ta' kontroll għal sinjali ta' intrużjonijiet. Il-kombinazzjoni ta' wisa' (li tħares lejn l-aspetti kollha tal-imġiba) u fond (fehim ta' mudelli kumplessi) li tipprovdi l-AI ġenerattiva tagħmilha għodda qawwija biex jiġu identifikati l-indikaturi ta' inċident ċibernetiku bħal labra f'munzell tat-tiben. Hekk kif it-theddid isir aktar moħbi, u jinħeba fost operazzjonijiet normali, din il-ħila li tikkaratterizza b'mod preċiż in-"normal" u tgħajjat meta xi ħaġa tiddevja ssir vitali. L-AI ġenerattiva għalhekk isservi bħala sentinella bla heda, li dejjem titgħallem u taġġorna d-definizzjoni tagħha ta' normalità biex iżżomm il-pass mal-bidliet fl-ambjent, u twissi lit-timijiet tas-sigurtà dwar anomaliji li jistħoqqilhom spezzjoni aktar mill-qrib.

Opportunitajiet u Benefiċċji tal-AI Ġenerattiva fiċ-Ċibersigurtà

L-applikazzjoni tal-IA ġenerattiva fiċ-ċibersigurtà ġġib magħha għadd ta’ opportunitajiet u benefiċċji għal organizzazzjonijiet li huma lesti li jħaddnu dawn l-għodod. Hawn taħt, niġbru fil-qosor il-vantaġġi ewlenin li jagħmlu l-IA ġenerattiva żieda konvinċenti għall-programmi taċ-ċibersigurtà:

Sejbien u Rispons Aktar Mgħaġġla għat-Theddid: Sistemi tal-AI ġenerattivi jistgħu janalizzaw ammonti vasti ta' dejta f'ħin reali u jagħrfu t-theddid ħafna aktar malajr mill-analiżi manwali umana. Dan il-vantaġġ tal-veloċità jfisser skoperta aktar bikrija ta' attakki u kontroll aktar mgħaġġel tal-inċidenti. Fil-prattika, il-monitoraġġ tas-sigurtà mmexxi mill-AI jista' jaqbad theddid li l-bnedmin jieħdu ħafna aktar żmien biex jikkorrelataw. Billi jirrispondu għall-inċidenti fil-pront (jew saħansitra jesegwixxu risposti inizjali b'mod awtonomu), l-organizzazzjonijiet jistgħu jnaqqsu b'mod drammatiku l-ħin li l-attakkanti jdumu fin-netwerks tagħhom, u b'hekk jimminimizzaw il-ħsara.
Preċiżjoni u Kopertura ta' Theddid Imtejba: Minħabba li jitgħallmu kontinwament minn dejta ġdida, il-mudelli ġenerattivi jistgħu jadattaw għal theddid li jevolvu u jaqbdu sinjali aktar sottili ta' attività malizzjuża. Dan iwassal għal preċiżjoni ta' skoperta mtejba (inqas negattivi foloz u pożittivi foloz) meta mqabbla mar-regoli statiċi. Pereżempju, AI li tkun tgħallmet il-karatteristiċi ta' email ta' phishing jew imġieba ta' malware tista' tidentifika varjanti li qatt ma dehru qabel. Ir-riżultat huwa kopertura usa' ta' tipi ta' theddid - inklużi attakki ġodda - li ssaħħaħ il-qagħda ġenerali tas-sigurtà. It-timijiet tas-sigurtà jiksbu wkoll għarfien dettaljat mill-analiżi tal-AI (eż. spjegazzjonijiet tal-imġieba tal-malware), li jippermettu difiżi aktar preċiżi u mmirati ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ).
Awtomazzjoni ta' Kompiti Ripetittivi: L-AI Ġenerattiva tispikka fl-awtomazzjoni ta' kompiti ta' sigurtà ta' rutina u li jeħtieġu ħafna xogħol – mit-tfittxija tal-logs u l-kumpilazzjoni ta' rapporti sal-kitba ta' skripts ta' rispons għall-inċidenti. Din l-awtomazzjoni tnaqqas il-piż fuq l-analisti umani , u teħlishom biex jiffokaw fuq strateġija ta' livell għoli u teħid ta' deċiżjonijiet kumplessi ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ). Kompiti mondani iżda importanti bħall-iskennjar tal-vulnerabbiltajiet, il-verifika tal-konfigurazzjoni, l-analiżi tal-attività tal-utent, u r-rappurtar tal-konformità jistgħu jiġu ttrattati (jew għall-inqas abbozzati għall-ewwel darba) mill-AI. Billi tittratta dawn il-kompiti bil-veloċità tal-magna, l-AI mhux biss ittejjeb l-effiċjenza iżda tnaqqas ukoll l-iżball uman (fattur sinifikanti fil-ksur tas-sigurtà).
Difiża u Simulazzjoni Proattiva: L-AI Ġenerattiva tippermetti lill-organizzazzjonijiet jaqilbu minn sigurtà reattiva għal sigurtà proattiva. Permezz ta’ tekniki bħas-simulazzjoni ta’ attakk, il-ġenerazzjoni ta’ dejta sintetika, u t-taħriġ ibbażat fuq xenarji, id-difensuri jistgħu jantiċipaw u jippreparaw għat-theddid qabel ma jimmaterjalizzaw fid-dinja reali. It-timijiet tas-sigurtà jistgħu jissimulaw attakki ċibernetiċi (kampanji ta’ phishing, tifqigħat ta’ malware, DDoS, eċċ.) f’ambjenti sikuri biex jittestjaw ir-risponsi tagħhom u jsaħħu kwalunkwe dgħufija. Dan it-taħriġ kontinwu, ħafna drabi impossibbli li jsir bir-reqqa biss bl-isforz uman, iżomm id-difiżi preċiżi u aġġornati. Huwa simili għal “eżerċizzju tan-nar” ċibernetiku – l-AI tista’ titfa’ ħafna theddid ipotetiku lejn id-difiżi tiegħek sabiex tkun tista’ tipprattika u ttejjeb.
Iż-Żieda tal-Għarfien Espert tal-Bniedem (l-IA bħala Moltiplikatur tal-Forza): L-IA Ġenerattiva taġixxi bħala analista junior bla heda, konsulent, u assistent flimkien. Tista' tipprovdi lill-membri tat-tim b'inqas esperjenza b'gwida u rakkomandazzjonijiet tipikament mistennija minn esperti mħawrin, u b'hekk tiddemokratizza b'mod effettiv l-għarfien espert fit-tim kollu ( 6 Każijiet ta' Użu għall-IA Ġenerattiva fiċ-Ċibersigurtà [+ Eżempji] ). Dan huwa speċjalment siewi minħabba n-nuqqas ta' talent fiċ-ċibersigurtà - l-IA tgħin lit-timijiet iżgħar jagħmlu aktar b'inqas. L-analisti b'esperjenza, min-naħa l-oħra, jibbenefikaw mill-IA li timmaniġġja xogħol iebes u toħroġ għarfien mhux ovvju, li mbagħad jistgħu jivvalidaw u jaġixxu fuqu. Ir-riżultat ġenerali huwa tim tas-sigurtà li huwa ħafna aktar produttiv u kapaċi, bl-IA li tamplifika l-impatt ta' kull membru uman ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà ).
Appoġġ u Rappurtar Imtejba għad-Deċiżjonijiet: Billi tittraduċi d-dejta teknika f'għarfien tal-lingwa naturali, l-AI ġenerattiva ttejjeb il-komunikazzjoni u t-teħid tad-deċiżjonijiet. Il-mexxejja tas-sigurtà jiksbu viżibilità aktar ċara tal-kwistjonijiet permezz ta' sommarji ġġenerati mill-AI u jistgħu jieħdu deċiżjonijiet strateġiċi infurmati mingħajr ma jkollhom bżonn janalizzaw id-dejta mhux ipproċessata. Bl-istess mod, il-komunikazzjoni interfunzjonali (lill-eżekuttivi, lill-uffiċjali tal-konformità, eċċ.) titjieb meta l-AI tħejji rapporti faċli biex jinftiehmu dwar il-qagħda tas-sigurtà u l-inċidenti ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Dan mhux biss jibni l-kunfidenza u l-allinjament fuq kwistjonijiet ta' sigurtà fil-livell ta' tmexxija iżda jgħin ukoll biex jiġġustifika l-investimenti u l-bidliet billi jartikolat b'mod ċar ir-riskji u l-lakuni skoperti mill-AI.

Flimkien, dawn il-benefiċċji jfissru li l-organizzazzjonijiet li jisfruttaw l-AI ġenerattiva fiċ-ċibersigurtà jistgħu jiksbu qagħda ta’ sigurtà aktar b’saħħitha bi spejjeż operattivi potenzjalment aktar baxxi. Jistgħu jirrispondu għal theddid li qabel kien kbir wisq, ikopru lakuni li ma kinux immonitorjati, u jtejbu kontinwament permezz ta’ linji ta’ feedback immexxija mill-AI. Fl-aħħar mill-aħħar, l-AI ġenerattiva toffri ċ-ċans li wieħed jegħleb lill-avversarji billi jqabbel il- veloċità, l-iskala, u s-sofistikazzjoni tal-attakki moderni ma’ difiżi daqstant sofistikati. Kif sab stħarriġ wieħed, aktar minn nofs il-mexxejja tan-negozju u ċibernetiċi jantiċipaw skoperta aktar mgħaġġla tat-theddid u preċiżjoni akbar permezz tal-użu tal-AI ġenerattiva ( [PDF] Global Cybersecurity Outlook 2025 | World Economic Forum ) ( AI Ġenerattiva fiċ-Ċibersigurtà: Reviżjoni Komprensiva tal-LLM ... ) – xhieda tal-ottimiżmu madwar il-benefiċċji ta’ dawn it-teknoloġiji.

Riskji u Sfidi tal-Użu tal-IA Ġenerattiva fiċ-Ċibersigurtà

Filwaqt li l-opportunitajiet huma sinifikanti, huwa kruċjali li wieħed jersaq lejn l-IA ġenerattiva fiċ-ċibersigurtà b'għajnejn miftuħa għar- riskji u l-isfidi involuti. Il-fiduċja għamja fl-IA jew l-użu ħażin tagħha jistgħu jintroduċu vulnerabbiltajiet ġodda. Hawn taħt, niddeskrivu fil-qosor it-tħassib u l-iżvantaġġi ewlenin, flimkien mal-kuntest għal kull wieħed:

Użu Avversarju miċ-Ċiberkriminali: L-istess kapaċitajiet ġenerattivi li jgħinu lid-difensuri jistgħu jagħtu s-setgħa lill-attakkanti. L-atturi tat-theddid diġà qed jużaw l-IA ġenerattiva biex ifasslu emails ta’ phishing aktar konvinċenti, joħolqu personas foloz u vidjows deepfake għall-inġinerija soċjali, jiżviluppaw malware polimorfiku li jinbidel kontinwament biex jevadi d-detezzjoni, u saħansitra awtomatizzaw aspetti tal-hacking ( X'inhi l-IA Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ). Kważi nofs (46%) il-mexxejja taċ-ċibersigurtà huma mħassba li l-IA ġenerattiva se twassal għal attakki avversarji aktar avvanzati ( Sigurtà tal-IA Ġenerattiva: Xejriet, Theddid u Strateġiji ta' Mitigazzjoni ). Din it-"tellieqa tal-armi tal-IA" tfisser li hekk kif id-difensuri jadottaw l-IA, l-attakkanti mhux se jkunu 'l bogħod (fil-fatt, jistgħu jkunu 'l quddiem f'xi oqsma, bl-użu ta' għodod tal-IA mhux regolati). L-organizzazzjonijiet iridu jkunu ppreparati għal theddid imtejjeb mill-IA li huwa aktar frekwenti, sofistikat, u diffiċli biex jiġi traċċat.
Alluċinazzjonijiet u Ineżattezza tal-AI: Mudelli ġenerattivi tal-AI jistgħu jipproduċu outputs li huma plawżibbli iżda mhux korretti jew qarrieqa – fenomenu magħruf bħala alluċinazzjoni. F'kuntest ta' sigurtà, AI tista' tanalizza inċident u tikkonkludi b'mod żbaljat li ċerta vulnerabbiltà kienet il-kawża, jew tista' tiġġenera skript ta' rimedjazzjoni difettuż li jonqos milli jkun fih attakk. Dawn l-iżbalji jistgħu jkunu perikolużi jekk jittieħdu kif inhuma. Kif iwissi NTT Data, "l-AI ġenerattiva tista' plawżibbilment toħroġ kontenut mhux veru, u dan il-fenomenu jissejjaħ alluċinazzjonijiet... bħalissa huwa diffiċli li jiġu eliminati kompletament" ( Riskji ta' Sigurtà tal-AI Ġenerattiva u l-Kontromiżuri, u l-Impatt tagħha fuq iċ-Ċibersigurtà | NTT DATA Group ). Id-dipendenza żejda fuq l-AI mingħajr verifika tista' twassal għal sforzi diretti ħażin jew sens falz ta' sigurtà. Pereżempju, AI tista' timmarka b'mod falz sistema kritika bħala sigura meta ma tkunx, jew bil-maqlub, tqanqal paniku billi "tidentifika" ksur li qatt ma ġara. Validazzjoni rigoruża tal-outputs tal-AI u li jkun hemm bnedmin involuti fid-deċiżjonijiet kritiċi hija essenzjali biex jittaffa dan ir-riskju.
Pożittivi u Negattivi Foloz: Relatati mal-alluċinazzjonijiet, jekk mudell tal-AI ma jkunx imħarreġ jew ikkonfigurat sew, jista' jirrapporta żżejjed attività beninna bħala malizzjuża (pożittivi foloz) jew, agħar minn hekk, jitlef theddid reali (negattivi foloz) ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà ). Twissijiet foloz eċċessivi jistgħu jegħlbu lit-timijiet tas-sigurtà u jwasslu għal għeja fit-twissijiet (u b'hekk iħassru l-istess qligħ fl-effiċjenza li wiegħdet l-AI), filwaqt li s-sejbiet mitlufa jħallu l-organizzazzjoni esposta. L-irfinar tal-mudelli ġenerattivi għall-bilanċ it-tajjeb huwa ta' sfida. Kull ambjent huwa uniku, u AI tista' ma taħdimx immedjatament b'mod ottimali mill-bidu nett. It-tagħlim kontinwu huwa wkoll xafra b'żewġt ixfar - jekk l-AI titgħallem minn feedback li huwa żbilanċjat jew minn ambjent li jinbidel, l-eżattezza tagħha tista' tvarja. It-timijiet tas-sigurtà jridu jimmonitorjaw il-prestazzjoni tal-AI u jaġġustaw il-limiti jew jipprovdu feedback korrettiv lill-mudelli. F'kuntesti ta' riskju għoli (bħad-detezzjoni ta' intrużjoni għal infrastruttura kritika), jista' jkun prudenti li jitħaddmu suġġerimenti tal-AI b'mod parallel mas-sistemi eżistenti għal perjodu ta' żmien, biex jiġi żgurat li jallinjaw u jikkomplementaw aktar milli jikkonfliġġu.
Privatezza u Tnixxija tad-Data: Is-sistemi tal-IA ġenerattivi spiss jeħtieġu ammonti kbar ta’ data għat-taħriġ u t-tħaddim. Jekk dawn il-mudelli huma bbażati fuq il-cloud jew mhumiex iżolati sew, hemm riskju li informazzjoni sensittiva tista’ tinxtered. L-utenti jistgħu bla ma jintebħu jdaħħlu data proprjetarja jew data personali f’servizz tal-IA (aħseb li titlob lil ChatGPT biex tiġbor fil-qosor rapport ta’ inċident kunfidenzjali), u dik id-data tista’ ssir parti mill-għarfien tal-mudell. Tabilħaqq, studju reċenti sab li 55% tal-inputs għal għodod tal-IA ġenerattivi kien fihom informazzjoni sensittiva jew personalment identifikabbli , u dan iqajjem tħassib serju dwar it-tnixxija tad-data ( Sigurtà tal-IA Ġenerattiva: Xejriet, Theddid u Strateġiji ta’ Mitigazzjoni ). Barra minn hekk, jekk IA tkun ġiet imħarrġa fuq data interna u tiġi mistoqsija b’ċerti modi, tista’ toħroġ biċċiet minn dik id-data sensittiva lil xi ħadd ieħor. L-organizzazzjonijiet iridu jimplimentaw politiki stretti dwar l-immaniġġjar tad-data (eż. l-użu ta’ istanzi tal-IA fuq il-post jew privati għal materjal sensittiv) u jedukaw lill-impjegati dwar li ma jpejstjawx informazzjoni sigrieta f’għodod pubbliċi tal-IA. Ir-regolamenti dwar il-privatezza (GDPR, eċċ.) jidħlu wkoll fis-seħħ – l-użu ta’ data personali biex titħarreġ l-IA mingħajr kunsens jew protezzjoni xierqa jista’ jmur kontra l-liġijiet.
Sigurtà u Manipulazzjoni tal-Mudell: Il-mudelli tal-IA ġenerattivi nfushom jistgħu jsiru miri. L-avversarji jistgħu jippruvaw avvelenaw il-mudell , billi jgħaddu dejta malizzjuża jew qarrieqa matul il-fażi tat-taħriġ jew tat-taħriġ mill-ġdid sabiex l-IA titgħallem mudelli żbaljati ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà ). Pereżempju, attakkant jista' b'mod sottili javvelena d-dejta tal-intelliġenza tat-theddid sabiex l-IA tonqos milli tagħraf il-malware tal-attakkant stess bħala malizzjuż. Tattika oħra hija l-injezzjoni fil-pront jew il-manipulazzjoni tal-output , fejn attakkant isib mod kif joħroġ inputs lill-IA li jikkawżaw li din taġixxi b'modi mhux intenzjonati - forsi biex tinjora l-guardrails tas-sigurtà tagħha jew biex tiżvela informazzjoni li m'għandhiex (bħal prompts jew dejta interni). Barra minn hekk, hemm ir-riskju ta' evażjoni tal-mudell : l-attakkanti joħolqu input iddisinjat speċifikament biex iqarrqu bl-IA. Naraw dan f'eżempji avversarji - dejta kemxejn imfixkla li bniedem jara bħala normali iżda l-IA tikklassifika ħażin. Li jiġi żgurat li l-katina tal-provvista tal-AI tkun sigura (integrità tad-dejta, kontroll tal-aċċess għall-mudell, ittestjar tar-robustezza avversarja) hija parti ġdida iżda neċessarja taċ-ċibersigurtà meta jiġu skjerati dawn l-għodod ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ).
Dipendenza Żżejjed u Erożjoni tal-Ħiliet: Hemm riskju aktar baxx li l-organizzazzjonijiet jistgħu jsiru dipendenti żżejjed fuq l-AI u jħallu l-ħiliet umani jitmermru. Jekk l-analisti junior jibdew jafdaw ir-riżultati tal-AI bl-addoċċ, jistgħu ma jiżviluppawx il-ħsieb kritiku u l-intwizzjoni meħtieġa meta l-AI ma tkunx disponibbli jew tkun żbaljata. Xenarju li għandu jiġi evitat huwa tim tas-sigurtà li jkollu għodod tajbin iżda l-ebda idea kif jopera jekk dawk l-għodod ma jaħdmux (simili għal piloti li jiddependu żżejjed fuq l-awtopilota). Eżerċizzji ta' taħriġ regolari mingħajr l-assistenza tal-AI u t-trawwim ta' mentalità li l-AI hija assistent, mhux oraklu infallibbli, huma importanti biex l-analisti umani jibqgħu attenti. Il-bnedmin għandhom jibqgħu dawk li jieħdu d-deċiżjonijiet aħħarija, speċjalment għal ġudizzji ta' impatt għoli.
Sfidi Etiċi u ta' Konformità: L-użu tal-IA fiċ-ċibersigurtà jqajjem mistoqsijiet etiċi u jista' jwassal għal kwistjonijiet ta' konformità regolatorja. Pereżempju, jekk sistema tal-IA timplika b'mod żbaljat impjegat bħala persuna minn ġewwa malizzjuża minħabba anomalija, tista' tagħmel ħsara inġustament lir-reputazzjoni jew lill-karriera ta' dik il-persuna. Id-deċiżjonijiet meħuda mill-IA jistgħu jkunu opaki (il-problema tal-"kaxxa sewda"), u dan jagħmilha diffiċli biex wieħed jispjega lill-awdituri jew lir-regolaturi għaliex ittieħdu ċerti azzjonijiet. Hekk kif il-kontenut iġġenerat mill-IA jsir aktar prevalenti, l-iżgurar tat-trasparenza u ż-żamma tar-responsabbiltà huma kruċjali. Ir-regolaturi qed jibdew jiskrutinizzaw l-IA - l-Att dwar l-IA tal-UE, pereżempju, se jimponi rekwiżiti fuq sistemi tal-IA ta' "riskju għoli", u ċ-ċibersigurtà tal-IA tista' taqa' f'dik il-kategorija. Il-kumpaniji se jkollhom jinnavigaw dawn ir-regolamenti u possibbilment jaderixxu ma' standards bħall-Qafas ta' Ġestjoni tar-Riskju tal-IA tan-NIST biex jużaw l-IA ġenerattiva b'mod responsabbli ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ). Il-konformità testendi wkoll għal-liċenzjar: l-użu ta' mudelli open-source jew ta' partijiet terzi jista' jkollu termini li jirrestrinġu ċerti użi jew jeħtieġu titjib fil-kondiviżjoni.

Fil-qosor, l-IA ġenerattiva mhijiex soluzzjoni mirakoluża – jekk ma tiġix implimentata bir-reqqa, tista' tintroduċi dgħufijiet ġodda anke waqt li ssolvi oħrajn. Studju tal-Forum Ekonomiku Dinji tal-2024 enfasizza li ~47% tal-organizzazzjonijiet ikkwotaw l-avvanzi fl-IA ġenerattiva mill-attakkanti bħala tħassib ewlieni, u dan jagħmilha "l-aktar impatt inkwetanti tal-IA ġenerattiva" fiċ-ċibersigurtà ( [PDF] Global Cybersecurity Outlook 2025 | Forum Ekonomiku Dinji ) ( IA Ġenerattiva fiċ-Ċibersigurtà: Reviżjoni Komprensiva tal-LLM ... ). Għalhekk, l-organizzazzjonijiet iridu jadottaw approċċ bilanċjat: jisfruttaw il-benefiċċji tal-IA filwaqt li jimmaniġġjaw b'mod rigoruż dawn ir-riskji permezz ta' governanza, ittestjar, u sorveljanza umana. Sussegwentement se niddiskutu kif niksbu dak il-bilanċ b'mod prattiku.

Prospetti Futuri: Ir-Rwol li Qed Jevolvi tal-AI Ġenerattiva fiċ-Ċibersigurtà

B'ħarsa 'l quddiem, l-IA ġenerattiva tinsab f'pożizzjoni li ssir parti integrali mill-istrateġija taċ-ċibersigurtà – u bl-istess mod, għodda li l-avversarji ċibernetiċi se jkomplu jisfruttaw. Id- dinamika tal-qattus u l-ġurdien se taċċellera, bl-IA fuq iż-żewġ naħat tal-ħajt. Hawn huma xi għarfien li jħares 'il quddiem dwar kif l-IA ġenerattiva tista' ssawwar iċ-ċibersigurtà fis-snin li ġejjin:

Id-Difiża Ċibernetika Awmentata bl-AI Issir Standard: Sal-2025 u lil hinn, nistgħu nistennew li l-biċċa l-kbira tal-organizzazzjonijiet ta’ daqs medju sa kbir ikunu inkorporaw għodod immexxija mill-AI fl-operazzjonijiet tas-sigurtà tagħhom. Hekk kif l-antivirus u l-firewalls huma standard illum, il-kopiloti tal-AI u s-sistemi ta’ skoperta ta’ anomaliji jistgħu jsiru komponenti bażiċi tal-arkitetturi tas-sigurtà. Dawn l-għodod x’aktarx isiru aktar speċjalizzati – pereżempju, mudelli distinti tal-AI rfinati għas-sigurtà tal-cloud, għall-monitoraġġ tal-apparati IoT, għas-sigurtà tal-kodiċi tal-applikazzjoni, eċċ., kollha jaħdmu flimkien. Kif jinnota tbassir wieħed, “fl-2025, l-AI ġenerattiva se tkun integrali għaċ-ċibersigurtà, li tippermetti lill-organizzazzjonijiet jiddefendu kontra theddid sofistikat u li qed jevolvi b’mod proattiv” ( Kif Tista’ l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà ). L-AI se ttejjeb id-detezzjoni tat-theddid f’ħin reali, awtomatizza ħafna azzjonijiet ta’ rispons, u tgħin lit-timijiet tas-sigurtà jimmaniġġjaw volumi ta’ dejta ferm akbar milli jistgħu manwalment.
Tagħlim u Adattament Kontinwi: Is-sistemi futuri tal-IA ġenerattivi fiċ-ċibersigurtà se jsiru aħjar fit -tagħlim immedjat minn inċidenti ġodda u intelligence dwar theddid, u jaġġornaw il-bażi tal-għarfien tagħhom kważi f'ħin reali. Dan jista' jwassal għal difiżi tassew adattivi – immaġina IA li titgħallem dwar kampanja ġdida ta' phishing li tolqot kumpanija oħra filgħodu u sa wara nofsinhar tkun diġà aġġustat il-filtri tal-email tal-kumpanija tiegħek b'reazzjoni. Servizzi ta' sigurtà tal-IA bbażati fuq il-cloud jistgħu jiffaċilitaw dan it-tip ta' tagħlim kollettiv, fejn għarfien anonimizzat minn organizzazzjoni waħda jibbenefika l-abbonati kollha (simili għall-kondiviżjoni ta' intelligence dwar theddid, iżda awtomatizzat). Madankollu, dan se jeħtieġ immaniġġjar bir-reqqa biex jiġi evitat il-kondiviżjoni ta' informazzjoni sensittiva u biex jiġi evitat li l-attakkanti jdaħħlu dejta ħażina fil-mudelli kondiviżi.
Konverġenza tat-Talent tal-AI u ċ-Ċibersigurtà: Is-sett ta’ ħiliet tal-professjonisti taċ-ċibersigurtà se jevolvi biex jinkludi l-profiċjenza fl-AI u x-xjenza tad-dejta. Hekk kif l-analisti tal-lum jitgħallmu lingwi ta’ mistoqsijiet u scripting, l-analisti ta’ għada jistgħu jirfinaw regolarment il-mudelli tal-AI jew jiktbu “playbooks” biex l-AI jesegwixxuhom. Nistgħu naraw rwoli ġodda bħal “Trejner tas-Sigurtà tal-AI” jew “Inġinier taċ-Ċibersigurtà tal-AI” – nies li jispeċjalizzaw fl-adattament tal-għodod tal-AI għall-bżonnijiet ta’ organizzazzjoni, il-validazzjoni tal-prestazzjoni tagħhom, u l-iżgurar li joperaw b’mod sigur. Min-naħa l-oħra, il-kunsiderazzjonijiet taċ-ċibersigurtà se jinfluwenzaw dejjem aktar l-iżvilupp tal-AI. Is-sistemi tal-AI se jinbnew b’karatteristiċi ta’ sigurtà mill-bidu nett (arkitettura sigura, skoperta ta’ tbagħbis, reġistri tal-awditjar għad-deċiżjonijiet tal-AI, eċċ.), u oqfsa għal AI affidabbli (ġusta, spjegabbli, robusta, u sigura) se jiggwidaw l-iskjerament tagħhom f’kuntesti kritiċi għas-sigurtà.
Attakki Aktar Sofistikati Mħaddma mill-AI: Sfortunatament, ix-xenarju tat-theddid se jevolvi wkoll bl-AI. Nantiċipaw użu aktar frekwenti tal-AI biex jiskopru vulnerabbiltajiet ta' zero-day, biex joħolqu spear phishing immirat ħafna (eż. l-AI li jiskrapja l-midja soċjali biex joħloq lixka mfassla perfettament), u biex jiġġeneraw vuċijiet jew vidjows deepfake konvinċenti biex jevitaw l-awtentikazzjoni bijometrika jew iwettqu frodi. Jistgħu jitfaċċaw aġenti ta' hacking awtomatizzati li jistgħu jwettqu b'mod indipendenti attakki f'diversi stadji (rikonoxximent, sfruttament, moviment laterali, eċċ.) b'sorveljanza umana minima. Dan se jagħmel pressjoni lid-difensuri biex jiddependu wkoll fuq l-AI - essenzjalment awtomazzjoni vs. awtomazzjoni . Xi attakki jistgħu jseħħu b'veloċità tal-magna, bħal bots tal-AI li jippruvaw elf permutazzjonijiet ta' emails ta' phishing biex jaraw liema waħda tgħaddi mill-filtri. Id-difiżi ċibernetiċi se jkollhom joperaw b'veloċità u flessibbiltà simili biex ilaħħqu ( X'inhi l-AI Ġenerattiva fiċ-Ċibersigurtà? - Palo Alto Networks ).
Regolamentazzjoni u IA Etika fis-Sigurtà: Hekk kif l-IA ssir integrata sew fil-funzjonijiet taċ-ċibersigurtà, se jkun hemm skrutinju akbar u possibbilment regolamentazzjoni biex jiġi żgurat li dawn is-sistemi tal-IA jintużaw b'mod responsabbli. Nistgħu nistennew oqfsa u standards speċifiċi għall-IA fis-sigurtà. Il-gvernijiet jistgħu jistabbilixxu linji gwida għat-trasparenza – eż., li jirrikjedu li deċiżjonijiet sinifikanti dwar is-sigurtà (bħat-terminazzjoni tal-aċċess ta' impjegat għal attività malizzjuża suspettata) ma jistgħux jittieħdu mill-IA waħedha mingħajr reviżjoni umana. Jista' jkun hemm ukoll ċertifikazzjonijiet għal prodotti ta' sigurtà tal-IA, biex jiżguraw lix-xerrejja li l-IA ġiet evalwata għall-preġudizzju, ir-robustezza u s-sikurezza. Barra minn hekk, il-kooperazzjoni internazzjonali tista' tikber madwar theddid ċibernetiku relatat mal-IA; pereżempju, ftehimiet dwar l-immaniġġjar ta' diżinformazzjoni maħluqa mill-IA jew normi kontra ċerti armi ċibernetiċi mmexxija mill-IA.
Integrazzjoni ma' Ekosistemi tal-AI u tal-IT usa': L-AI ġenerattiva fiċ-ċibersigurtà x'aktarx se tintegra ma' sistemi oħra tal-AI u għodod ta' ġestjoni tal-IT. Pereżempju, AI li timmaniġġja l-ottimizzazzjoni tan-netwerk tista' taħdem mal-AI tas-sigurtà biex tiżgura li l-bidliet ma jiftħux lakuni. L-analitika tan-negozju mmexxija mill-AI tista' taqsam id-dejta mal-AIs tas-sigurtà biex tikkorrelata anomaliji (bħal tnaqqis f'daqqa fil-bejgħ ma' problema possibbli fil-websajt minħabba attakk). Essenzjalment, l-AI mhux se tgħix f'silo - se tkun parti minn tessut intelliġenti akbar tal-operazzjonijiet ta' organizzazzjoni. Dan jiftaħ opportunitajiet għal ġestjoni olistika tar-riskju fejn id-dejta operattiva, id-dejta dwar it-theddid, u anke d-dejta dwar is-sigurtà fiżika jistgħu jiġu kkombinati mill-AI biex jagħtu veduta ta' 360 grad tal-qagħda tas-sigurtà organizzazzjonali.

Fit-tul, it-tama hi li l-IA ġenerattiva tgħin biex tmejjel il-bilanċ favur id-difensuri. Billi timmaniġġja l-iskala u l-kumplessità tal-ambjenti moderni tal-IT, l-IA tista' tagħmel iċ-ċiberspazju aktar difendibbli. Madankollu, huwa vjaġġ, u se jkun hemm uġigħ ta' tkabbir hekk kif nirfinaw dawn it-teknoloġiji u nitgħallmu nafdawhom b'mod xieraq. L-organizzazzjonijiet li jibqgħu infurmati u jinvestu fl- adozzjoni responsabbli tal-IA għas-sigurtà x'aktarx ikunu dawk fl-aħjar pożizzjoni biex jinnavigaw it-theddidiet tal-futur.

Kif innota r-rapport reċenti dwar ix-xejriet taċ-ċibersigurtà ta' Gartner, "il-feġġ ta' każijiet ta' użu (u riskji) tal-IA ġenerattiva qed joħloq pressjoni għat-trasformazzjoni" ( Xejriet taċ-Ċibersigurtà: Reżiljenza Permezz tat-Trasformazzjoni - Gartner ). Dawk li jadattaw se jisfruttaw l-IA bħala alleat qawwi; dawk li jibqgħu lura jistgħu jsibu ruħhom megħluba minn avversarji mogħtija s-setgħa mill-IA. Il-ftit snin li ġejjin se jkunu żmien kruċjali fid-definizzjoni ta' kif l-IA tfassal mill-ġdid il-kamp tal-battalja ċibernetika.

Punti Prattiċi għall-Adozzjoni tal-AI Ġenerattiva fiċ-Ċibersigurtà

Għan-negozji li qed jevalwaw kif jisfruttaw l-AI ġenerattiva fl-istrateġija taċ-ċibersigurtà tagħhom, hawn xi konklużjonijiet prattiċi u rakkomandazzjonijiet biex jiggwidaw adozzjoni responsabbli u effettiva:

Ibda bl-Edukazzjoni u t-Taħriġ: Kun żgur li t-tim tas-sigurtà tiegħek (u l-istaff tal-IT inġenerali) jifhem x'tista' u x'ma tistax tagħmel l-AI ġenerattiva. Ipprovdi taħriġ dwar il-bażiċi tal-għodod tas-sigurtà mmexxija mill-AI u aġġorna l-programmi ta' sensibilizzazzjoni dwar is-sigurtà għall-impjegati kollha biex tkopri t-theddidiet abilitati mill-AI. Pereżempju, għallem lill-istaff kif l-AI tista' tiġġenera scams ta' phishing konvinċenti ħafna u sejħiet deepfake. Fl-istess ħin, ħarreġ lill-impjegati dwar l-użu sikur u approvat tal-għodod tal-AI fix-xogħol tagħhom. Utenti infurmati sew huma anqas probabbli li jimmaniġġjaw ħażin l-AI jew jaqgħu vittmi ta' attakki msaħħa mill-AI ( Kif Tista' l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ).
Iddefinixxi Politiki Ċari dwar l-Użu tal-IA: Ittratta l-IA ġenerattiva bħal kwalunkwe teknoloġija qawwija – b'governanza. Żviluppa politiki li jispeċifikaw min jista' juża l-għodod tal-IA, liema għodod huma sanzjonati, u għal liema skopijiet. Inkludi linji gwida dwar l-immaniġġjar ta' dejta sensittiva (eż. l-ebda dħul ta' dejta kunfidenzjali f'servizzi esterni tal-IA) biex tevita t-tnixxijiet. Bħala eżempju, tista' tippermetti biss lill-membri tat-tim tas-sigurtà jużaw assistent intern tal-IA għar-rispons għall-inċidenti, u l-kummerċjalizzazzjoni tista' tuża IA vverifikata għall-kontenut – kulħadd huwa ristrett. Ħafna organizzazzjonijiet issa qed jindirizzaw b'mod espliċitu l-IA ġenerattiva fil-politiki tal-IT tagħhom, u l-korpi ewlenin tal-istandards jinkoraġġixxu politiki ta' użu sikur aktar milli projbizzjonijiet diretti ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Kun żgur li tikkomunika dawn ir-regoli u r-raġuni warajhom lill-impjegati kollha.
Immiti l-“Shadow AI” u l-Użu tal-Monitoraġġ: Simili għall-IT shadow, l-“shadow AI” tinqala’ meta l-impjegati jibdew jużaw għodod jew servizzi tal-AI mingħajr l-għarfien tal-IT (eż. żviluppatur li juża assistent tal-kodiċi tal-AI mhux awtorizzat). Dan jista’ jintroduċi riskji li ma jidhrux. Implimenta miżuri biex tiskopri u tikkontrolla l-użu tal-AI mhux sanzjonat . Il-monitoraġġ tan-netwerk jista’ jimmarka konnessjonijiet ma’ APIs popolari tal-AI, u stħarriġ jew awditi tal-għodod jistgħu jikxfu x’qed juża l-persunal. Offri alternattivi approvati sabiex l-impjegati b’intenzjonijiet tajbin ma jiġux ittantati li jaġixxu b’mod diżonesti (pereżempju, ipprovdi kont uffiċjali ta’ ChatGPT Enterprise jekk in-nies isibuh utli). Billi joħorġu l-użu tal-AI fid-dawl, it-timijiet tas-sigurtà jistgħu jivvalutaw u jimmaniġġjaw ir-riskju. Il-monitoraġġ huwa wkoll essenzjali – irreġistra l-attivitajiet u l-outputs tal-għodda tal-AI kemm jista’ jkun fattibbli, sabiex ikun hemm traċċa tal-awditjar għad-deċiżjonijiet li influwenzat l-AI ( Kif Tista’ l-AI Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji tad-Dinja Reali ).
Uża l-AI b'mod Difensiv – Taqax Lura: Agħraf li l-attakkanti se jużaw l-AI, għalhekk id-difiża tiegħek għandha tuża wkoll. Identifika ftit oqsma ta' impatt għoli fejn l-AI ġenerattiva tista' tgħin immedjatament fl-operazzjonijiet tas-sigurtà tiegħek (forsi triage ta' twissija, jew analiżi awtomatizzata tal-log) u mexxi proġetti pilota. Żid id-difiżi tiegħek bil-veloċità u l-iskala tal-AI biex tikkumbatti theddid li jinbidel malajr ( Kif Tista' Tintuża l-AI Ġenerattiva fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Anke integrazzjonijiet sempliċi, bħall-użu ta' AI biex tiġbor fil-qosor rapporti ta' malware jew tiġġenera mistoqsijiet dwar il-kaċċa għat-theddid, jistgħu jiffrankaw sigħat lill-analisti. Ibda bil-mod il-mod, evalwa r-riżultati, u irrepeti. Is-suċċessi se jibnu l-każ għal adozzjoni usa' tal-AI. L-għan huwa li l-AI tintuża bħala multiplikatur tal-forza – pereżempju, jekk l-attakki ta' phishing qed jegħlbu l-helpdesk tiegħek, skjerja klassifikatur tal-email tal-AI biex tnaqqas dak il-volum b'mod proattiv.
Investi fi Prattiki tal-IA Sikuri u Etiċi: Meta timplimenta l-IA ġenerattiva, segwi prattiki ta' żvilupp u skjerament siguri. Uża mudelli privati jew awto-ospitati għal kompiti sensittivi biex iżżomm il-kontroll fuq id-dejta. Jekk tuża servizzi tal-IA ta' partijiet terzi, irrevedi l-miżuri ta' sigurtà u privatezza tagħhom (kriptaġġ, politiki taż-żamma tad-dejta, eċċ.). Inkorpora oqfsa ta' ġestjoni tar-riskju tal-IA (bħall-Qafas ta' Ġestjoni tar-Riskju tal-IA tan-NIST jew il-gwida ISO/IEC) biex tindirizza sistematikament affarijiet bħall-preġudizzju, l-ispjegabbiltà, u r-robustezza fl-għodod tal-IA tiegħek ( Kif Tista' l-IA Ġenerattiva Tintuża fiċ-Ċibersigurtà? 10 Eżempji mid-Dinja Reali ). Ippjana wkoll għal aġġornamenti/irqajja' tal-mudell bħala parti mill-manutenzjoni - il-mudelli tal-IA jista' jkollhom "vulnerabbiltajiet" ukoll (eż. jistgħu jeħtieġu taħriġ mill-ġdid jekk jibdew jitbiegħdu jew jekk jiġi skopert tip ġdid ta' attakk avversarju fuq il-mudell). Billi tinkorpora s-sigurtà u l-etika fl-użu tal-IA tiegħek, tibni fiduċja fir-riżultati u tiżgura konformità mar-regolamenti emerġenti.
Żomm lill-Bnedmin Informati: Uża l-IA biex tassisti, mhux tissostitwixxi kompletament, il-ġudizzju uman fiċ-ċibersigurtà. Iddetermina punti ta' deċiżjoni fejn hija meħtieġa validazzjoni umana (pereżempju, IA tista' tabbozza rapport ta' inċident, iżda analista jirrevedih qabel id-distribuzzjoni; jew IA tista' tissuġġerixxi l-imblukkar ta' kont ta' utent, iżda bniedem japprova dik l-azzjoni). Dan mhux biss jipprevjeni li l-iżbalji tal-IA ma jiġux iċċekkjati, iżda jgħin ukoll lit-tim tiegħek jitgħallem mill-IA u viċi versa. Inkoraġġixxi fluss tax-xogħol kollaborattiv: l-analisti għandhom iħossuhom komdi jistaqsu l-outputs tal-IA u jwettqu kontrolli tas-sanità. Maż-żmien, dan id-djalogu jista' jtejjeb kemm l-IA (permezz ta' feedback) kif ukoll il-ħiliet tal-analisti. Essenzjalment, iddisinja l-proċessi tiegħek b'tali mod li l-IA u s-saħħiet umani jikkomplementaw lil xulxin - l-IA tieħu ħsieb il-volum u l-veloċità, il-bnedmin jieħdu ħsieb l-ambigwità u d-deċiżjonijiet finali.
Kejjel, Immonitorja, u Aġġusta: Fl-aħħar nett, ittratta l-għodod tal-IA ġenerattiva tiegħek bħala komponenti ħajjin tal-ekosistema tas-sigurtà tiegħek. Kejjel kontinwament il-prestazzjoni tagħhom – qed inaqqsu l-ħinijiet ta’ rispons għall-inċidenti? Qed jaqbdu t-theddid aktar kmieni? Kif sejra r-rata ta’ pożittivi foloz? Itlob feedback mit-tim: ir-rakkomandazzjonijiet tal-IA huma utli, jew qed joħolqu storbju? Uża dawn il-metriċi biex tirfina l-mudelli, taġġorna d-dejta tat-taħriġ, jew taġġusta kif l-IA hija integrata. It-theddid ċibernetiku u l-ħtiġijiet tan-negozju jevolvu, u l-mudelli tal-IA tiegħek għandhom jiġu aġġornati jew imħarrġa mill-ġdid perjodikament biex jibqgħu effettivi. Ikollok pjan għall-governanza tal-mudell, inkluż min hu responsabbli għall-manutenzjoni tiegħu u kemm-il darba jiġi rivedut. Billi timmaniġġja b’mod attiv iċ-ċiklu tal-ħajja tal-IA, tiżgura li tibqa’ assi, mhux responsabbiltà.

Bħala konklużjoni, l-IA ġenerattiva tista' ttejjeb b'mod sinifikanti l-kapaċitajiet taċ-ċibersigurtà, iżda l-adozzjoni b'suċċess teħtieġ ippjanar maħsub u sorveljanza kontinwa. In-negozji li jedukaw lin-nies tagħhom, jistabbilixxu linji gwida ċari, u jintegraw l-IA b'mod bilanċjat u sigur se jaħsdu l-frott ta' ġestjoni tat-theddid aktar mgħaġġla u intelliġenti. Dawk il-konklużjonijiet jipprovdu pjan direzzjonali: għaqqad l-għarfien espert uman mal-awtomazzjoni tal-IA, ikopri l-bażiċi tal-governanza, u żomm l-aġilità hekk kif kemm it-teknoloġija tal-IA kif ukoll ix-xenarju tat-theddid inevitabbilment jevolvu.

Billi jieħdu dawn il-passi prattiċi, l-organizzazzjonijiet jistgħu jwieġbu b'kunfidenza l-mistoqsija "Kif tista' tintuża l-IA ġenerattiva fiċ-ċibersigurtà?" – mhux biss fit-teorija, iżda wkoll fil-prattika ta' kuljum – u b'hekk isaħħu d-difiżi tagħhom fid-dinja tagħna dejjem aktar diġitali u mmexxija mill-IA. ( Kif Tista' Tintuża l-IA Ġenerattiva fiċ-Ċibersigurtà )

Whitepapers li forsi tixtieq taqra wara dan:

🔗 Impjiegi li l-AI ma tistax tissostitwixxi u liema Impjiegi se tissostitwixxi l-AI?
Esplora l-perspettiva globali dwar liema rwoli huma siguri mill-awtomazzjoni u liema mhumiex.

🔗 Tista' l-AI Tbassar is-Suq tal-Ishma?
Ħarsa aktar mill-qrib lejn il-limitazzjonijiet, l-iskoperti, u l-miti dwar il-kapaċità tal-AI li tbassar il-movimenti tas-suq.

🔗 X'tista' tagħmel l-IA Ġenerattiva mingħajr l-Intervenzjoni tal-Bniedem?
Ifhem fejn l-IA tista' topera b'mod indipendenti u fejn is-sorveljanza umana għadha essenzjali.

Lura għall-blogg

Pajjiż/reġjun