L-IA tista' tissostitwixxi ċ-Ċibersigurtà?

L-IA tista' tissostitwixxi ċ-Ċibersigurtà?

Tweġiba qasira: L-AI mhux se tissostitwixxi ċ-ċibersigurtà minn tarf sa tarf, iżda se tieħu f'idejha porzjonijiet kbar ta' xogħol ripetittiv ta' SOC u inġinerija tas-sigurtà. Meta tintuża bħala tnaqqis tal-istorbju u sommarju - b'override uman - tħaffef it-triage u l-prijoritizzazzjoni; meta tiġi trattata bħala oraklu, tista' tintroduċi ċertezza falza riskjuża.

Punti ewlenin:

Ambitu : L-IA tissostitwixxi l-kompiti u l-flussi tax-xogħol, mhux il-professjoni nnifisha jew l-obbligu ta' rendikont.

Tnaqqis tax-xogħol : Uża l-AI għall-ikklassifikar ta' twissijiet, sommarji konċiżi, u triage tal-mudelli tal-log.

Sjieda tad-deċiżjonijiet : Żomm il-bnedmin għall-aptit għar-riskju, il-kmand tal-inċidenti, u kompromessi diffiċli.

Reżistenza għall-użu ħażin : Disinn għal injezzjoni fil-pront, avvelenament, u tentattivi ta' evażjoni avversarja.

Governanza : Infurza l-konfini tad-dejta, il-verifikabbiltà, u s-superazzjonijiet umani kontestabbli fl-għodda.

L-IA tista' tissostitwixxi l-infografika taċ-ċibersigurtà?

Artikoli li forsi tixtieq taqra wara dan:

🔗 Kif tintuża l-AI ġenerattiva fiċ-ċibersigurtà
Modi prattiċi kif l-IA ssaħħaħ l-iskoperta, ir-rispons, u l-prevenzjoni tat-theddid.

🔗 Għodod ta' pentesting tal-AI għaċ-ċibersigurtà
Soluzzjonijiet ewlenin li jaħdmu bl-AI biex awtomatizzaw l-ittestjar u jsibu vulnerabbiltajiet.

🔗 L-IA hija perikoluża? Riskji u realtajiet
Ħarsa ċara lejn it-theddid, il-miti, u s-salvagwardji responsabbli tal-AI.

🔗 Gwida għall-aqwa għodod tas-sigurtà tal-AI
L-aqwa għodod ta' sigurtà li jużaw l-AI biex jipproteġu s-sistemi u d-dejta.

Il-qafas ta' "sostituzzjoni" huwa n-nassa 😅

Meta n-nies jgħidu "Tista' l-IA tissostitwixxi ċ-Ċibersigurtà" , għandhom it-tendenza li jfissru waħda minn tliet affarijiet:

  • Ibdel l-analisti (l-ebda bniedem mhu meħtieġ)

  • Ibdel l-għodda (pjattaforma waħda tal-AI tagħmel kollox)

  • Ibdel ir-riżultati (inqas ksur, inqas riskju)

L-IA hija l-aktar b'saħħitha biex tissostitwixxi l-isforz ripetittiv u tikkompressa l-ħin tad-deċiżjoni. Hija l-aktar dgħajfa biex tissostitwixxi r-responsabbiltà, il-kuntest, u l-ġudizzju. Is-sigurtà mhix biss skoperta - huma kompromessi delikati, restrizzjonijiet tan-negozju, politika (ugh), u mġiba umana.

Taf kif imur - il-ksur ma kienx "nuqqas ta' allerti." Kien nuqqas ta' xi ħadd li emmen li l-allert kien importanti. 🙃

Fejn l-AI diġà "tissostitwixxi" x-xogħol taċ-ċibersigurtà (fil-prattika) ⚙️

L-AI diġà qed tieħu f'idejha ċerti kategoriji ta' xogħol, anke jekk l-organigramma għadha tidher l-istess.

1) Triage u raggruppament ta' twissijiet

  • Raggruppament ta' allerti simili f'inċident wieħed

  • Tneħħija tad-duplikazzjoni ta' sinjali storbjużi

  • Klassifikazzjoni skont l-impatt probabbli

Dan huwa importanti għax it-trijaġġ huwa fejn il-bnedmin jitilfu r-rieda tagħhom li jgħixu. Jekk l-AI tnaqqas l-istorbju anke ftit, ikun bħallikieku qed titfi allarm tan-nar li ilu jgħajjat ​​għal ġimgħat sħaħ 🔥🔕

2) Analiżi tal-log u skoperta ta' anomaliji

  • L-iskoperta ta' mudelli suspettużi bil-veloċità tal-magna

  • Immarkar ta' "dan mhux tas-soltu meta mqabbel mal-linja bażi"

Mhijiex perfetta, iżda tista' tkun ta' valur. L-AI hija bħal metal detector fuq bajja - tagħmel ħafna ħoss, u xi kultant tkun tapp ta' flixkun, imma kultant tkun ċirku 💍… jew token ta' amministratur kompromess.

3) Klassifikazzjoni ta' malware u phishing

  • Klassifikazzjoni ta' annessi, URLs, dominji

  • L-iskoperta ta' marki li jixbhu lil xulxin u mudelli ta' spoofing

  • Awtomazzjoni tas-sommarji tal-verdetti tas-sandbox

4) Prijoritizzazzjoni tal-ġestjoni tal-vulnerabbiltà

Mhux “liema CVEs jeżistu” - ilkoll nafu li hemm wisq. L-AI tgħin biex twieġeb:

U iva, il-bnedmin jistgħu jagħmlu dan ukoll - kieku l-ħin kien infinit u ħadd qatt ma jieħu vaganzi.

X'jagħmel verżjoni tajba tal-AI fiċ-ċibersigurtà 🧠

Din hija l-parti li n-nies jaqbżuha, u mbagħad jagħtu t-tort lill-"AI" bħallikieku huwa prodott wieħed b'sentimenti.

Verżjoni tajba tal-AI fiċ-ċibersigurtà għandha t-tendenza li jkollha dawn il-karatteristiċi:

  • Dixxiplina għolja tas-sinjal għall-ħoss

    • Irid inaqqas l-istorbju, mhux joħloq storbju żejjed bi frażijiet sofistikati.

  • Spjegabbiltà li tgħin fil-prattika

    • Mhux rumanz. Mhux vibrazzjonijiet. Ħjiel reali: x'ra, għaliex jimpurtah, x'inbidel.

  • Integrazzjoni stretta mal-ambjent tiegħek

    • IAM, telemetrija tal-endpoint, qagħda tal-cloud, biljetti, inventarju tal-assi... l-affarijiet mhux glamorużi.

  • Override uman integrat

    • L-analisti jeħtieġ li jikkoreġuh, jirfinawh, u xi kultant jinjorawh. Bħal analista junior li qatt ma jorqod imma kultant jippanikja.

  • Immaniġġjar tad-dejta b'mod sigur għas-sigurtà

    • Limiti ċari dwar x'jiġi maħżun, imħarreġ, jew miżmum. NIST AI RMF 1.0

  • Reżiljenza kontra l-manipulazzjoni

Ejjew inkunu onesti - ħafna mis-“sigurtà tal-AI” tfalli għax hija mħarrġa biex tinstema’ ċerta, mhux biex tkun korretta. Il-kunfidenza mhijiex kontroll. 😵💫

Il-partijiet li l-AI titħabat biex tissostitwixxi - u dan jimporta aktar milli jidher 🧩

Hawn hi l-verità skomda: iċ-ċibersigurtà mhix biss teknika. Hija soċjo-teknika. Hija bnedmin flimkien mas-sistemi flimkien mal-inċentivi.

L-AI titħabat ma’:

1) Il-kuntest tan-negozju u l-aptit għar-riskju

Id-deċiżjonijiet dwar is-sigurtà rarament ikunu "huwa ħażin." Huma aktar bħal:

  • Jekk hux gravi biżżejjed biex iwaqqaf id-dħul

  • Jekk jaqbilx li tkisser il-pipeline tal-iskjerament

  • Jekk it-tim eżekuttiv hux se jaċċetta waqfien minħabba f'hekk

L-AI tista' tgħin, imma ma tistax tippossjedi dan. Xi ħadd jiffirma ismu fuq id-deċiżjoni. Xi ħadd jirċievi t-telefonata tas-2am 📞

2) Kmand tal-inċidenti u koordinazzjoni bejn it-timijiet

Waqt inċidenti reali, ix-“xogħol” huwa:

L-AI tista’ tfassal skeda ta’ żmien jew tiġbor fil-qosor ir-reġistri, żgur. Is-sostituzzjoni tat-tmexxija taħt pressjoni hija… ottimista. Qisu bħal li titlob kalkulatur biex iwettaq taħriġ tan-nar.

3) Immudellar u arkitettura tat-theddid

L-immudellar tat-theddid huwa parti loġika, parti kreattività, parti paranojja (paranojja sana, l-aktar).

  • Enumerazzjoni ta' x'jista' jmur ħażin

  • L-antiċipazzjoni ta' x'jagħmel attakkant

  • L-għażla tal-irħas kontroll li jibdel il-matematika tal-attakkant

L-AI tista' tissuġġerixxi mudelli, iżda l-valur reali ġej mill-għarfien tas-sistemi tiegħek, tan-nies tiegħek, tas-shortcuts tiegħek, tad-dipendenzi partikolari tiegħek.

4) Fatturi umani u kultura

Phishing, użu mill-ġdid tal-kredenzjali, shadow IT, reviżjonijiet traskurati tal-aċċess - dawn huma problemi umani lebsin kostumi tekniċi 🎭
L-AI tista' tiskopri, iżda ma tistax tirranġa għaliex l-organizzazzjoni taġixxi kif taġixxi.

L-attakkanti jużaw l-AI wkoll - għalhekk il-grawnd tal-logħob jinklina lejn il-ġenb 😈🤖

Kwalunkwe diskussjoni dwar is-sostituzzjoni taċ-ċibersigurtà trid tinkludi l-ovvju: l-attakkanti mhumiex wieqfa.

L-AI tgħin lill-attakkanti:

Għalhekk, l-adozzjoni tal-AI mid-difensuri mhijiex fakultattiva fit-tul. Huwa aktar bħal... qed iġġib flashlight għax in-naħa l-oħra għadha kemm kisbet nuċċalijiet għall-viżjoni bil-lejl. Metafora goffa. Għadha pjuttost vera.

Barra minn hekk, l-attakkanti se jimmiraw lejn is-sistemi tal-IA nfushom:

Is-sigurtà minn dejjem kienet waħda tal-qattus u l-ġrieden. L-AI sempliċement tagħmel il-qtates aktar veloċi u l-ġrieden aktar inventivi 🐭

It-tweġiba vera: L-AI tissostitwixxi l-kompiti, mhux ir-responsabbiltà ✅

Dan huwa n-"nofs skomdu" li jaslu fih il-biċċa l-kbira tat-timijiet:

  • L-AI timmaniġġja l-iskala

  • Il-bnedmin jimmaniġġjaw l-ishma

  • Flimkien jimmaniġġjaw il-veloċità flimkien mal-ġudizzju

Fit-testijiet tiegħi stess fil-flussi tax-xogħol tas-sigurtà, l-AI hija l-aħjar meta tiġi trattata hekk:

  • Assistent tat-triage

  • Sommarju

  • Magna ta' korrelazzjoni

  • Assistent tal-politika

  • Ħabib tar-reviżjoni tal-kodiċi għal mudelli riskjużi

L-AI hija l-agħar meta tiġi trattata hekk:

  • Oraklu

  • Punt wieħed ta’ verità

  • Sistema ta' difiża ta' "ssettjaha u tinsieha"

  • Raġuni biex it-tim ma jkollux biżżejjed ħaddiema (din se tispiċċa aktar tard... bil-qawwa)

Qisu bħallikieku qed tikri kelb tal-għassa li jikteb ukoll l-emails. Tajjeb ħafna. Imma xi kultant jinbaħ lejn il-vacuum cleaner u ma jolqotx lir-raġel li jkun qed jaqbeż l-ilqugħ. 🐶🧹

Tabella ta' Paragun (l-aqwa għażliet li t-timijiet jużaw kuljum) 📊

Hawn taħt hawn tabella ta' tqabbil prattika - mhux perfetta, xi ftit irregolari, bħall-ħajja reali.

Għodda / Pjattaforma L-aħjar għal (udjenza) Vibrazzjoni tal-prezz Għaliex jaħdem (u l-karatteristiċi partikolari)
Microsoft Sentinel Microsoft Learn Timijiet tas-SOC li jgħixu f'ekosistemi ta' Microsoft $$ - $$$ Mudelli SIEM qawwija nattivi għall-cloud; ħafna konnetturi, jistgħu jsiru storbjużi jekk ma jkunux sintonizzati..
Splunk Splunk Enterprise Security Organizzazzjonijiet akbar b'ħafna logging + bżonnijiet personalizzati $$$ (spiss $$$$ franchement) Tiftix qawwi + dashboards; tal-għaġeb meta jkunu kkurati, ta' wġigħ meta ħadd ma jkun is-sid tal-iġjene tad-dejta
Operazzjonijiet tas-Sigurtà ta' Google Google Cloud Timijiet li jixtiequ telemetrija fuq skala ġestita $$ - $$$ Tajjeb għal skala kbira ta' dejta; jiddependi fuq il-maturità tal-integrazzjoni, bħal ħafna affarijiet
CrowdStrike Falcon CrowdStrike Organizzazzjonijiet b'ħafna endpoints, timijiet tal-IR $$$ Viżibilità qawwija tal-endpoint; fond kbir ta' skoperta, iżda xorta għandek bżonn nies biex imexxu r-rispons
Microsoft Defender għall-Endpoint Microsoft Learn Organizzazzjonijiet tqal tal-M365 $$ - $$$ Integrazzjoni stretta ta' Microsoft; tista' tkun tajba ħafna, tista' tkun "700 allerta fil-kju" jekk ikkonfigurata ħażin
Palo Alto Cortex XSOAR Netwerks ta' Palo Alto SOCs iffukati fuq l-awtomazzjoni $$$ Il-kotba tal-logħob inaqqsu t-tbatija; jeħtieġu kura jew inkella tawtomatizza d-diżordni (iva, dik hija ħaġa)
Pjattaforma Wiz Wiz Timijiet tas-sigurtà tal-cloud $$$ Viżibilità qawwija fuq il-cloud; tgħin biex tipprijoritizza r-riskju malajr, xorta teħtieġ governanza warajha
Pjattaforma Snyk Organizzazzjonijiet li jiffokaw l-iżvilupp l-ewwel, AppSec $$ - $$$ Flussi tax-xogħol faċli għall-iżviluppaturi; is-suċċess jiddependi fuq l-adozzjoni tal-iżviluppaturi, mhux biss fuq l-iskannjar

Nota żgħira: l-ebda għodda ma "tirbaħ" waħedha. L-aqwa għodda hija dik li t-tim tiegħek juża kuljum mingħajr ma jirrisentaha. Dik mhix xjenza, dik hija sopravivenza 😅

Mudell operattiv realistiku: kif it-timijiet jirbħu bl-AI 🤝

Jekk trid li l-AI ttejjeb is-sigurtà b'mod sinifikanti, il-pjan ta' azzjoni ġeneralment ikun:

Pass 1: Uża l-AI biex tnaqqas it-tbatija

  • Sommarji ta' arrikkiment ta' twissijiet

  • Abbozzar ta' biljetti

  • Listi ta' kontroll għall-ġbir ta' evidenza

  • Suġġerimenti ta' mistoqsijiet tar-reġistru

  • Differenzi ta' "X'inbidel" fuq il-konfigurazzjonijiet

Pass 2: Uża l-bnedmin biex tivvalida u tiddeċiedi

  • Ikkonferma l-impatt u l-ambitu

  • Agħżel azzjonijiet ta' konteniment

  • Koordinati tiswijiet bejn it-timijiet

Pass 3: Awtomatizza l-affarijiet sikuri

Miri tajbin ta' awtomazzjoni:

  • Kwarantina ta' fajls magħrufa bħala ħżiena b'kunfidenza għolja

  • Irrisettjar tal-kredenzjali wara kompromess verifikat

  • Imblukkar ta' dominji ovvjament malizzjużi

  • Infurzar tal-korrezzjoni tad-drift tal-politika (bir-reqqa)

Miri ta' awtomazzjoni riskjużi:

  • Servers tal-produzzjoni li jiżolaw awtomatikament mingħajr salvagwardji

  • Tħassir ta' riżorsi bbażati fuq sinjali inċerti

  • Imblukkar ta' firxiet kbar ta' IP għax "il-mudell ħass li hekk kien" 😬

Pass 4: Iddaħħal it-tagħlimiet lura fil-kontrolli

  • Irfinar wara l-inċident

  • Sejbien imtejjeb

  • Inventarju tal-assi aħjar (l-uġigħ etern)

  • Privileġġi aktar ristretti

Hawnhekk l-AI tgħin ħafna: tiġbor fil-qosor l-analiżijiet wara l-mewt, timmappa l-lakuni fid-detezzjoni, u tibdel id-diżordni f'titjib ripetibbli.

Ir-riskji moħbija tas-sigurtà mmexxija mill-AI (iva, hemm ftit) ⚠️

Jekk qed tadotta l-AI b'mod qawwi, trid tippjana għall-iżvantaġġi:

  • Ċertezza ivvintata

    • It-timijiet tas-sigurtà jeħtieġu evidenza, mhux rakkont ta’ stejjer. L-AI tħobb ir-rakkont ta’ stejjer. NIST AI RMF 1.0

  • Tnixxija ta' dejta

  • Dipendenza żejda

    • In-nies jieqfu jitgħallmu l-prinċipji fundamentali għax il-kopilota "dejjem jaf"... sakemm ma jkunx jaf.

  • Drift tal-mudell

    • L-ambjenti jinbidlu. Il-mudelli tal-attakk jinbidlu. Id-detezzjonijiet jitmermru bil-kwiet. NIST AI RMF 1.0

  • Abbuż avversarju

Huwa bħal li tibni serratura intelliġenti ħafna u mbagħad tħalli ċ-ċavetta taħt it-tapit. Is-serratura mhix l-unika problema.

Allura... Tista' l-AI tissostitwixxi ċ-Ċibersigurtà: tweġiba ċara 🧼

L-IA tista' tissostitwixxi ċ-Ċibersigurtà?
Tista' tissostitwixxi ħafna mix-xogħol ripetittiv fiċ-ċibersigurtà. Tista' taċċellera l-iskoperta, it-trijaġġ, l-analiżi, u anke partijiet mir-rispons. Iżda ma tistax tissostitwixxi d-dixxiplina għalkollox għaliex iċ-ċibersigurtà mhijiex kompitu wieħed - hija governanza, arkitettura, imġieba umana, tmexxija tal-inċidenti, u adattament kontinwu.

Jekk trid l-aktar qafas sinċier (ftit dirett, skużani):

  • L-AI tissostitwixxi x-xogħol impenjattiv

  • L-AI ttejjeb timijiet tajbin

  • L-AI tikxef proċessi ħżiena

  • Il-bnedmin jibqgħu responsabbli għar -riskju u r-realtà

U iva, xi rwoli se jinbidlu. Il-kompiti fil-livell tad-dħul se jinbidlu l-aktar malajr. Iżda jidhru wkoll kompiti ġodda: flussi tax-xogħol sikuri fil-pront, validazzjoni tal-mudelli, inġinerija tal-awtomazzjoni tas-sigurtà, inġinerija tad-detezzjoni b'għodda assistita mill-AI... ix-xogħol ma jisparixxix, jimmuta 🧬

Noti tal-għeluq u sommarju fil-qosor 🧾✨

Jekk qed tiddeċiedi x'għandek tagħmel bl-AI fis-sigurtà, hawn il-punt prattiku li tista' tieħu:

  • Uża l-AI biex tikkompressa l-ħin - triage aktar mgħaġġel, sommarji aktar mgħaġġla, korrelazzjoni aktar mgħaġġla.

  • Żomm il-bnedmin għall- ġudizzju - kuntest, kompromessi, tmexxija, responsabbiltà.

  • Assumi li l-attakkanti qed jużaw l-IA wkoll - iddisinja għall-qerq u l-manipulazzjoni. tal-MITRE ATLAS għall-Iżvilupp ta' Sistema Sikura tal-IA (NSA/CISA/NCSC-UK)

  • Tixtrix "maġija" - ixtri flussi tax-xogħol li jnaqqsu b'mod miżurabbli r-riskju u t-tbatija.

Mela iva, l-AI tista' tissostitwixxi partijiet mix-xogħol, u ħafna drabi tagħmel dan b'modi li għall-ewwel jidhru sottili. Il-mossa rebbieħa hija li tagħmel l-AI l-ingranaġġ tiegħek, mhux is-sostitut tiegħek.

U jekk int inkwetat dwar il-karriera tiegħek - iffoka fuq l-partijiet li l-AI titħabat magħhom: il-ħsieb sistemiku, it-tmexxija tal-inċidenti, l-arkitettura, u li tkun il-persuna li tista' tagħraf id-differenza bejn "twissija interessanti" u "se jkollna ġurnata ħażina ħafna." 😄🔐

Mistoqsijiet Frekwenti

L-IA tista' tissostitwixxi t-timijiet taċ-ċibersigurtà kompletament?

L-IA tista’ tieħu f’idejha porzjonijiet kbar tax-xogħol taċ-ċibersigurtà, iżda mhux id-dixxiplina kollha minn tarf sa tarf. Hija tispikka f’kompiti ripetittivi bħal raggruppament ta’ twissijiet, skoperta ta’ anomaliji, u tfassil ta’ sommarji tal-ewwel pass. Dak li ma tissostitwixxix huwa r-responsabbiltà, il-kuntest tan-negozju, u l-ġudizzju meta l-interessi jkunu għoljin. Fil-prattika, it-timijiet joqogħdu f’“nofs skomdu” fejn l-IA twassal skala u veloċità, filwaqt li l-bnedmin iżommu s-sjieda tad-deċiżjonijiet konsegwenzjali.

Fejn l-AI diġà qed tissostitwixxi x-xogħol ta' kuljum tas-SOC?

F'ħafna SOCs, l-AI diġà tieħu ħsieb xogħol li jieħu ħafna ħin bħat-triage, id-deduplikazzjoni, u l-klassifikazzjoni tal-allerti skont l-impatt probabbli. Tista' wkoll taċċellera l-analiżi tal-log billi timmarka mudelli li jitbiegħdu mill-imġiba bażi. Ir-riżultat mhuwiex inqas inċidenti b'mod maġiku - huwa inqas sigħat imqattgħin jimxu fl-istorbju, sabiex l-analisti jkunu jistgħu jiffokaw fuq investigazzjonijiet li huma importanti.

Kif l-għodod tal-AI jgħinu fil-ġestjoni tal-vulnerabbiltajiet u l-prijoritizzazzjoni tal-garżi?

L-IA tgħin biex tibdel il-ġestjoni tal-vulnerabbiltà minn "wisq CVEs" għal "x'għandna npoġġu l-ewwel hawn." Approċċ komuni jikkombina sinjali ta' probabbiltà ta' sfruttament (bħal EPSS), listi ta' sfruttament magħrufa (bħall-katalgu KEV tas-CISA), u l-kuntest tal-ambjent tiegħek (espożizzjoni tal-internet u kritiċità tal-assi). Jekk isir sew, dan inaqqas ix-xogħol ta' suppożizzjoni u jappoġġja l-poġġu tal-patches mingħajr ma jkisser in-negozju.

X'jagħmel AI "tajba" fiċ-ċibersigurtà kontra AI storbjuża?

AI tajba fiċ-ċibersigurtà tnaqqas l-istorbju minflok ma tipproduċi imbarazz li jinstema' kunfidenti. Toffri spjegazzjoni prattika - indikazzjonijiet konkreti bħal x'inbidel, x'osserva, u għaliex huwa importanti - minflok narrattivi twal u vagi. Tintegra wkoll mas-sistemi ewlenin (IAM, endpoint, cloud, ticketing) u tappoġġja l-override uman sabiex l-analisti jkunu jistgħu jikkoreġuh, jirfinawh, jew jinjorawh meta jkun meħtieġ.

Liema partijiet taċ-ċibersigurtà l-IA qed issibha diffiċli biex tissostitwixxi?

L-IA titħabat l-aktar max-xogħol soċjotekniku: l-aptit għar-riskju, il-kmand tal-inċidenti, u l-koordinazzjoni bejn it-timijiet. Waqt l-inċidenti, ix-xogħol spiss isir komunikazzjoni, immaniġġjar tal-evidenza, tħassib legali, u teħid ta' deċiżjonijiet taħt inċertezza - oqsma fejn it-tmexxija tisboq it-tqabbil tal-mudelli. L-IA tista' tgħin biex tiġbor fil-qosor ir-reġistri jew tabbozza skedi ta' żmien, iżda ma tissostitwixxix b'mod affidabbli s-sjieda taħt pressjoni.

Kif qed jużaw l-AI l-attakkanti, u dan ibiddel ix-xogħol tad-difensur?

L-attakkanti jużaw l-AI biex iżidu l-iskala tal-phishing, jiġġeneraw inġinerija soċjali aktar konvinċenti, u jirrepetu fuq varjanti ta' malware aktar malajr. Dan ibiddel il-qasam tal-logħob: id-difensuri li jadottaw l-AI jsiru inqas fakultattivi maż-żmien. Iżid ukoll riskju ġdid, għaliex l-attakkanti jistgħu jimmiraw lejn il-flussi tax-xogħol tal-AI permezz ta' injezzjoni fil-pront, tentattivi ta' avvelenament, jew evażjoni avversarja - li jfisser li s-sistemi tal-AI jeħtieġu wkoll kontrolli tas-sigurtà, mhux fiduċja għamja.

X'inhuma l-akbar riskji li wieħed jiddependi fuq l-IA għal deċiżjonijiet ta' sigurtà?

Riskju ewlieni huwa ċ-ċertezza ivvintata: L-AI tista’ tinstema’ kunfidenti anke meta tkun żbaljata, u l-kunfidenza mhijiex kontroll. It-tnixxija tad-dejta hija nassa komuni oħra - il-prontijiet tas-sigurtà jistgħu jinkludu dettalji sensittivi mingħajr ma jintebħu, u l-logs spiss ikun fihom sigrieti. Id-dipendenza żejda tista’ wkoll tnaqqar il-prinċipji fundamentali, filwaqt li d-devjazzjoni tal-mudell tiddegrada bil-kwiet id-detezzjonijiet hekk kif l-ambjenti u l-imġiba tal-attakkant jinbidlu.

X'inhu mudell operattiv realistiku għall-użu tal-IA fiċ-ċibersigurtà?

Mudell prattiku jidher hekk: uża l-AI biex tnaqqas ix-xogħol iebes, żomm il-bnedmin għall-validazzjoni u d-deċiżjonijiet, u awtomatizza biss l-affarijiet sikuri. L-AI hija b'saħħitha għal sommarji ta' arrikkiment, abbozzar ta' talbiet, listi ta' kontroll tal-evidenza, u differenzi ta' "x'inhu li nbidel". L-awtomazzjoni hija l-aktar adattata għal azzjonijiet ta' kunfidenza għolja bħall-imblukkar ta' dominji magħrufa bħala ħżiena jew ir-reset tal-kredenzjali wara kompromess verifikat, b'salvagwardji biex jipprevjenu l-eċċess ta' kontroll.

L-AI se tissostitwixxi r-rwoli taċ-ċibersigurtà fil-livell tad-dħul, u liema ħiliet isiru aktar siewja?

L-ammont ta’ kompiti fil-livell tad-dħul x’aktarx li jinbidlu l-aktar malajr għax l-AI tista’ tassorbi xogħol ripetittiv ta’ triage, sommarju, u klassifikazzjoni. Iżda jidhru wkoll kompiti ġodda, bħall-bini ta’ flussi tax-xogħol sikuri fil-pront, il-validazzjoni tal-outputs tal-mudelli, u l-awtomazzjoni tas-sigurtà tal-inġinerija. Ir-reżiljenza tal-karriera għandha t-tendenza li tiġi minn ħiliet li l-AI titħabat magħhom: ħsieb sistemiku, arkitettura, tmexxija ta’ inċidenti, u traduzzjoni ta’ sinjali tekniċi f’deċiżjonijiet tan-negozju.

Referenzi

  1. EWWEL - EPSS (L-EWWEL) - first.org

  2. Aġenzija taċ-Ċibersigurtà u s-Sigurtà tal-Infrastruttura (CISA) - Katalogu tal-Vulnerabbiltajiet Sfruttati Magħrufa - cisa.gov

  3. Istitut Nazzjonali tal-Istandards u t-Teknoloġija (NIST) - SP 800-40 Rev. 4 (Ġestjoni tal-Garża tal-Intrapriża) - csrc.nist.gov

  4. Istitut Nazzjonali tal-Istandards u t-Teknoloġija (NIST) - AI RMF 1.0 - nvlpubs.nist.gov

  5. OWASP - LLM01: Injezzjoni fil-Pront - genai.owasp.org

  6. Gvern tar-Renju Unit - Kodiċi ta' prattika għaċ-ċibersigurtà tal-IA - gov.uk

  7. Istitut Nazzjonali tal-Istandards u t-Teknoloġija (NIST) - SP 800-61 (Gwida għall-Immaniġġjar tal-Inċidenti) - csrc.nist.gov

  8. Federal Bureau of Investigation (FBI) - L-FBI twissi dwar theddida dejjem tikber ta’ kriminali ċibernetiċi li jużaw intelliġenza artifiċjali - fbi.gov

  9. Ċentru tal-Ilmenti dwar il-Kriminalità fuq l-Internet tal-FBI (IC3) - PSA tal-IC3 dwar frodi/phishing ġenerattiv tal-IA - ic3.gov

  10. OpenAI - Rapporti ta' intelliġenza dwar theddid OpenAI (eżempji ta' użu malizzjuż) - openai.com

  11. Europol - “Rapport ChatGPT” tal-Europol (ħarsa ġenerali lejn l-użu ħażin) - europol.europa.eu

  12. MITRA - ATLAS TAL-MITRA - mitre.org

  13. OWASP - L-aqwa 10 tal-OWASP għal Applikazzjonijiet tal-LLM - owasp.org

  14. Aġenzija tas-Sigurtà Nazzjonali (NSA) - Gwida għall-Iżgurar tal-Iżvilupp tas-Sistema tal-IA (NSA/CISA/NCSC-UK u sħab) - nsa.gov

  15. Microsoft Learn - Ħarsa ġenerali lejn Microsoft Sentinel - learn.microsoft.com

  16. Splunk - Sigurtà tal-Intrapriża Splunk - splunk.com

  17. Google Cloud - Operazzjonijiet tas-Sigurtà ta' Google - cloud.google.com

  18. CrowdStrike - Il-pjattaforma CrowdStrike Falcon - crowdstrike.com

  19. Microsoft Learn - Microsoft Defender għall-Endpoint - learn.microsoft.com

  20. Palo Alto Networks - Cortex XSOAR - paloaltonetworks.com

  21. Wiz - Pjattaforma Wiz - wiz.io

  22. Snyk - Pjattaforma Snyk - snyk.io

Sib l-Aħħar AI fil-Ħanut Uffiċjali tal-Assistent tal-AI

Dwarna

Lura għall-blogg