A all deallusrwydd artiffisial ddisodli seiberddiogelwch?

A all deallusrwydd artiffisial ddisodli seiberddiogelwch?

Yr ateb byr: Ni fydd deallusrwydd artiffisial yn disodli seiberddiogelwch o'r dechrau i'r diwedd, ond bydd yn cymryd drosodd rannau sylweddol o waith ailadroddus SOC a pheirianneg diogelwch. Wedi'i ddefnyddio fel lleihäwr sŵn a chrynodebwr - gyda gorbwysiad dynol - mae'n cyflymu dosbarthu a blaenoriaethu; wedi'i drin fel oracl, gall gyflwyno sicrwydd ffug peryglus.

Prif bethau i'w cymryd:

Cwmpas : Mae deallusrwydd artiffisial yn disodli tasgau a llifau gwaith, nid y proffesiwn ei hun na'r atebolrwydd.

Lleihau llafur : Defnyddiwch AI ar gyfer clystyru rhybuddion, crynodebau cryno, a blaenoriaethu patrymau log.

Perchnogaeth dros benderfyniadau : Cadwch fodau dynol ar gyfer archwaeth am risg, rheoli digwyddiadau, a chyfaddawdau anodd.

Gwrthsefyll camddefnydd : Dyluniad ar gyfer chwistrelliad prydlon, gwenwyno, ac ymdrechion osgoi gelyniaethus.

Llywodraethu : Gorfodi ffiniau data, archwiliadwyedd, a gorbwysau dynol y gellir eu herio mewn offer.

A all deallusrwydd artiffisial ddisodli infograffeg seiberddiogelwch

Erthyglau y gallech fod eisiau eu darllen ar ôl yr un hon:

🔗 Sut mae AI cynhyrchiol yn cael ei ddefnyddio mewn seiberddiogelwch
Ffyrdd ymarferol y mae deallusrwydd artiffisial yn cryfhau canfod, ymateb ac atal bygythiadau.

🔗 Offer profi treiddio AI ar gyfer seiberddiogelwch
Datrysiadau gorau sy'n cael eu pweru gan AI i awtomeiddio profion a chanfod gwendidau.

🔗 A yw AI yn beryglus? Risgiau a realiti
Golwg glir ar fygythiadau, mythau, a mesurau diogelwch AI cyfrifol.

🔗 Canllaw offer diogelwch AI gorau
Yr offer diogelwch gorau sy'n defnyddio deallusrwydd artiffisial i amddiffyn systemau a data.

Y fframio “amnewid” yw’r trap 😅

Pan fydd pobl yn dweud “A all AI ddisodli Seiberddiogelwch” , maen nhw'n tueddu i olygu un o dri pheth:

  • Disodli dadansoddwyr (nid oes angen bodau dynol)

  • Disodli offer (mae un platfform AI yn gwneud popeth)

  • Disodli canlyniadau (llai o doriadau, llai o risg)

Mae deallusrwydd artiffisial (AI) ar ei gryfaf wrth ddisodli ymdrech ailadroddus a chywasgu amser penderfynu. Mae ar ei wannaf wrth ddisodli atebolrwydd, cyd-destun a barn. Nid canfod yn unig yw diogelwch - mae'n gyfaddawdau anodd, cyfyngiadau busnes, gwleidyddiaeth (ugh), ac ymddygiad dynol.

Wyddoch chi sut mae'n mynd - nid "diffyg rhybuddion" oedd y toriad diogelwch. Roedd yn ddiffyg rhywun yn credu bod y rhybudd yn bwysig. 🙃

Lle mae AI eisoes yn “disodli” gwaith seiberddiogelwch (yn ymarferol) ⚙️

Mae deallusrwydd artiffisial eisoes yn cymryd drosodd rhai categorïau o waith, hyd yn oed os yw'r siart sefydliadol yn dal i edrych yr un fath.

1) Brysbennu a chlystyru rhybuddion

  • Grwpio rhybuddion tebyg i mewn i un digwyddiad

  • Dad-ddyblygu signalau swnllyd

  • Rhestru yn ôl effaith debygol

Mae hyn yn bwysig oherwydd bod triage yn digwydd pan fydd bodau dynol yn colli eu hewyllys i fyw. Os yw deallusrwydd artiffisial yn lleihau'r sŵn hyd yn oed ychydig, mae fel diffodd larwm tân sydd wedi bod yn sgrechian ers wythnosau 🔥🔕

2) Dadansoddi logiau a chanfod anomaleddau

  • Canfod patrymau amheus ar gyflymder peiriant

  • Yn nodi “mae hyn yn anarferol o’i gymharu â’r llinell sylfaen”

Nid yw'n berffaith, ond gall fod yn werthfawr. Mae AI fel synhwyrydd metel ar draeth - mae'n bipio llawer, ac weithiau mae'n gap potel, ond weithiau mae'n gylch 💍… neu docyn gweinyddol wedi'i gyfaddawdu.

3) Dosbarthiad meddalwedd faleisus a gwe-rwydo

  • Dosbarthu atodiadau, URLau, parthau

  • Canfod brandiau tebyg a phatrymau ffugio

  • Awtomeiddio crynodebau dyfarniad blwch tywod

4) Blaenoriaethu rheoli bregusrwydd

Nid “pa CVEs sy’n bodoli” - rydyn ni i gyd yn gwybod bod gormod ohonyn nhw. Mae AI yn helpu i ateb:

Ac ie, gallai bodau dynol wneud hynny hefyd - pe bai amser yn ddiddiwedd a neb byth yn cymryd gwyliau.

Beth sy'n gwneud fersiwn dda o AI mewn seiberddiogelwch 🧠

Dyma'r rhan mae pobl yn ei hepgor, ac yna maen nhw'n beio “AI” fel pe bai'n gynnyrch sengl â theimladau.

Mae fersiwn dda o AI mewn seiberddiogelwch yn tueddu i fod â'r nodweddion hyn:

  • Disgyblaeth signal-i-sŵn uchel

    • Rhaid iddo leihau sŵn, nid creu sŵn ychwanegol gydag ymadrodd ffansi.

  • Esboniadwyedd sy'n helpu yn ymarferol

    • Nid nofel. Dim awyrgylch. Cliwiau go iawn: yr hyn a welodd, pam ei fod yn poeni, beth newidiodd.

  • Integreiddio'n dynn â'ch amgylchedd

    • IAM, telemetreg pwynt terfynol, ystum cwmwl, tocynnau, rhestr asedau… y pethau diflas.

  • Gorchymyn dynol wedi'i ymgorffori

    • Mae angen i ddadansoddwyr ei gywiro, ei addasu, ac weithiau ei anwybyddu. Fel dadansoddwr iau sydd byth yn cysgu ond weithiau'n mynd i banig.

  • Trin data sy'n ddiogel o ran diogelwch

    • Ffiniau clir ar yr hyn sy'n cael ei storio, ei hyfforddi, neu ei gadw. NIST AI RMF 1.0

  • Gwydnwch yn erbyn trin

Gadewch i ni fod yn onest - mae llawer o "ddiogelwch AI" yn methu oherwydd ei fod wedi'i hyfforddi i swnio'n sicr, nid i fod yn gywir. Nid rheolaeth yw hyder. 😵💫

Y rhannau y mae AI yn ei chael hi'n anodd eu disodli - ac mae'n bwysicach nag y mae'n swnio 🧩

Dyma’r gwir anghyfforddus: nid dim ond technegol yw seiberddiogelwch. Mae’n gymdeithasol-dechnegol. Mae’n fodau dynol ynghyd â systemau ynghyd â chymhellion.

Mae AI yn cael trafferth gyda:

1) Cyd-destun busnes ac awydd i gymryd risg

Anaml y bydd penderfyniadau diogelwch yn “ydy o’n ddrwg.” Maen nhw’n debycach i:

  • P'un a yw'n ddigon difrifol i atal refeniw

  • P'un a yw'n werth torri'r biblinell defnyddio

  • A fydd y tîm gweithredol yn derbyn amser segur ar ei gyfer

Gall deallusrwydd artiffisial gynorthwyo, ond ni all fod yn berchen ar hynny. Mae rhywun yn llofnodi ei enw ar y penderfyniad. Mae rhywun yn cael yr alwad 2am 📞

2) Rheoli digwyddiadau a chydlynu ar draws timau

Yn ystod digwyddiadau go iawn, y “gwaith” yw:

Gall deallusrwydd artiffisial ddrafftio amserlen neu grynhoi logiau, yn sicr. Mae disodli arweinyddiaeth o dan bwysau yn… optimistaidd. Mae fel gofyn i gyfrifiannell gynnal ymarfer tân.

3) Modelu a phensaernïaeth bygythiadau

Mae modelu bygythiadau yn rhan rhesymeg, rhan greadigrwydd, rhan paranoia (paranoia iach, yn bennaf).

  • Rhestru beth allai fynd o'i le

  • Rhagweld beth fyddai ymosodwr yn ei wneud

  • Dewis y rheolaeth rataf sy'n newid mathemateg yr ymosodwr

Gall deallusrwydd artiffisial awgrymu patrymau, ond daw'r gwerth go iawn o wybod eich systemau, eich pobl, eich llwybrau byr, eich dibyniaethau etifeddiaeth rhyfedd.

4) Ffactorau dynol a diwylliant

Gwe-rwydo, ailddefnyddio tystlythyrau, TG cysgodol, adolygiadau mynediad diofal - mae'r rhain yn broblemau dynol mewn gwisgoedd technegol 🎭
Gall deallusrwydd artiffisial eu canfod, ond ni all drwsio pam mae'r sefydliad yn ymddwyn fel y mae.

Mae ymosodwyr yn defnyddio AI hefyd - felly mae'r cae chwarae'n gogwyddo i'r ochr 😈🤖

Rhaid i unrhyw drafodaeth am ddisodli seiberddiogelwch gynnwys yr amlwg: nid yw ymosodwyr yn sefyll yn llonydd.

Mae AI yn helpu ymosodwyr:

Felly nid yw amddiffynwyr yn mabwysiadu deallusrwydd artiffisial yn ddewisol yn y tymor hir. Mae'n debycach i… eich bod chi'n dod â fflacholau oherwydd bod yr ochr arall newydd gael gogls golwg nos. Trosiad lletchwith. Yn dal yn eithaf gwir.

Hefyd, bydd ymosodwyr yn targedu'r systemau AI eu hunain:

Mae diogelwch wedi bod yn gath a llygoden erioed. Mae deallusrwydd artiffisial yn gwneud y cathod yn gyflymach a'r llygod yn fwy dyfeisgar 🐭

Yr ateb go iawn: Mae deallusrwydd artiffisial yn disodli tasgau, nid atebolrwydd ✅

Dyma'r "canol lletchwith" y mae'r rhan fwyaf o dimau'n glanio ynddo:

  • Deallusrwydd artiffisial sy'n trin graddfa

  • Mae bodau dynol yn trin y stanciau

  • Gyda'i gilydd maen nhw'n trin cyflymder ynghyd â barn

Yn fy mhrofion fy hun ar draws llifau gwaith diogelwch, mae AI orau pan gaiff ei drin fel:

  • Cynorthwyydd triage

  • Crynodebwr

  • Peiriant cydberthynas

  • Cynorthwyydd polisi

  • Cyfaill adolygu cod ar gyfer patrymau peryglus

Mae AI ar ei waethaf pan gaiff ei drin fel:

  • Oracl

  • Un pwynt o wirionedd

  • System amddiffyn “gosodwch hi a’i hanghofio”

  • Rheswm i dan-staffio'r tîm (mae'r un hon yn brathu'n ddiweddarach ... yn galed)

Mae fel cyflogi ci gwarchod sydd hefyd yn ysgrifennu negeseuon e-bost. Gwych. Ond weithiau mae'n cyfarth ar y sugnwr llwch ac yn methu'r dyn sy'n neidio dros y ffens. 🐶🧹

Tabl Cymharu (yr opsiynau gorau y mae timau'n eu defnyddio o ddydd i ddydd) 📊

Isod mae tabl cymharu ymarferol - ddim yn berffaith, ychydig yn anwastad, fel bywyd go iawn.

Offeryn / Platfform Gorau ar gyfer (cynulleidfa) Awyrgylch pris Pam mae'n gweithio (a rhyfeddodau)
Microsoft Sentinel Microsoft Learn Timau SOC sy'n byw mewn ecosystemau Microsoft $$ - $$$ Patrymau SIEM cryf sy'n frodorol i'r cwmwl; llawer o gysylltwyr, gallant fynd yn swnllyd os nad ydynt wedi'u tiwnio…
Diogelwch Menter Splunk Splunk Sefydliadau mwy gyda chofnodi trwm + anghenion personol $$$ (yn aml $$$$ a dweud y gwir) Chwilio pwerus + dangosfyrddau; anhygoel pan gânt eu curadu, yn boenus pan nad oes neb yn berchen ar hylendid data
Gweithrediadau Diogelwch Google Google Cloud Timau sydd eisiau telemetreg ar raddfa reoledig $$ - $$$ Da ar gyfer graddfa ddata fawr; yn dibynnu ar aeddfedrwydd integreiddio, fel llawer o bethau
Streic y Torf Falcon Streic y Torf Sefydliadau sy'n drwm ar bwyntiau terfynol, timau IR $$$ Gwelededd cryf ar gyfer pwyntiau terfynol; dyfnder canfod gwych, ond mae angen pobl arnoch o hyd i yrru'r ymateb
Microsoft Defender ar gyfer Pwynt Terfynol Microsoft Learn Sefydliadau trwm M365 $$ - $$$ Integreiddio tynn â Microsoft; gall fod yn wych, gall fod “700 o rybuddion yn y ciw” os yw wedi'i gamffurfweddu
Palo Alto Cortex XSOAR Palo Alto Networks SOCs sy'n canolbwyntio ar awtomeiddio $$$ Mae llyfrau chwarae yn lleihau llafur; mae angen gofal neu rydych chi'n awtomeiddio anhrefn (ydw, dyna beth)
Platfform Wiz Wiz Timau diogelwch cwmwl $$$ Gwelededd cwmwl cryf; yn helpu i flaenoriaethu risg yn gyflym, mae angen llywodraethu y tu ôl iddo o hyd
Platfform Snyk Sefydliadau datblygu-gyntaf, AppSec $$ - $$$ Llifau gwaith sy'n gyfeillgar i ddatblygwyr; mae llwyddiant yn dibynnu ar fabwysiadu datblygwyr, nid dim ond sganio

Nodyn bach: nid oes unrhyw offeryn yn "ennill" ar ei ben ei hun. Yr offeryn gorau yw'r un y mae eich tîm yn ei ddefnyddio bob dydd heb ei ddrwgdybio. Nid gwyddoniaeth yw hynny, dyna oroesi 😅

Model gweithredu realistig: sut mae timau'n ennill gydag AI 🤝

Os ydych chi eisiau i AI wella diogelwch yn ystyrlon, y llawlyfr fel arfer yw:

Cam 1: Defnyddiwch AI i leihau llafur

  • Crynodebau cyfoethogi rhybuddion

  • Drafftio tocynnau

  • Rhestrau gwirio casglu tystiolaeth

  • Awgrymiadau ymholiad log

  • Gwahaniaethau “Beth sydd wedi newid” ar ffurfweddiadau

Cam 2: Defnyddio bodau dynol i ddilysu a phenderfynu

  • Cadarnhau effaith a chwmpas

  • Dewiswch gamau rheoli

  • Cydlynu atebion traws-dîm

Cam 3: Awtomeiddio'r pethau diogel

Targedau awtomeiddio da:

  • Cwarantîn ffeiliau hysbys sy'n ddrwg gyda hyder uchel

  • Ailosod manylion mewngofnodi ar ôl cyfaddawdu wedi'i wirio

  • Blocio parthau sy'n amlwg yn faleisus

  • Gorfodi cywiriad drifft polisi (yn ofalus)

Targedau awtomeiddio peryglus:

  • Ynysu gweinyddion cynhyrchu'n awtomatig heb ddiogelwch

  • Dileu adnoddau yn seiliedig ar signalau ansicr

  • Blocio ystodau IP mawr oherwydd “roedd y model yn teimlo fel hynny” 😬

Cam 4: Bwydo gwersi yn ôl i'r rheolyddion

  • Tiwnio ar ôl digwyddiad

  • Canfyddiadau gwell

  • Rhestr asedau gwell (y boen dragwyddol)

  • Breintiau culach

Dyma lle mae deallusrwydd artiffisial o gymorth mawr: crynhoi post-mortems, mapio bylchau canfod, troi anhrefn yn welliannau ailadroddadwy.

Y risgiau cudd sy'n gysylltiedig â diogelwch sy'n cael ei yrru gan AI (oes, mae yna ychydig) ⚠️

Os ydych chi'n mabwysiadu AI yn helaeth, mae angen i chi gynllunio ar gyfer y camgymeriadau:

  • Sicrwydd dyfeisiedig

    • Mae angen tystiolaeth ar dimau diogelwch, nid adrodd straeon. Mae deallusrwydd artiffisial yn hoffi adrodd straeon. NIST AI RMF 1.0

  • Gollyngiad data

  • Gor-ddibyniaeth

    • Mae pobl yn rhoi'r gorau i ddysgu hanfodion oherwydd bod y cyd-beilot "bob amser yn gwybod" ... nes nad yw'n gwybod.

  • Drifft model

    • Mae amgylcheddau'n newid. Mae patrymau ymosod yn newid. Mae canfod yn pydru'n dawel. NIST AI RMF 1.0

  • Cam-drin gwrthwynebol

Mae fel adeiladu clo clyfar iawn ac yna gadael yr allwedd o dan y mat. Nid y clo yw'r unig broblem.

Felly… A all AI ddisodli Seiberddiogelwch: ateb clir 🧼

A all AI ddisodli Seiberddiogelwch?
Gall ddisodli llawer o'r gwaith ailadroddus o fewn seiberddiogelwch. Gall gyflymu canfod, dosbarthu, dadansoddi, a hyd yn oed rhannau o'r ymateb. Ond ni all ddisodli'r ddisgyblaeth yn llwyr oherwydd nid un dasg yw seiberddiogelwch - mae'n llywodraethu, pensaernïaeth, ymddygiad dynol, arweinyddiaeth digwyddiadau, ac addasu parhaus.

Os ydych chi eisiau'r fframio mwyaf gonest (ychydig yn ddi-flewyn-ar-dafod, mae'n ddrwg gen i):

  • Mae AI yn disodli gwaith prysur

  • Mae deallusrwydd artiffisial yn gwella timau da

  • Mae AI yn datgelu prosesau gwael

  • Mae bodau dynol yn parhau i fod yn gyfrifol am risg a realiti

Ac ie, bydd rhai rolau'n newid. Bydd tasgau lefel mynediad yn newid gyflymaf. Ond mae tasgau newydd yn ymddangos hefyd: llifau gwaith diogel prydlon, dilysu modelau, peirianneg awtomeiddio diogelwch, peirianneg canfod gydag offer â chymorth AI… nid yw'r gwaith yn diflannu, mae'n newid 🧬

Nodiadau cloi a chrynodeb cyflym 🧾✨

Os ydych chi'n penderfynu beth i'w wneud gyda deallusrwydd artiffisial mewn diogelwch, dyma'r pwynt ymarferol i'w gymryd:

  • Defnyddiwch AI i gywasgu amser - dosbarthu'n gyflymach, crynodebau cyflymach, cydberthynas gyflymach.

  • Cadwch fodau dynol ar gyfer barn - cyd-destun, cyfaddawdau, arweinyddiaeth, atebolrwydd.

  • Tybiwch fod ymosodwyr yn defnyddio deallusrwydd artiffisial hefyd - dylunio ar gyfer twyll a thrin. MITRE ATLAS ar gyfer Datblygu Systemau Deallusrwydd artiffisial Diogel (NSA/CISA/NCSC-UK)

  • Peidiwch â phrynu “hud” - prynwch lifau gwaith sy'n lleihau risg a llafur yn fesuradwy.

Felly ie, gall AI ddisodli darnau bach o'r swydd, ac yn aml mae'n gwneud hynny mewn ffyrdd sy'n teimlo'n gynnil ar y dechrau. Y symudiad buddugol yw gwneud AI yn ddylanwad arnoch chi, nid yn lle.

Ac os ydych chi'n poeni am eich gyrfa - canolbwyntiwch ar y rhannau y mae AI yn ei chael hi'n anodd eu gwneud: meddwl systemau, arweinyddiaeth digwyddiadau, pensaernïaeth, a bod y person sy'n gallu gwahaniaethu rhwng "rhybudd diddorol" a "rydym ar fin cael diwrnod gwael iawn." 😄🔐

Cwestiynau Cyffredin

A all deallusrwydd artiffisial ddisodli timau seiberddiogelwch yn llwyr?

Gall deallusrwydd artiffisial gymryd drosodd rannau sylweddol o waith seiberddiogelwch, ond nid y ddisgyblaeth o'r dechrau i'r diwedd. Mae'n rhagori mewn tasgau trwybwn ailadroddus fel clystyru rhybuddion, canfod anomaleddau, a drafftio crynodebau pas cyntaf. Yr hyn nad yw'n ei ddisodli yw atebolrwydd, cyd-destun busnes, a barn pan fo'r risgiau'n uchel. Yn ymarferol, mae timau'n setlo i "ganol lletchwith" lle mae deallusrwydd artiffisial yn darparu graddfa a chyflymder, tra bod bodau dynol yn cadw perchnogaeth dros benderfyniadau canlyniadol.

Ble mae AI eisoes yn disodli gwaith SOC o ddydd i ddydd?

Mewn llawer o SOCs, mae AI eisoes yn ymgymryd â gwaith sy'n drwm ar amser fel dosbarthu, dad-ddyblygu, a rhestru rhybuddion yn ôl effaith debygol. Gall hefyd gyflymu dadansoddi logiau trwy nodi patrymau sy'n symud o ymddygiad sylfaenol. Nid llai o ddigwyddiadau trwy hud yw'r canlyniad - ond llai o oriau'n cael eu treulio yn cerdded trwy sŵn, fel y gall dadansoddwyr ganolbwyntio ar ymchwiliadau sy'n bwysig.

Sut mae offer AI yn helpu gyda rheoli bregusrwydd a blaenoriaethu clytiau?

Mae deallusrwydd artiffisial (AI) yn helpu i symud rheoli bregusrwydd o “gormod o CVEs” i “beth ddylem ni ei glytio gyntaf yma.” Mae dull cyffredin yn cyfuno signalau tebygolrwydd camfanteisio (fel EPSS), rhestrau camfanteisio hysbys (fel catalog KEV CISA), a chyd-destun eich amgylchedd (amlygiad i'r rhyngrwyd a hanfodoldeb asedau). Os caiff ei wneud yn dda, mae hyn yn lleihau dyfalu ac yn cefnogi clytio heb amharu ar y busnes.

Beth sy'n gwneud AI "da" mewn seiberddiogelwch o'i gymharu â AI swnllyd?

Mae deallusrwydd artiffisial da mewn seiberddiogelwch yn lleihau sŵn yn hytrach na chynhyrchu annibendod sy'n swnio'n hyderus. Mae'n cynnig esboniad ymarferol - cliwiau pendant fel beth newidiodd, beth a welodd, a pham ei fod yn bwysig - yn lle naratifau hir, amwys. Mae hefyd yn integreiddio â systemau craidd (IAM, pwynt terfyn, cwmwl, tocynnau) ac yn cefnogi diystyru dynol fel y gall dadansoddwyr ei gywiro, ei addasu, neu ei anwybyddu pan fo angen.

Pa rannau o seiberddiogelwch y mae AI yn ei chael hi'n anodd eu disodli?

Mae AI yn ei chael hi'n anoddaf gyda'r gwaith cymdeithasol-dechnegol: awydd am risg, rheoli digwyddiadau, a chydlynu ar draws timau. Yn ystod digwyddiadau, mae'r gwaith yn aml yn dod yn gyfathrebu, trin tystiolaeth, pryderon cyfreithiol, a gwneud penderfyniadau o dan ansicrwydd - meysydd lle mae arweinyddiaeth yn rhagori ar baru patrymau. Gall AI helpu i grynhoi logiau neu ddrafftio amserlenni, ond nid yw'n disodli perchnogaeth yn ddibynadwy o dan bwysau.

Sut mae ymosodwyr yn defnyddio deallusrwydd artiffisial, ac a yw hynny'n newid swydd yr amddiffynwr?

Mae ymosodwyr yn defnyddio AI i raddfa gwe-rwydo, cynhyrchu peirianneg gymdeithasol fwy argyhoeddiadol, ac ailadrodd ar amrywiadau meddalwedd faleisus yn gyflymach. Mae hynny'n newid y cae chwarae: mae amddiffynwyr sy'n mabwysiadu AI yn dod yn llai dewisol dros amser. Mae hefyd yn ychwanegu risg newydd, oherwydd gall ymosodwyr dargedu llif gwaith AI trwy chwistrelliad prydlon, ymdrechion gwenwyno, neu osgoi gwrthwynebol - sy'n golygu bod angen rheolaethau diogelwch ar systemau AI hefyd, nid ymddiriedaeth ddall.

Beth yw'r risgiau mwyaf o ddibynnu ar AI ar gyfer penderfyniadau diogelwch?

Risg fawr yw sicrwydd dyfeisiedig: gall deallusrwydd artiffisial swnio'n hyderus hyd yn oed pan mae'n anghywir, ac nid rheolaeth yw hyder. Mae gollyngiadau data yn fagl gyffredin arall - gall awgrymiadau diogelwch gynnwys manylion sensitif yn anfwriadol, ac yn aml mae logiau'n cynnwys cyfrinachau. Gall gor-ddibyniaeth hefyd erydu hanfodion, tra bod drifft model yn diraddio canfodiadau'n dawel wrth i amgylcheddau ac ymddygiad ymosodwyr newid.

Beth yw model gweithredu realistig ar gyfer defnyddio AI mewn seiberddiogelwch?

Mae model ymarferol fel hyn: defnyddiwch AI i leihau llafur, cadwch fodau dynol ar gyfer dilysu a phenderfyniadau, ac awtomeiddiwch y pethau diogel yn unig. Mae AI yn gryf ar gyfer crynodebau cyfoethogi, drafftio tocynnau, rhestrau gwirio tystiolaeth, a gwahaniaethau "beth sydd wedi newid". Mae awtomeiddio yn gweddu orau i gamau gweithredu hyder uchel fel blocio parthau drwg hysbys neu ailosod tystlythyrau ar ôl cyfaddawdu wedi'i wirio, gyda mesurau diogelwch i atal gor-ymestyn.

A fydd deallusrwydd artiffisial yn disodli rolau seiberddiogelwch lefel mynediad, a pha sgiliau sy'n dod yn fwy gwerthfawr?

Mae pentyrrau tasgau lefel mynediad yn debygol o newid gyflymaf oherwydd gall AI amsugno gwaith triagio, crynhoi a dosbarthu ailadroddus. Ond mae tasgau newydd yn ymddangos hefyd, fel adeiladu llif gwaith diogel ar gyfer prydlondeb, dilysu allbynnau modelau ac awtomeiddio diogelwch peirianneg. Mae gwydnwch gyrfa yn tueddu i ddeillio o sgiliau y mae AI yn cael trafferth â nhw: meddwl systemau, pensaernïaeth, arweinyddiaeth digwyddiadau a throsi signalau technegol yn benderfyniadau busnes.

Cyfeiriadau

  1. CYNTAF - EPSS (CYNTAF) - first.org

  2. Asiantaeth Diogelwch Seiberddiogelwch a Seilwaith (CISA) - Catalog Gwendidau Hysbys a Gamfanteisiwyd - cisa.gov

  3. Sefydliad Cenedlaethol Safonau a Thechnoleg (NIST) - SP 800-40 Diwyg. 4 (Rheoli Clwtiau Menter) - csrc.nist.gov

  4. Sefydliad Cenedlaethol Safonau a Thechnoleg (NIST) - AI RMF 1.0 - nvlpubs.nist.gov

  5. OWASP - LLM01: Chwistrelliad Prydlon - genai.owasp.org

  6. Llywodraeth y DU - Cod ymarfer ar gyfer seiberddiogelwch AI - gov.uk

  7. Sefydliad Cenedlaethol Safonau a Thechnoleg (NIST) - SP 800-61 (Canllaw Trin Digwyddiadau) - csrc.nist.gov

  8. Swyddfa Ymchwilio Ffederal (FBI) - Mae'r FBI yn rhybuddio am fygythiad cynyddol troseddwyr seiber sy'n defnyddio deallusrwydd artiffisial - fbi.gov

  9. Canolfan Cwynion Troseddau Rhyngrwyd yr FBI (IC3) - IC3 PSA ar dwyll/gwe-rwydo AI cynhyrchiol - ic3.gov

  10. OpenAI - Adroddiadau cudd-wybodaeth am fygythiadau OpenAI (enghreifftiau o ddefnydd maleisus) - openai.com

  11. Europol - “Adroddiad ChatGPT” Europol (trosolwg o gamddefnydd) - europol.europa.eu

  12. MITRE - ATLAS MITRE - mitre.org

  13. OWASP - 10 Uchaf OWASP ar gyfer Ceisiadau LLM - owasp.org

  14. Asiantaeth Diogelwch Genedlaethol (NSA) - Canllawiau ar gyfer Diogelu Datblygu System AI (NSA/CISA/NCSC-UK a phartneriaid) - nsa.gov

  15. Microsoft Learn - Trosolwg o Microsoft Sentinel - learn.microsoft.com

  16. Splunk - Diogelwch Menter Splunk - splunk.com

  17. Google Cloud - Gweithrediadau Diogelwch Google - cloud.google.com

  18. CrowdStrike - Platfform CrowdStrike Falcon - crowdstrike.com

  19. Microsoft Learn - Microsoft Defender ar gyfer Endpoint - learn.microsoft.com

  20. Rhwydweithiau Palo Alto - Cortex XSOAR - paloaltonetworks.com

  21. Wiz - Platfform Wiz - wiz.io

  22. Snyk - Snyk Llwyfan - snyk.io

Dewch o hyd i'r AI Diweddaraf yn y Siop Swyddogol ar gyfer Cynorthwywyr AI

Amdanom Ni

Yn ôl i'r blog