Sut Gellir Defnyddio Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch?

Cyflwyniad

Mae AI cynhyrchiol – systemau deallusrwydd artiffisial sy'n gallu creu cynnwys neu ragfynegiadau newydd – yn dod i'r amlwg fel grym trawsnewidiol mewn seiberddiogelwch. Mae offer fel GPT-4 OpenAI wedi dangos y gallu i ddadansoddi data cymhleth a chynhyrchu testun tebyg i fodau dynol, gan alluogi dulliau newydd o amddiffyn rhag bygythiadau seiber. Mae gweithwyr proffesiynol seiberddiogelwch a gwneuthurwyr penderfyniadau busnes ar draws diwydiannau yn archwilio sut y gall AI cynhyrchiol gryfhau amddiffynfeydd yn erbyn ymosodiadau sy'n esblygu. O gyllid a gofal iechyd i fanwerthu a llywodraeth, mae sefydliadau ym mhob sector yn wynebu ymdrechion gwe-rwydo soffistigedig, meddalwedd faleisus, a bygythiadau eraill y gallai AI cynhyrchiol helpu i'w gwrthweithio. Yn y papur gwyn hwn, rydym yn archwilio sut y gellir defnyddio AI cynhyrchiol mewn seiberddiogelwch , gan dynnu sylw at gymwysiadau byd go iawn, posibiliadau yn y dyfodol, ac ystyriaethau pwysig ar gyfer mabwysiadu.

Mae AI cynhyrchiol yn wahanol i AI dadansoddol traddodiadol nid yn unig trwy ganfod patrymau ond hefyd trwy greu cynnwys – boed yn efelychu ymosodiadau i hyfforddi amddiffynfeydd neu'n cynhyrchu esboniadau iaith naturiol ar gyfer data diogelwch cymhleth. Mae'r gallu deuol hwn yn ei wneud yn gleddyf daufiniog: mae'n cynnig offer amddiffynnol newydd pwerus, ond gall actorion bygythiad ei fanteisio hefyd. Mae'r adrannau canlynol yn archwilio ystod eang o achosion defnydd ar gyfer AI cynhyrchiol mewn seiberddiogelwch, o awtomeiddio canfod gwe-rwydo i wella ymateb i ddigwyddiadau. Rydym hefyd yn trafod y manteision y mae'r arloesiadau AI hyn yn eu haddo, ochr yn ochr â'r risgiau (fel "rhithwelediadau" AI neu gamddefnydd gwrthwynebol) y mae'n rhaid i sefydliadau eu rheoli. Yn olaf, rydym yn darparu awgrymiadau ymarferol i helpu busnesau i werthuso ac integreiddio AI cynhyrchiol yn gyfrifol i'w strategaethau seiberddiogelwch.

Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch: Trosolwg

Mae AI cynhyrchiol mewn seiberddiogelwch yn cyfeirio at fodelau AI – yn aml modelau iaith mawr neu rwydweithiau niwral eraill – a all gynhyrchu mewnwelediadau, argymhellion, cod, neu hyd yn oed ddata synthetig i gynorthwyo mewn tasgau diogelwch. Yn wahanol i fodelau rhagfynegol yn unig, gall AI cynhyrchiol efelychu senarios a chynhyrchu allbynnau y gellir eu darllen gan bobl (e.e. adroddiadau, rhybuddion, neu hyd yn oed samplau cod maleisus) yn seiliedig ar ei ddata hyfforddi. Mae'r gallu hwn yn cael ei ddefnyddio i ragweld, canfod ac ymateb i fygythiadau mewn ffyrdd mwy deinamig nag o'r blaen ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ). Er enghraifft, gall modelau cynhyrchiol ddadansoddi logiau helaeth neu ystorfeydd gwybodaeth am fygythiadau a chynhyrchu crynodeb cryno neu gamau a argymhellir, gan weithredu bron fel "cynorthwyydd" AI i dimau diogelwch.

Mae gweithrediadau cynnar o AI cynhyrchiol ar gyfer seiberamddiffyn wedi dangos addewid. Yn 2023, cyflwynodd Microsoft Security Copilot , cynorthwyydd wedi'i bweru gan GPT-4 ar gyfer dadansoddwyr diogelwch, i helpu i nodi toriadau a didoli trwy'r 65 triliwn o signalau y mae Microsoft yn eu prosesu bob dydd ( Mae Microsoft Security Copilot yn gynorthwyydd AI GPT-4 newydd ar gyfer seiberddiogelwch | The Verge ). Gall dadansoddwyr annog y system hon mewn iaith naturiol (e.e. “Crynhoi pob digwyddiad diogelwch yn ystod y 24 awr ddiwethaf” ), a bydd y cyd-beilot yn cynhyrchu crynodeb naratif defnyddiol. Yn yr un modd, mae AI Deallusrwydd Bygythiadau yn defnyddio model cynhyrchiol o'r enw Gemini i alluogi chwiliad sgwrsiol trwy gronfa ddata deallusrwydd bygythiadau helaeth Google, gan ddadansoddi cod amheus yn gyflym a chrynhoi canfyddiadau i gynorthwyo helwyr meddalwedd faleisus ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Mae'r enghreifftiau hyn yn dangos y potensial: gall AI cynhyrchiol dreulio data seiberddiogelwch cymhleth, ar raddfa fawr a chyflwyno mewnwelediadau ar ffurf hygyrch, gan gyflymu gwneud penderfyniadau.

Ar yr un pryd, gall AI cynhyrchiol greu cynnwys ffug realistig iawn, sy'n fantais ar gyfer efelychu a hyfforddi (ac, yn anffodus, i ymosodwyr sy'n creu peirianneg gymdeithasol). Wrth i ni symud ymlaen i achosion defnydd penodol, byddwn yn gweld bod gallu AI cynhyrchiol i syntheseiddio a dadansoddi gwybodaeth yn sail i'w nifer o gymwysiadau seiberddiogelwch. Isod, rydym yn plymio i achosion defnydd allweddol, gan gwmpasu popeth o atal gwe-rwydo i ddatblygu meddalwedd diogel, gydag enghreifftiau o sut mae pob un yn cael ei gymhwyso ar draws diwydiannau.

Cymwysiadau Allweddol Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch

Ffigur: Mae achosion defnydd allweddol ar gyfer AI cynhyrchiol mewn seiberddiogelwch yn cynnwys cyd-beilotiaid AI ar gyfer timau diogelwch, dadansoddi bregusrwydd cod, canfod bygythiadau addasol, efelychu ymosodiad diwrnod sero, diogelwch biometrig gwell, a chanfod gwe-rwydo ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ).

Canfod ac Atal Gwe-rwydo

Mae gwe-rwydo yn parhau i fod yn un o'r bygythiadau seiber mwyaf treiddiol, gan dwyllo defnyddwyr i glicio ar ddolenni maleisus neu ddatgelu manylion mewngofnodi. Mae deallusrwydd artiffisial cynhyrchiol yn cael ei ddefnyddio i ganfod ymdrechion gwe-rwydo a hybu hyfforddiant defnyddwyr i atal ymosodiadau llwyddiannus. Ar yr ochr amddiffynnol, gall modelau deallusrwydd artiffisial ddadansoddi cynnwys e-bost ac ymddygiadau anfonwyr i weld arwyddion cynnil o we-rwydo y gallai hidlwyr sy'n seiliedig ar reolau eu methu. Trwy ddysgu o setiau data mawr o e-byst cyfreithlon yn erbyn twyllodrus, gall model cynhyrchiol nodi anomaleddau mewn tôn, geiriad, neu gyd-destun sy'n dynodi sgam - hyd yn oed pan nad yw gramadeg a sillafu bellach yn ei ddatgelu. Mewn gwirionedd, mae ymchwilwyr Palo Alto Networks yn nodi y gall deallusrwydd artiffisial cynhyrchiol nodi "arwyddion cynnil o e-byst gwe-rwydo a allai fel arall fynd heb eu canfod," gan helpu sefydliadau i aros un cam ar y blaen i sgamwyr ( Beth Yw Deallusrwydd artiffisial Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ).

Mae timau diogelwch hefyd yn defnyddio AI cynhyrchiol i efelychu ymosodiadau gwe-rwydo ar gyfer hyfforddi a dadansoddi. Er enghraifft, cyflwynodd Ironscales offeryn efelychu gwe-rwydo wedi'i bweru gan GPT sy'n cynhyrchu negeseuon e-bost gwe-rwydo ffug yn awtomatig wedi'u teilwra ar gyfer gweithwyr sefydliad ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Mae'r negeseuon e-bost hyn a grefftwyd gan AI yn adlewyrchu'r tactegau ymosodwr diweddaraf, gan roi ymarfer realistig i staff wrth adnabod cynnwys gwe-rwydo. Mae hyfforddiant personol o'r fath yn hanfodol gan fod ymosodwyr eu hunain yn mabwysiadu AI i greu deniadau mwy argyhoeddiadol. Yn nodedig, er y gall AI cynhyrchiol gynhyrchu negeseuon gwe-rwydo caboledig iawn (mae dyddiau Saesneg toredig hawdd ei weld wedi mynd), mae amddiffynwyr wedi canfod nad yw AI yn guro. Yn 2024, cynhaliodd ymchwilwyr Diogelwch IBM arbrawf yn cymharu negeseuon e-bost gwe-rwydo a ysgrifennwyd gan ddyn â rhai a gynhyrchwyd gan AI, ac "yn syndod, roedd negeseuon e-bost a gynhyrchwyd gan AI yn dal yn hawdd i'w canfod er gwaethaf eu gramadeg gywir" ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae hyn yn awgrymu y gall greddf ddynol ynghyd â chanfod â chymorth AI adnabod anghysondebau cynnil neu signalau metadata mewn sgamiau a ysgrifennwyd gan AI.

Mae AI cynhyrchiol yn cynorthwyo amddiffyn rhag gwe-rwydo mewn ffyrdd eraill hefyd. Gellir defnyddio modelau i gynhyrchu ymatebion awtomataidd neu hidlwyr sy'n profi negeseuon e-bost amheus. Er enghraifft, gallai system AI ateb e-bost gyda rhai ymholiadau i wirio dilysrwydd yr anfonwr neu ddefnyddio LLM i ddadansoddi dolenni ac atodiadau e-bost mewn blwch tywod, yna crynhoi unrhyw fwriad maleisus. Mae platfform diogelwch NVIDIA, Morpheus, yn dangos pŵer AI yn y maes hwn - mae'n defnyddio modelau NLP cynhyrchiol i ddadansoddi a dosbarthu negeseuon e-bost yn gyflym, a chanfuwyd ei fod yn gwella canfod e-bost gwe-rwydo gwaywffon 21% o'i gymharu ag offer diogelwch traddodiadol ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae Morpheus hyd yn oed yn proffilio patrymau cyfathrebu defnyddwyr i ganfod ymddygiad anarferol (fel defnyddiwr yn anfon e-bost at lawer o gyfeiriadau allanol yn sydyn), a all ddangos bod cyfrif wedi'i beryglu yn anfon negeseuon e-bost gwe-rwydo.

Yn ymarferol, mae cwmnïau ar draws diwydiannau'n dechrau ymddiried mewn AI i hidlo traffig e-bost a gwe ar gyfer ymosodiadau peirianneg gymdeithasol. Mae cwmnïau cyllid, er enghraifft, yn defnyddio AI cynhyrchiol i sganio cyfathrebiadau am ymdrechion dynwared a allai arwain at dwyll gwifren, tra bod darparwyr gofal iechyd yn defnyddio AI i amddiffyn data cleifion rhag toriadau sy'n gysylltiedig â physgota. Trwy gynhyrchu senarios physgota realistig a nodi nodweddion negeseuon maleisus, mae AI cynhyrchiol yn ychwanegu haen bwerus at strategaethau atal physgota. Y casgliad: Gall AI helpu i ganfod a diarfogi ymosodiadau physgota yn gyflymach ac yn fwy cywir, hyd yn oed wrth i ymosodwyr ddefnyddio'r un dechnoleg i wella eu gêm.

Canfod a Dadansoddi Bygythiadau Maleisus

Mae meddalwedd faleisus modern yn esblygu'n gyson – mae ymosodwyr yn cynhyrchu amrywiadau newydd neu'n drysu cod i osgoi llofnodion gwrthfeirws. Mae AI cynhyrchiol yn cynnig technegau newydd ar gyfer canfod meddalwedd faleisus a deall ei ymddygiad. Un dull yw defnyddio AI i gynhyrchu "efeilliaid drwg" o ddrwgwedd : gall ymchwilwyr diogelwch fwydo sampl meddalwedd faleisus hysbys i fodel cynhyrchiol i greu llawer o amrywiadau wedi'u mwtaneiddio o'r meddalwedd faleisus hwnnw. Drwy wneud hynny, maent yn rhagweld yn effeithiol y mân newidiadau y gallai ymosodwr eu gwneud. Yna gellir defnyddio'r amrywiadau hyn a gynhyrchir gan AI i hyfforddi systemau canfod gwrthfeirws a thresmasiad, fel bod hyd yn oed fersiynau wedi'u haddasu o'r meddalwedd faleisus yn cael eu cydnabod yn y gwyllt ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae'r strategaeth ragweithiol hon yn helpu i dorri'r cylch lle mae hacwyr yn newid eu meddalwedd faleisus ychydig i osgoi canfod ac mae'n rhaid i amddiffynwyr frysio i ysgrifennu llofnodion newydd bob tro. Fel y nodwyd mewn un podlediad diwydiant, mae arbenigwyr diogelwch bellach yn defnyddio AI cynhyrchiol i "efelychu traffig rhwydwaith a chynhyrchu llwythi tâl maleisus sy'n dynwared ymosodiadau soffistigedig," gan brofi straen ar eu hamddiffynfeydd yn erbyn teulu cyfan o fygythiadau yn hytrach nag un achos. Mae'r canfod bygythiadau addasol yn golygu bod offer diogelwch yn dod yn fwy gwydn i ddrwgwedd polymorffig a fyddai fel arall yn llithro drwodd.

Y tu hwnt i ganfod, mae AI cynhyrchiol yn cynorthwyo gyda dadansoddi meddalwedd faleisus a pheirianneg gwrthdroi , sydd yn draddodiadol yn dasgau llafur-ddwys i ddadansoddwyr bygythiadau. Gellir rhoi'r dasg i fodelau iaith mawr archwilio cod neu sgriptiau amheus ac egluro mewn iaith glir beth y bwriedir i'r cod ei wneud. Enghraifft o'r byd go iawn yw VirusTotal Code Insight , nodwedd gan VirusTotal Google sy'n defnyddio model AI cynhyrchiol (Sec-PaLM Google) i gynhyrchu crynodebau iaith naturiol o god a allai fod yn faleisus ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Yn ei hanfod, mae'n "fath o ChatGPT sy'n ymroddedig i godio diogelwch," gan weithredu fel dadansoddwr meddalwedd faleisus AI sy'n gweithio 24/7 i helpu dadansoddwyr dynol i ddeall bygythiadau ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Yn lle myfyrio ar sgript neu god deuaidd anghyfarwydd, gall aelod o'r tîm diogelwch gael esboniad ar unwaith gan yr AI - er enghraifft, "Mae'r sgript hon yn ceisio lawrlwytho ffeil o weinydd XYZ ac yna addasu gosodiadau system, sy'n dynodi ymddygiad meddalwedd faleisus." Mae hyn yn cyflymu ymateb i ddigwyddiadau yn sylweddol, gan y gall dadansoddwyr ddosbarthu a deall meddalwedd faleisus newydd yn gyflymach nag erioed.

Defnyddir AI cynhyrchiol hefyd i nodi meddalwedd faleisus mewn setiau data enfawr . Mae peiriannau gwrthfeirws traddodiadol yn sganio ffeiliau am lofnodion hysbys, ond gall model cynhyrchiol werthuso nodweddion ffeil a hyd yn oed ragweld a yw'n faleisus yn seiliedig ar batrymau a ddysgwyd. Trwy ddadansoddi priodoleddau biliynau o ffeiliau (malei a diniwed), gallai AI ddal bwriad maleisus lle nad oes llofnod penodol yn bodoli. Er enghraifft, gallai model cynhyrchiol nodi ffeil weithredadwy fel un amheus oherwydd bod ei broffil ymddygiad yn "edrych" fel amrywiad bach o ransomware a welodd yn ystod yr hyfforddiant, er bod y ffeil ddeuaidd yn newydd. Mae'r canfod hwn yn seiliedig ar ymddygiad yn helpu i wrthweithio meddalwedd faleisus newydd neu ddiwrnod sero. Yn ôl y sôn, mae AI Gwybodaeth am Fygythiadau Google (rhan o Chronicle/Mandiant) yn defnyddio ei fodel cynhyrchiol i ddadansoddi cod a allai fod yn faleisus a "chynorthwyo gweithwyr proffesiynol diogelwch yn fwy effeithlon ac effeithiol i frwydro yn erbyn meddalwedd faleisus a mathau eraill o fygythiadau." ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ).

Ar yr ochr arall, rhaid inni gydnabod y gall ymosodwyr ddefnyddio AI cynhyrchiol yma hefyd – i greu meddalwedd faleisus yn awtomatig sy'n addasu ei hun. Mewn gwirionedd, mae arbenigwyr diogelwch yn rhybuddio y gall AI cynhyrchiol helpu seiberdroseddwyr i ddatblygu meddalwedd faleisus sy'n anoddach ei ganfod ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ). Gellir cyfarwyddo model AI i drawsnewid darn o ddrwgwedd dro ar ôl tro (newid ei strwythur ffeiliau, dulliau amgryptio, ac ati) nes ei fod yn osgoi pob gwiriad gwrthfeirws hysbys. Mae'r defnydd gwrthwynebol hwn yn bryder cynyddol (a elwir weithiau'n "ddrwgwedd wedi'i phweru gan AI" neu ddrwgwedd polymorffig fel gwasanaeth ). Byddwn yn trafod risgiau o'r fath yn ddiweddarach, ond mae'n tanlinellu bod AI cynhyrchiol yn offeryn yn y gêm gath a llygoden hon a ddefnyddir gan amddiffynwyr ac ymosodwyr.

At ei gilydd, mae AI cynhyrchiol yn gwella amddiffyniad rhag meddalwedd faleisus drwy alluogi timau diogelwch i feddwl fel ymosodwr – gan gynhyrchu bygythiadau ac atebion newydd yn fewnol. Boed yn cynhyrchu meddalwedd faleisus synthetig i wella cyfraddau canfod neu'n defnyddio AI i esbonio a chynnwys meddalwedd faleisus go iawn a geir mewn rhwydweithiau, mae'r technegau hyn yn berthnasol ar draws diwydiannau. Gallai banc ddefnyddio dadansoddiad meddalwedd faleisus sy'n cael ei yrru gan AI i ddadansoddi macro amheus mewn taenlen yn gyflym, tra gallai cwmni gweithgynhyrchu ddibynnu ar AI i ganfod meddalwedd faleisus sy'n targedu systemau rheoli diwydiannol. Drwy ychwanegu at ddadansoddiad meddalwedd faleisus traddodiadol gydag AI cynhyrchiol, gall sefydliadau ymateb i ymgyrchoedd meddalwedd faleisus yn gyflymach ac yn fwy rhagweithiol nag o'r blaen.

Deallusrwydd Bygythiadau ac Awtomeiddio Dadansoddi

Bob dydd, mae sefydliadau'n cael eu peledu â data cudd-wybodaeth bygythiadau – o ffrydiau o ddangosyddion perygl (IOCs) sydd newydd eu darganfod i adroddiadau dadansoddwyr am dactegau hacwyr sy'n dod i'r amlwg. Yr her i dimau diogelwch yw didoli trwy'r llif hwn o wybodaeth a thynnu mewnwelediadau y gellir gweithredu arnynt. Mae deallusrwydd artiffisial cynhyrchiol yn profi'n amhrisiadwy wrth awtomeiddio dadansoddi a defnyddio cudd-wybodaeth bygythiadau . Yn lle darllen dwsinau o adroddiadau neu gofnodion cronfa ddata â llaw, gall dadansoddwyr ddefnyddio deallusrwydd artiffisial i grynhoi a rhoi cyd-destun i wybodaeth bygythiadau ar gyflymder peiriant.

Gwybodaeth am Fygythiadau Google , sy'n integreiddio AI cynhyrchiol (y model Gemini) â thyrfeydd Google o ddata bygythiadau o Mandiant a VirusTotal. Mae'r AI hwn yn darparu "chwiliad sgwrsio ar draws ystorfa helaeth Google o wybodaeth am fygythiadau" , gan ganiatáu i ddefnyddwyr ofyn cwestiynau naturiol am fygythiadau a chael atebion distylledig ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Er enghraifft, gallai dadansoddwr ofyn, "Ydyn ni wedi gweld unrhyw ddrwgwedd sy'n gysylltiedig â Grŵp Bygythiadau X yn targedu ein diwydiant?" a bydd yr AI yn tynnu gwybodaeth berthnasol, gan nodi efallai "Ydy, cysylltwyd Grŵp Bygythiadau X ag ymgyrch gwe-rwydo y mis diwethaf gan ddefnyddio'r meddalwedd faleisus Y" , ynghyd â chrynodeb o ymddygiad y meddalwedd faleisus hwnnw. Mae hyn yn lleihau'r amser i gasglu mewnwelediadau a fyddai fel arall yn gofyn am ymholi nifer o offer neu ddarllen adroddiadau hir.

Gall AI cynhyrchiol hefyd gydberthyn a chrynhoi tueddiadau bygythiadau . Gallai gribo trwy filoedd o bostiadau blog diogelwch, newyddion am dorriadau diogelwch, a sgwrsio ar y we dywyll ac yna cynhyrchu crynodeb gweithredol o'r "bygythiadau seiber mwyaf yr wythnos hon" ar gyfer briffio CISO. Yn draddodiadol, roedd y lefel hon o ddadansoddi ac adrodd yn cymryd ymdrech ddynol sylweddol; nawr gall model wedi'i diwnio'n dda ei ddrafftio mewn eiliadau, gyda bodau dynol yn unig yn mireinio'r allbwn. Mae cwmnïau fel ZeroFox wedi datblygu FoxGPT , offeryn AI cynhyrchiol a gynlluniwyd yn benodol i "gyflymu'r dadansoddiad a'r crynhoi o wybodaeth ar draws setiau data mawr," gan gynnwys cynnwys maleisus a data gwe-rwydo ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Trwy awtomeiddio'r gwaith trwm o ddarllen a chroesgyfeirio data, mae AI yn galluogi timau gwybodaeth am fygythiadau i ganolbwyntio ar wneud penderfyniadau ac ymateb.

Achos defnydd arall yw hela bygythiadau sgwrsiol . Dychmygwch fod dadansoddwr diogelwch yn rhyngweithio â chynorthwyydd AI: “Dangoswch i mi unrhyw arwyddion o allfudo data yn ystod y 48 awr ddiwethaf” neu “Beth yw'r prif wendidau newydd y mae ymosodwyr yn eu hecsbloetio yr wythnos hon?” Gall yr AI ddehongli'r ymholiad, chwilio logiau mewnol neu ffynonellau deallusrwydd allanol, ac ymateb gydag ateb clir neu hyd yn oed rhestr o ddigwyddiadau perthnasol. Nid yw hyn yn annhebygol - mae systemau rheoli gwybodaeth a digwyddiadau diogelwch modern (SIEM) yn dechrau ymgorffori ymholiadau iaith naturiol. Mae pecyn diogelwch QRadar IBM, er enghraifft, yn ychwanegu nodweddion AI cynhyrchiol yn 2024 i adael i ddadansoddwyr “ofyn […] cwestiynau penodol am y llwybr ymosod cryno” ar gyfer digwyddiad a chael atebion manwl. Gall hefyd “ddehongli a chrynhoi gwybodaeth bygythiadau hynod berthnasol” yn awtomatig ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Yn ei hanfod, mae AI cynhyrchiol yn troi mynyddoedd o ddata technegol yn fewnwelediadau maint sgwrs ar alw.

Ar draws diwydiannau, mae hyn yn cael goblygiadau mawr. Gall darparwr gofal iechyd ddefnyddio AI i gael y wybodaeth ddiweddaraf am y grwpiau ransomware diweddaraf sy'n targedu ysbytai, heb neilltuo dadansoddwr i ymchwil llawn amser. Gall SOC cwmni manwerthu grynhoi tactegau meddalwedd faleisus POS newydd yn gyflym wrth friffio staff TG siopau. Ac yn y llywodraeth, lle mae'n rhaid syntheseiddio data bygythiadau o wahanol asiantaethau, gall AI gynhyrchu adroddiadau unedig sy'n tynnu sylw at y rhybuddion allweddol. Trwy awtomeiddio casglu a dehongli gwybodaeth am fygythiadau , mae AI cynhyrchiol yn helpu sefydliadau i ymateb yn gyflymach i fygythiadau sy'n dod i'r amlwg ac yn lleihau'r risg o golli rhybuddion hanfodol sydd wedi'u cuddio yn y sŵn.

Optimeiddio Canolfan Gweithrediadau Diogelwch (SOC)

Mae Canolfannau Gweithrediadau Diogelwch yn enwog am flinder rhybuddion a chyfaint llethol o ddata. Gallai dadansoddwr SOC nodweddiadol fynd trwy filoedd o rybuddion a digwyddiadau bob dydd, gan ymchwilio i ddigwyddiadau posibl. Mae AI cynhyrchiol yn gweithredu fel lluosydd grym mewn SOCs trwy awtomeiddio gwaith arferol, darparu crynodebau deallus, a hyd yn oed drefnu rhai ymatebion. Y nod yw optimeiddio llif gwaith SOC fel y gall dadansoddwyr dynol ganolbwyntio ar y materion pwysicaf tra bod y cyd-beilot AI yn ymdrin â'r gweddill.

Un cymhwysiad mawr yw defnyddio AI cynhyrchiol fel "Cyd-beilot Dadansoddwr" . Mae Cyd-beilot Diogelwch Microsoft, a nodwyd yn gynharach, yn enghraifft o hyn: mae "wedi'i gynllunio i gynorthwyo gwaith dadansoddwr diogelwch yn hytrach na'i ddisodli," gan helpu gydag ymchwiliadau ac adrodd ar ddigwyddiadau ( Mae Microsoft Security Copilot yn gynorthwyydd AI GPT-4 newydd ar gyfer seiberddiogelwch | The Verge ). Yn ymarferol, mae hyn yn golygu y gall dadansoddwr fewnbynnu data crai - logiau wal dân, amserlen digwyddiad, neu ddisgrifiad o ddigwyddiad - a gofyn i'r AI ei ddadansoddi neu ei grynhoi. Gallai'r cyd-beilot allbynnu naratif fel, "Ymddengys am 2:35 AM, bod mewngofnodi amheus o IP X wedi llwyddo ar Weinydd Y, ac yna trosglwyddiadau data anarferol, gan nodi toriad posibl i'r gweinydd hwnnw." Mae'r math hwn o gyd-destunoli ar unwaith yn amhrisiadwy pan fo amser yn brin.

Mae cyd-beilotiaid AI hefyd yn helpu i leihau'r baich triage lefel-1. Yn ôl data'r diwydiant, gall tîm diogelwch dreulio 15 awr yr wythnos yn didoli trwy tua 22,000 o rybuddion a chamau positif ffug ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Gyda AI cynhyrchiol, gellir triage llawer o'r rhybuddion hyn yn awtomatig - gall yr AI ddiystyru'r rhai sy'n amlwg yn ddiniwed (gyda rhesymeg wedi'i rhoi) ac amlygu'r rhai sydd wir angen sylw, weithiau hyd yn oed awgrymu'r flaenoriaeth. Mewn gwirionedd, mae cryfder AI cynhyrchiol wrth ddeall cyd-destun yn golygu y gall groes-gydberthyn rhybuddion a allai ymddangos yn ddiniwed ar eu pen eu hunain ond gyda'i gilydd yn dynodi ymosodiad aml-gam. Mae hyn yn lleihau'r siawns o golli ymosodiad oherwydd "blinder rhybudd".

Mae dadansoddwyr SOC hefyd yn defnyddio iaith naturiol gydag AI i gyflymu hela ac ymchwiliadau. Purple AI , er enghraifft, yn cyfuno rhyngwyneb sy'n seiliedig ar LLM â data diogelwch amser real, gan ganiatáu i ddadansoddwyr "ofyn cwestiynau cymhleth am hela bygythiadau mewn Saesneg plaen a chael atebion cyflym a chywir" ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Gallai dadansoddwr deipio, "A oes unrhyw bwyntiau terfyn wedi cyfathrebu â'r parth badguy123[.]com yn y mis diwethaf?" , a bydd Purple AI yn chwilio trwy logiau i ymateb. Mae hyn yn arbed y dadansoddwr rhag ysgrifennu ymholiadau neu sgriptiau cronfa ddata - mae'r AI yn ei wneud o dan y cwfl. Mae hefyd yn golygu y gall dadansoddwyr iau drin tasgau a oedd gynt yn gofyn am beiriannydd profiadol â sgiliau mewn ieithoedd ymholiadau, gan uwchsgilio'r tîm yn effeithiol trwy gymorth AI . Yn wir, mae dadansoddwyr yn adrodd bod canllawiau AI cynhyrchiol yn "hybu eu sgiliau a'u hyfedredd" , gan y gall staff iau nawr gael cefnogaeth codio ar alw neu awgrymiadau dadansoddi gan yr AI, gan leihau dibyniaeth ar ofyn aelodau uwch y tîm am help bob amser ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ).

Optimeiddio SOC arall yw crynhoi a dogfennu digwyddiadau awtomataidd . Ar ôl i ddigwyddiad gael ei drin, rhaid i rywun ysgrifennu'r adroddiad – tasg y mae llawer yn ei chael hi'n ddiflas. Gall AI cynhyrchiol gymryd y data fforensig (logiau system, dadansoddiad meddalwedd faleisus, amserlen camau gweithredu) a chynhyrchu adroddiad digwyddiad drafft cyntaf. Mae IBM yn adeiladu'r gallu hwn i mewn i QRadar fel y gellir cynhyrchu crynodeb o ddigwyddiad “un clic” Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Mae hyn nid yn unig yn arbed amser ond hefyd yn sicrhau nad oes dim yn cael ei anwybyddu yn yr adroddiad, gan y gall yr AI gynnwys yr holl fanylion perthnasol yn gyson. Yn yr un modd, ar gyfer cydymffurfio ac archwilio, gall AI lenwi ffurflenni neu dablau tystiolaeth yn seiliedig ar ddata digwyddiadau.

Mae canlyniadau'r byd go iawn yn gymhellol. Mae mabwysiadwyr cynnar SOAR (cerddorfa diogelwch, awtomeiddio ac ymateb) Swimlane sy'n cael ei gyrru gan AI yn nodi enillion cynhyrchiant enfawr – gwelodd Global Data Systems, er enghraifft, eu tîm SecOps yn rheoli llwyth achosion llawer mwy; dywedodd un cyfarwyddwr “byddai'r hyn rwy'n ei wneud heddiw gyda 7 dadansoddwr yn ôl pob tebyg yn cymryd 20 aelod o staff heb” yr awtomeiddio sy'n cael ei bweru gan AI ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch ). Mewn geiriau eraill, gall AI yn y SOC luosi capasiti . Ar draws diwydiannau, boed yn gwmni technoleg sy'n delio â rhybuddion diogelwch cwmwl neu'n ffatri weithgynhyrchu sy'n monitro systemau OT, mae timau SOC mewn sefyllfa i ennill canfod ac ymateb cyflymach, llai o ddigwyddiadau a fethir, a gweithrediadau mwy effeithlon trwy gofleidio cynorthwywyr AI cynhyrchiol. Mae'n ymwneud â gweithio'n ddoethach – caniatáu i beiriannau drin y tasgau ailadroddus a data-drwm fel y gall bodau dynol gymhwyso eu greddf a'u harbenigedd lle mae'n bwysicaf.

Rheoli Bregusrwydd ac Efelychu Bygythiadau

Mae nodi a rheoli gwendidau – gwendidau mewn meddalwedd neu systemau y gallai ymosodwyr eu hecsbloetio – yn swyddogaeth seiberddiogelwch graidd. Mae deallusrwydd artiffisial cynhyrchiol yn gwella rheoli gwendidau drwy gyflymu darganfod, cynorthwyo gyda blaenoriaethu clytiau, a hyd yn oed efelychu ymosodiadau ar y gwendidau hynny i wella parodrwydd. Yn ei hanfod, mae deallusrwydd artiffisial yn helpu sefydliadau i ddod o hyd i'r bylchau yn eu harfwisg a'u trwsio'n gyflymach, a yn rhagweithiol cyn i ymosodwyr go iawn wneud hynny.

Un cymhwysiad arwyddocaol yw defnyddio AI cynhyrchiol ar gyfer adolygu cod awtomataidd a darganfod bregusrwydd . Yn aml, mae cronfeydd cod mawr (yn enwedig systemau etifeddol) yn cynnwys diffygion diogelwch sy'n mynd heb i neb sylwi arnynt. Gellir hyfforddi modelau AI cynhyrchiol ar arferion codio diogel a phatrymau bygiau cyffredin, yna eu rhyddhau ar god ffynhonnell neu gasglu ffeiliau deuaidd i ddod o hyd i wendidau posibl. Er enghraifft, datblygodd ymchwilwyr NVIDIA biblinell AI cynhyrchiol a allai ddadansoddi cynwysyddion meddalwedd etifeddol a nodi bregusrwydd "gyda chywirdeb uchel - hyd at 4 × yn gyflymach nag arbenigwyr dynol." ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Yn y bôn, dysgodd yr AI sut olwg sydd ar god ansicr ac roedd yn gallu sganio trwy feddalwedd ddegawdau oed i nodi swyddogaethau a llyfrgelloedd peryglus, gan gyflymu'r broses araf fel arfer o archwilio cod â llaw yn fawr. Gall y math hwn o offeryn newid y gêm i ddiwydiannau fel cyllid neu lywodraeth sy'n dibynnu ar gronfeydd cod mawr, hŷn - mae'r AI yn helpu i foderneiddio diogelwch trwy gloddio allan faterion y gallai staff gymryd misoedd neu flynyddoedd i ddod o hyd iddynt (os o gwbl).

Mae AI cynhyrchiol hefyd yn cynorthwyo llif gwaith rheoli bregusrwydd ExposureAI Tenable yn defnyddio AI cynhyrchiol i adael i ddadansoddwyr ymholi data bregusrwydd mewn iaith glir a chael atebion ar unwaith ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Gall ExposureAI "grynhoi'r llwybr ymosod cyflawn mewn naratif" ar gyfer bregusrwydd critigol penodol, gan egluro sut y gallai ymosodwr ei gadwyno â gwendidau eraill i beryglu system. Mae hyd yn oed yn argymell camau gweithredu i unioni ac yn ateb cwestiynau dilynol am y risg. Mae hyn yn golygu pan gyhoeddir CVE (Bregusrwyddau ac Amlygiadau Cyffredin) critigol newydd, gallai dadansoddwr ofyn i'r AI, "A yw unrhyw un o'n gweinyddion wedi'u heffeithio gan y CVE hwn a beth yw'r senario gwaethaf os na fyddwn yn clytio?" a derbyn asesiad clir a dynnwyd o ddata sgan y sefydliad ei hun. Trwy roi cyd-destun i fregusrwydd (e.e. mae'r un hon yn agored i'r rhyngrwyd ac ar weinydd gwerth uchel, felly mae'n flaenoriaeth uchel), mae AI cynhyrchiol yn helpu timau i glytio'n glyfar gydag adnoddau cyfyngedig.

Yn ogystal â chanfod a rheoli gwendidau hysbys, mae AI cynhyrchiol yn cyfrannu at brofion treiddiad ac efelychu ymosodiadau – yn y bôn darganfod anhysbys neu brofi rheolaethau diogelwch. Defnyddiwyd rhwydweithiau gwrthwynebol cynhyrchiol (GANs), math o AI cynhyrchiol, i greu data synthetig sy'n dynwared traffig rhwydwaith go iawn neu ymddygiad defnyddwyr, a all gynnwys patrymau ymosod cudd. Awgrymodd astudiaeth yn 2023 ddefnyddio GANs i gynhyrchu traffig ymosodiadau diwrnod sero realistig i hyfforddi systemau canfod ymwthiad ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Trwy fwydo'r IDS â senarios ymosod a grefftwyd gan AI (nad ydynt yn peryglu defnyddio meddalwedd faleisus gwirioneddol ar rwydweithiau cynhyrchu), gall sefydliadau hyfforddi eu hamddiffynfeydd i adnabod bygythiadau newydd heb aros i gael eu taro ganddynt mewn gwirionedd. Yn yr un modd, gall AI efelychu ymosodwr yn archwilio system – er enghraifft, rhoi cynnig awtomatig ar wahanol dechnegau ecsbloetio mewn amgylchedd diogel i weld a yw unrhyw un yn llwyddo. Mae Asiantaeth Prosiectau Ymchwil Uwch Amddiffyn yr Unol Daleithiau (DARPA) yn gweld addewid yma: mae ei Her Seiber AI 2023 yn defnyddio AI cynhyrchiol yn benodol (fel modelau iaith mawr) i "ddod o hyd i wendidau mewn meddalwedd ffynhonnell agored a'u trwsio'n awtomatig" fel rhan o gystadleuaeth ( DARPA yn Anelu at Ddatblygu AI, Cymwysiadau Ymreolaeth y Gall Rhyfelwyr Ymddiried Ynddynt > Adran Amddiffyn yr Unol Daleithiau > Newyddion yr Adran Amddiffyn ). Mae'r fenter hon yn tanlinellu nad yw AI yn unig yn helpu i drwsio tyllau hysbys; mae'n datgelu rhai newydd yn weithredol ac yn cynnig atebion, tasg sydd wedi'i chyfyngu'n draddodiadol i ymchwilwyr diogelwch medrus (a drud).

Gall AI cynhyrchiol hyd yn oed greu potiau mêl deallus ac efeilliaid digidol ar gyfer amddiffyn. Mae cwmnïau newydd yn datblygu systemau twyllo sy'n cael eu gyrru gan AI sy'n efelychu gweinyddion neu ddyfeisiau go iawn yn argyhoeddiadol. Fel yr eglurodd un Prif Swyddog Gweithredol, gall AI cynhyrchiol "glonio systemau digidol i efelychu rhai go iawn a denu hacwyr" ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae'r potiau mêl hyn a gynhyrchir gan AI yn ymddwyn fel yr amgylchedd go iawn (dyweder, dyfais IoT ffug yn anfon telemetreg arferol) ond maent yn bodoli'n unig i ddenu ymosodwyr. Pan fydd ymosodwr yn targedu'r twyllo, mae'r AI wedi'u twyllo i ddatgelu eu dulliau, y gall amddiffynwyr wedyn eu hastudio a'u defnyddio i atgyfnerthu'r systemau go iawn. Mae'r cysyniad hwn, wedi'i bweru gan fodelu cynhyrchiol, yn darparu ffordd sy'n edrych ymlaen i droi'r byrddau ar ymosodwyr , gan ddefnyddio twyll wedi'i wella gan AI.

Ar draws diwydiannau, mae rheoli bregusrwydd yn gyflymach ac yn ddoethach yn golygu llai o doriadau. Mewn TG gofal iechyd, er enghraifft, gallai AI ganfod llyfrgell fregus sydd wedi dyddio mewn dyfais feddygol yn gyflym ac ysgogi atgyweiriad cadarnwedd cyn i unrhyw ymosodwr ei chamfanteisio. Mewn bancio, gallai AI efelychu ymosodiad mewnol ar gymhwysiad newydd i sicrhau bod data cwsmeriaid yn parhau i fod yn ddiogel o dan bob senario. Felly mae AI cynhyrchiol yn gweithredu fel microsgop a phrofwr straen ar gyfer ystum diogelwch sefydliadau: mae'n goleuo diffygion cudd ac yn rhoi pwysau ar systemau mewn ffyrdd dychmygus i sicrhau gwydnwch.

Cynhyrchu Cod Diogel a Datblygu Meddalwedd

Nid yw talentau AI cynhyrchiol yn gyfyngedig i ganfod ymosodiadau – maent hefyd yn ymestyn i greu systemau mwy diogel o'r cychwyn cyntaf . Mewn datblygu meddalwedd, gall generaduron cod AI (fel GitHub Copilot, OpenAI Codex, ac ati) helpu datblygwyr i ysgrifennu cod yn gyflymach trwy awgrymu darnau cod neu hyd yn oed swyddogaethau cyfan. Yr ongl seiberddiogelwch yw sicrhau bod y darnau cod hyn a awgrymir gan AI yn ddiogel a defnyddio AI i wella arferion codio.

Ar y naill law, gall AI cynhyrchiol weithredu fel cynorthwyydd codio sy'n ymgorffori arferion gorau diogelwch . Gall datblygwyr annog offeryn AI, "Cynhyrchu swyddogaeth ailosod cyfrinair yn Python," ac yn ddelfrydol cael cod yn ôl sydd nid yn unig yn ymarferol ond sydd hefyd yn dilyn canllawiau diogel (e.e. dilysu mewnbwn priodol, logio, trin gwallau heb ollwng gwybodaeth, ac ati). Gall cynorthwyydd o'r fath, wedi'i hyfforddi ar enghreifftiau cod diogel helaeth, helpu i leihau gwallau dynol sy'n arwain at wendidau. Er enghraifft, os yw datblygwr yn anghofio glanhau mewnbwn defnyddwyr (gan agor y drws i chwistrelliad SQL neu faterion tebyg), gallai AI naill ai gynnwys hynny yn ddiofyn neu eu rhybuddio. Mae rhai offer codio AI bellach yn cael eu mireinio â data sy'n canolbwyntio ar ddiogelwch i wasanaethu'r union bwrpas hwn - yn y bôn, mae AI yn paru rhaglennu â chydwybod diogelwch .

Fodd bynnag, mae ochr arall i'r geiniog: gall AI cynhyrchiol gyflwyno gwendidau yr un mor hawdd os na chaiff ei lywodraethu'n iawn. Fel y nododd yr arbenigwr diogelwch o Sophos, Ben Verschaeren, mae defnyddio AI cynhyrchiol ar gyfer codio yn "iawn ar gyfer cod byr, gwiriadwy, ond yn beryglus pan fydd cod heb ei wirio yn cael ei integreiddio" i systemau cynhyrchu. Y risg yw y gallai AI gynhyrchu cod rhesymegol gywir sy'n ansicr mewn ffyrdd na allai rhywun nad yw'n arbenigwr sylwi arnynt. Ar ben hynny, gallai actorion maleisus ddylanwadu'n fwriadol ar fodelau AI cyhoeddus trwy eu hadu â phatrymau cod bregus (math o wenwyno data) fel bod yr AI yn awgrymu cod ansicr. Nid yw'r rhan fwyaf o ddatblygwyr yn arbenigwyr diogelwch , felly os yw AI yn awgrymu ateb cyfleus, efallai y byddant yn ei ddefnyddio'n ddall, heb sylweddoli bod ganddo ddiffyg ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae'r pryder hwn yn real - mewn gwirionedd, mae rhestr 10 Uchaf OWASP nawr ar gyfer LLMs (modelau iaith mawr) sy'n amlinellu risgiau cyffredin fel hyn wrth ddefnyddio AI ar gyfer codio.

I wrthweithio'r problemau hyn, mae arbenigwyr yn awgrymu "ymladd AI cynhyrchiol gydag AI cynhyrchiol" ym maes codio. Yn ymarferol, mae hynny'n golygu defnyddio AI i adolygu a phrofi cod y mae AI arall (neu fodau dynol) wedi'i ysgrifennu. Gall AI sganio trwy ymrwymiadau cod newydd yn llawer cyflymach nag adolygydd cod dynol a nodi gwendidau posibl neu broblemau rhesymeg. Rydym eisoes yn gweld offer yn dod i'r amlwg sy'n integreiddio i gylchred bywyd datblygu meddalwedd: mae cod yn cael ei ysgrifennu (efallai gyda chymorth AI), yna mae model cynhyrchiol sydd wedi'i hyfforddi ar egwyddorion cod diogel yn ei adolygu ac yn cynhyrchu adroddiad o unrhyw bryderon (dyweder, defnyddio swyddogaethau sydd wedi darfod, gwiriadau dilysu ar goll, ac ati). Mae ymchwil NVIDIA, a grybwyllwyd yn gynharach, a gyflawnodd ganfod gwendidau 4 × yn gyflymach mewn cod yn enghraifft o harneisio AI ar gyfer dadansoddi cod diogel ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ).

ben hynny, gall AI cynhyrchiol gynorthwyo i greu ffurfweddiadau a sgriptiau diogel . Er enghraifft, os oes angen i gwmni ddefnyddio seilwaith cwmwl diogel, gallai peiriannydd ofyn i AI gynhyrchu'r sgriptiau ffurfweddu (Seilwaith fel Cod) gyda rheolaethau diogelwch (fel segmentu rhwydwaith priodol, rolau IAM â'r breintiau lleiaf) wedi'u hymgorffori. Gall yr AI, ar ôl cael ei hyfforddi ar filoedd o ffurfweddiadau o'r fath, gynhyrchu llinell sylfaen y mae'r peiriannydd wedyn yn ei mireinio. Mae hyn yn cyflymu'r broses o sefydlu systemau'n ddiogel ac yn lleihau gwallau camffurfweddu - ffynhonnell gyffredin o ddigwyddiadau diogelwch cwmwl.

Mae rhai sefydliadau hefyd yn defnyddio AI cynhyrchiol i gynnal cronfa wybodaeth o batrymau codio diogel. Os yw datblygwr yn ansicr sut i weithredu nodwedd benodol yn ddiogel, gallant ymholi AI mewnol sydd wedi dysgu o brosiectau a chanllawiau diogelwch y cwmni yn y gorffennol. Gallai'r AI ddychwelyd dull a argymhellir neu hyd yn oed ddarn o god sy'n cyd-fynd â gofynion swyddogaethol a safonau diogelwch y cwmni. Defnyddiwyd y dull hwn gan offer fel Awtomeiddio Holiaduron Secureframe , sy'n tynnu atebion o bolisïau a datrysiadau blaenorol cwmni i sicrhau ymatebion cyson a chywir (sy'n cynhyrchu dogfennaeth ddiogel yn y bôn) ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Mae'r cysyniad yn cyfieithu i godio: AI sy'n "cofio" sut y gwnaethoch chi weithredu rhywbeth yn ddiogel o'r blaen ac yn eich tywys i'w wneud felly eto.

I grynhoi, mae AI cynhyrchiol yn dylanwadu ar ddatblygu meddalwedd drwy wneud cymorth codio diogel yn fwy hygyrch . Mae diwydiannau sy'n datblygu llawer o feddalwedd wedi'i theilwra – technoleg, cyllid, amddiffyn, ac ati – yn elwa o gael cyd-beilotiaid AI sydd nid yn unig yn cyflymu codio ond yn gweithredu fel adolygydd diogelwch sy'n wyliadwrus bob amser. Pan gânt eu llywodraethu'n iawn, gall yr offer AI hyn leihau cyflwyno gwendidau newydd a helpu timau datblygu i gadw at arferion gorau, hyd yn oed os nad oes gan y tîm arbenigwr diogelwch yn rhan o bob cam. Y canlyniad yw meddalwedd sy'n fwy cadarn yn erbyn ymosodiadau o'r diwrnod cyntaf.

Cymorth Ymateb i Ddigwyddiadau

Pan fydd digwyddiad seiberddiogelwch yn digwydd – boed yn achos o faleisusrwydd, toriad data, neu fethiant system oherwydd ymosodiad – mae amser yn hanfodol. Defnyddir deallusrwydd artiffisial cynhyrchiol fwyfwy i gefnogi timau ymateb i ddigwyddiadau (IR) i gynnwys ac adfer digwyddiadau'n gyflymach a chyda mwy o wybodaeth wrth law. Y syniad yw y gall deallusrwydd artiffisial ysgwyddo rhywfaint o'r baich ymchwilio a dogfennu yn ystod digwyddiad, a hyd yn oed awgrymu neu awtomeiddio rhai camau ymateb.

Un rôl allweddol AI mewn IR yw dadansoddi a chrynhoi digwyddiadau mewn amser real . Yng nghanol digwyddiad, efallai y bydd angen atebion ar ymatebwyr i gwestiynau fel “Sut y daeth yr ymosodwr i mewn?” , “Pa systemau sy'n cael eu heffeithio?” , a “Pa ddata a allai fod wedi'i beryglu?” . Gall AI cynhyrchiol ddadansoddi logiau, rhybuddion a data fforensig o systemau yr effeithir arnynt a darparu mewnwelediadau'n gyflym. Er enghraifft, mae Microsoft Security Copilot yn caniatáu i ymatebydd digwyddiad fwydo amrywiol ddarnau o dystiolaeth (ffeiliau, URLau, logiau digwyddiadau) a gofyn am amserlen neu grynodeb ( Mae Microsoft Security Copilot yn gynorthwyydd AI GPT-4 newydd ar gyfer seiberddiogelwch | The Verge ). Gallai'r AI ymateb gyda: “Mae'n debyg bod y toriad wedi dechrau gydag e-bost gwe-rwydo at y defnyddiwr JohnDoe am 10:53 GMT yn cynnwys meddalwedd faleisus X. Ar ôl ei weithredu, creodd y meddalwedd faleisus ddrws cefn a ddefnyddiwyd ddau ddiwrnod yn ddiweddarach i symud yn ochrol i'r gweinydd cyllid, lle casglodd ddata.” Mae cael y darlun cydlynol hwn mewn munudau yn hytrach nag oriau yn galluogi'r tîm i wneud penderfyniadau gwybodus (fel pa systemau i'w hynysu) yn llawer cyflymach.

Gall AI cynhyrchiol hefyd awgrymu camau rheoli ac adfer . Er enghraifft, os yw pwynt terfyn wedi'i heintio gan ransomware, gallai offeryn AI gynhyrchu sgript neu set o gyfarwyddiadau i ynysu'r peiriant hwnnw, analluogi rhai cyfrifon, a rhwystro cyfeiriadau IP maleisus hysbys ar y wal dân - yn y bôn gweithrediad llyfr chwarae. Mae Palo Alto Networks yn nodi bod AI cynhyrchiol yn gallu "cynhyrchu camau gweithredu neu sgriptiau priodol yn seiliedig ar natur y digwyddiad" , gan awtomeiddio'r camau ymateb cychwynnol ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ). Mewn senario lle mae'r tîm diogelwch wedi'i orlethu (dyweder ymosodiad eang ar draws cannoedd o ddyfeisiau), gallai'r AI hyd yn oed weithredu rhai o'r camau gweithredu hyn yn uniongyrchol o dan amodau a gymeradwywyd ymlaen llaw, gan weithredu fel ymatebydd iau sy'n gweithio'n ddiflino. Er enghraifft, gallai asiant AI ailosod tystlythyrau yn awtomatig y mae'n eu hystyried wedi'u peryglu neu roi gwesteiwyr mewn cwarantîn sy'n arddangos gweithgaredd maleisus sy'n cyfateb i broffil y digwyddiad.

Yn ystod ymateb i ddigwyddiadau, mae cyfathrebu'n hanfodol – o fewn y tîm ac â rhanddeiliaid. Gall deallusrwydd artiffisial cynhyrchiol helpu trwy ddrafftio adroddiadau neu friffiau diweddaru digwyddiadau ar unwaith . Yn lle peiriannydd yn rhoi'r gorau i'w ddatrys problemau i ysgrifennu diweddariad e-bost, gallent ofyn i'r deallusrwydd artiffisial, “Crynhowch yr hyn sydd wedi digwydd yn y digwyddiad hwn hyd yn hyn i hysbysu'r swyddogion gweithredol.” Gall yr deallusrwydd artiffisial, ar ôl llyncu data'r digwyddiad, gynhyrchu crynodeb cryno: “Hyd at 3 PM, mae ymosodwyr wedi cyrchu 2 gyfrif defnyddiwr a 5 gweinydd. Mae'r data yr effeithir arno yn cynnwys cofnodion cleientiaid yn gronfa ddata X. Mesurau cynnwys: Mae mynediad VPN ar gyfer cyfrifon sydd wedi'u peryglu wedi'i ddirymu ac mae gweinyddion wedi'u hynysu. Y camau nesaf: sganio am unrhyw fecanweithiau parhad.” Yna gall yr ymatebydd wirio neu addasu hyn yn gyflym a'i anfon allan, gan sicrhau bod rhanddeiliaid yn cael eu cadw yn y ddolen gyda gwybodaeth gywir, gyfoes.

Ar ôl i'r llwch setlo, fel arfer mae adroddiad digwyddiad manwl i'w baratoi a gwersi a ddysgwyd i'w llunio. Dyma faes arall lle mae cefnogaeth AI yn disgleirio. Gall adolygu'r holl ddata digwyddiad a chynhyrchu adroddiad ôl-ddigwyddiad sy'n cwmpasu achos gwreiddiol, cronoleg, effaith ac argymhellion. Mae IBM, er enghraifft, yn integreiddio AI cynhyrchiol i greu "crynodebau syml o achosion a digwyddiadau diogelwch y gellir eu rhannu â rhanddeiliaid" wrth wasgu botwm ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Trwy symleiddio adrodd ar ôl gweithredu, gall sefydliadau weithredu gwelliannau'n gyflymach a hefyd gael dogfennaeth well at ddibenion cydymffurfio.

Un defnydd arloesol sy'n edrych ymlaen yw efelychiadau digwyddiadau sy'n cael eu gyrru gan AI . Yn debyg i sut y gallai rhywun gynnal ymarfer tân, mae rhai cwmnïau'n defnyddio AI cynhyrchiol i redeg trwy senarios digwyddiadau "beth os". Gallai'r AI efelychu sut y gallai ransomware ledaenu o ystyried cynllun y rhwydwaith, neu sut y gallai rhywun o'r tu mewn allgludo data, ac yna sgorio effeithiolrwydd cynlluniau ymateb cyfredol. Mae hyn yn helpu timau i baratoi a mireinio llyfrau chwarae cyn i ddigwyddiad go iawn ddigwydd. Mae fel cael cynghorydd ymateb i ddigwyddiadau sy'n gwella'n barhaus ac sy'n profi eich parodrwydd yn gyson.

Mewn diwydiannau risg uchel fel cyllid neu ofal iechyd, lle mae amser segur neu golli data o ddigwyddiadau yn arbennig o gostus, mae'r galluoedd IR hyn sy'n cael eu gyrru gan AI yn ddeniadol iawn. Ni all ysbyty sy'n profi digwyddiad seiber fforddio toriadau system hirfaith - gallai AI sy'n cynorthwyo'n gyflym i'w gynnwys fod yn llythrennol yn achub bywyd. Yn yr un modd, gall sefydliad ariannol ddefnyddio AI i drin y broses o ddosbarthu cychwynnol ymyrraeth twyll a amheuir am 3 AM, fel erbyn i'r bobl sydd ar alwad fod ar-lein, bod llawer o'r gwaith sylfaenol (allgofnodi o gyfrifon yr effeithir arnynt, blocio trafodion, ac ati) eisoes wedi'i wneud. Drwy ychwanegu at timau ymateb i ddigwyddiadau gyda AI cynhyrchiol , gall sefydliadau leihau amseroedd ymateb yn sylweddol a gwella trylwyredd eu triniaeth, gan liniaru difrod o ddigwyddiadau seiber yn y pen draw.

Dadansoddeg Ymddygiadol a Chanfod Anomaleddau

Gellir dal llawer o ymosodiadau seiber drwy sylwi pan fydd rhywbeth yn gwyro o ymddygiad “normal” – boed yn gyfrif defnyddiwr yn lawrlwytho swm anarferol o ddata neu ddyfais rhwydwaith yn cyfathrebu’n sydyn â gwesteiwr anghyfarwydd. Mae AI cynhyrchiol yn cynnig technegau uwch ar gyfer dadansoddi ymddygiad a chanfod anomaleddau , gan ddysgu patrymau arferol defnyddwyr a systemau ac yna nodi pan fydd rhywbeth yn edrych yn anghywir.

Mae canfod anomaledd traddodiadol yn aml yn defnyddio trothwyon ystadegol neu ddysgu peirianyddol syml ar fetrigau penodol (pigau defnydd CPU, mewngofnodi ar oriau rhyfedd, ac ati). Gall AI cynhyrchiol fynd â hyn ymhellach trwy greu proffiliau ymddygiad mwy manwl. Er enghraifft, gall model AI amlyncu mewngofnodiadau, patrymau mynediad ffeiliau, ac arferion e-bost gweithiwr dros amser a ffurfio dealltwriaeth amlddimensiwn o "normal" y defnyddiwr hwnnw. Os bydd y cyfrif hwnnw'n gwneud rhywbeth yn sylweddol y tu hwnt i'w norm yn ddiweddarach (fel mewngofnodi o wlad newydd a chael mynediad at drysorfa o ffeiliau AD am hanner nos), byddai'r AI yn canfod gwyriad nid yn unig ar un metrig ond fel patrwm ymddygiad cyfan nad yw'n cyd-fynd â phroffil y defnyddiwr. Mewn termau technegol, gall modelau cynhyrchiol (fel autoamgodwyr neu fodelau dilyniant) fodelu sut olwg sydd ar "normal" ac yna cynhyrchu ystod ddisgwyliedig o ymddygiad. Pan fydd realiti yn disgyn y tu allan i'r ystod honno, caiff ei nodi fel anomaledd ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ).

Un gweithrediad ymarferol yw monitro traffig rhwydwaith . Yn ôl arolwg yn 2024, nododd 54% o sefydliadau'r Unol Daleithiau fod monitro traffig rhwydwaith yn achos defnydd gorau ar gyfer AI mewn seiberddiogelwch ( Gogledd America: achosion defnydd AI gorau mewn seiberddiogelwch ledled y byd 2024 ). Gall AI cynhyrchiol ddysgu patrymau cyfathrebu arferol rhwydwaith menter - pa weinyddion sydd fel arfer yn siarad â'i gilydd, pa gyfrolau o ddata sy'n symud yn ystod oriau busnes yn erbyn dros nos, ac ati. Os bydd ymosodwr yn dechrau allfudo data o weinydd, hyd yn oed yn araf i osgoi cael ei ganfod, gallai system sy'n seiliedig ar AI sylwi nad yw "Gweinydd A byth yn anfon 500MB o ddata am 2 AM i IP allanol" a chodi rhybudd. Gan nad yw'r AI yn defnyddio rheolau statig yn unig ond model esblygol o ymddygiad rhwydwaith, gall ddal anomaleddau cynnil y gallai rheolau statig (fel "rhybuddio os yw data > X MB") eu methu neu eu nodi ar gam. Y natur addasol hon yw'r hyn sy'n gwneud canfod anomaleddau sy'n cael eu gyrru gan AI yn bwerus mewn amgylcheddau fel rhwydweithiau trafodion bancio, seilwaith cwmwl, neu fflydoedd dyfeisiau IoT, lle mae diffinio rheolau sefydlog ar gyfer normal vs annormal yn hynod gymhleth.

Mae AI cynhyrchiol hefyd yn helpu gyda dadansoddeg ymddygiad defnyddwyr (UBA) , sy'n allweddol i ganfod bygythiadau mewnol neu gyfrifon sydd wedi'u peryglu. Drwy gynhyrchu llinell sylfaen o bob defnyddiwr neu endid, gall AI ganfod pethau fel camddefnyddio manylion mewngofnodi. Er enghraifft, os yw Bob o'r adran gyfrifyddu yn sydyn yn dechrau holi cronfa ddata'r cwsmeriaid (rhywbeth nad oedd erioed wedi'i wneud o'r blaen), bydd y model AI ar gyfer ymddygiad Bob yn nodi hyn fel un anarferol. Efallai nad meddalwedd faleisus ydyw - gallai fod yn achos o dudalennau mewngofnodi Bob yn cael eu dwyn a'u defnyddio gan ymosodwr, neu Bob yn archwilio lle na ddylai. Beth bynnag, mae'r tîm diogelwch yn cael rhybudd i ymchwilio. Mae systemau UBA o'r fath sy'n cael eu gyrru gan AI yn bodoli mewn amrywiol gynhyrchion diogelwch, ac mae technegau modelu cynhyrchiol yn gwthio eu cywirdeb yn uwch ac yn lleihau larymau ffug drwy ystyried cyd-destun (efallai bod Bob ar brosiect arbennig, ac ati, y gall yr AI ei gasglu weithiau o ddata arall).

Ym maes rheoli hunaniaeth a mynediad, canfod deepfake yn angen cynyddol – gall AI cynhyrchiol greu lleisiau a fideos synthetig sy'n twyllo diogelwch biometrig. Yn ddiddorol, gall AI cynhyrchiol hefyd helpu i ganfod y deepfakes hyn trwy ddadansoddi arteffactau cynnil mewn sain neu fideo sy'n anodd i fodau dynol eu sylwi. Gwelsom enghraifft gydag Accenture, a ddefnyddiodd AI cynhyrchiol i efelychu mynegiadau a chyflyrau wyneb dirifedi i hyfforddi eu systemau biometrig i wahaniaethu rhwng defnyddwyr go iawn a deepfakes a gynhyrchwyd gan AI. Dros bum mlynedd, helpodd y dull hwn Accenture i ddileu cyfrineiriau ar gyfer 90% o'i systemau (gan symud i fiometreg a ffactorau eraill) a lleihau ymosodiadau 60% ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Yn ei hanfod, fe wnaethant ddefnyddio AI cynhyrchiol i gryfhau dilysu biometrig, gan ei wneud yn wydn yn erbyn ymosodiadau cynhyrchiol (enghraifft wych o AI yn ymladd AI). Mae'r math hwn o fodelu ymddygiadol – yn yr achos hwn yn cydnabod y gwahaniaeth rhwng wyneb dynol byw ac un wedi'i syntheseiddio gan AI – yn hanfodol wrth i ni ddibynnu mwy ar AI mewn dilysu.

Mae canfod anomaleddau wedi'i bweru gan AI cynhyrchiol yn berthnasol ar draws diwydiannau: mewn gofal iechyd, monitro ymddygiad dyfeisiau meddygol am arwyddion o hacio; mewn cyllid, gwylio systemau masnachu am batrymau afreolaidd a allai ddangos twyll neu drin algorithmig; mewn ynni/cyfleustodau, arsylwi signalau system reoli am arwyddion o ymyrraeth. Mae'r cyfuniad o led (edrych ar bob agwedd ar ymddygiad) a dyfnder (deall patrymau cymhleth) y mae AI cynhyrchiol yn ei ddarparu yn ei wneud yn offeryn pwerus ar gyfer gweld dangosyddion nodwydd-mewn-tas gwair digwyddiad seiber. Wrth i fygythiadau ddod yn fwy cudd, gan guddio ymhlith gweithrediadau arferol, mae'r gallu hwn i nodweddu "normal" yn fanwl gywir a gweiddi pan fydd rhywbeth yn gwyro yn dod yn hanfodol. Felly mae AI cynhyrchiol yn gwasanaethu fel gwyliwr diflino, gan ddysgu a diweddaru ei ddiffiniad o normalrwydd bob amser i gadw i fyny â newidiadau yn yr amgylchedd, a rhybuddio timau diogelwch am anomaleddau sy'n haeddu archwiliad agosach.

Cyfleoedd a Manteision Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch

Mae defnyddio AI cynhyrchiol mewn seiberddiogelwch yn dod â llu o gyfleoedd a manteision i sefydliadau sy'n fodlon defnyddio'r offer hyn. Isod, rydym yn crynhoi'r manteision allweddol sy'n gwneud AI cynhyrchiol yn ychwanegiad cymhellol at raglenni seiberddiogelwch:

• Canfod ac Ymateb i Fygythiadau'n Gyflymach: Gall systemau AI cynhyrchiol ddadansoddi symiau enfawr o ddata mewn amser real ac adnabod bygythiadau'n llawer cyflymach na dadansoddiad â llaw gan bobl. Mae'r fantais cyflymder hon yn golygu canfod ymosodiadau'n gynharach a chynnwys digwyddiadau'n gyflymach. Yn ymarferol, gall monitro diogelwch sy'n cael ei yrru gan AI ddal bygythiadau a fyddai'n cymryd llawer mwy o amser i bobl eu cydberthyn. Drwy ymateb i ddigwyddiadau'n brydlon (neu hyd yn oed weithredu ymatebion cychwynnol yn ymreolaethol), gall sefydliadau leihau amser aros ymosodwyr yn eu rhwydweithiau'n sylweddol, gan leihau'r difrod.

• Cywirdeb a Chwmpas Bygythiadau Gwell: Gan eu bod yn dysgu'n barhaus o ddata newydd, gall modelau cynhyrchiol addasu i fygythiadau sy'n esblygu a dal arwyddion mwy cynnil o weithgarwch maleisus. Mae hyn yn arwain at gywirdeb canfod gwell (llai o ganlyniadau negatifau ffug a chadarnhaol ffug) o'i gymharu â rheolau statig. Er enghraifft, gall AI sydd wedi dysgu nodweddion e-bost gwe-rwydo neu ymddygiad meddalwedd faleisus nodi amrywiadau na welwyd erioed o'r blaen. Y canlyniad yw sylw ehangach o fathau o fygythiadau - gan gynnwys ymosodiadau newydd - gan gryfhau'r ystum diogelwch cyffredinol. Mae timau diogelwch hefyd yn cael mewnwelediadau manwl o ddadansoddiad AI (e.e. esboniadau o ymddygiad meddalwedd faleisus), gan alluogi amddiffynfeydd mwy manwl a thargedig ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ).

• Awtomeiddio Tasgau Ailadroddus: Mae AI Cynhyrchiol yn rhagori wrth awtomeiddio tasgau diogelwch arferol, llafur-ddwys - o gribo trwy logiau a llunio adroddiadau i ysgrifennu sgriptiau ymateb i ddigwyddiadau. Mae'r awtomeiddio hwn yn lleihau'r baich ar ddadansoddwyr dynol , gan eu rhyddhau i ganolbwyntio ar strategaeth lefel uchel a gwneud penderfyniadau cymhleth ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ). Gellir trin tasgau cyffredin ond pwysig fel sganio bregusrwydd, archwilio ffurfweddiad, dadansoddi gweithgaredd defnyddwyr, ac adrodd ar gydymffurfiaeth (neu o leiaf eu drafftio gyntaf). Trwy drin y tasgau hyn ar gyflymder peiriant, mae AI nid yn unig yn gwella effeithlonrwydd ond hefyd yn lleihau gwallau dynol (ffactor arwyddocaol mewn toriadau diogelwch).

• Amddiffyn a Efelychu Rhagweithiol: Mae AI cynhyrchiol yn caniatáu i sefydliadau symud o ddiogelwch adweithiol i ddiogelwch rhagweithiol. Trwy dechnegau fel efelychu ymosodiadau, cynhyrchu data synthetig, a hyfforddiant yn seiliedig ar senarios, gall amddiffynwyr ragweld a pharatoi ar gyfer bygythiadau cyn iddynt ymddangos yn y byd go iawn. Gall timau diogelwch efelychu seiber-ymosodiadau (ymgyrchoedd gwe-rwydo, achosion o ddrwgwedd, DDoS, ac ati) mewn amgylcheddau diogel i brofi eu hymatebion a chefnogi unrhyw wendidau. Mae'r hyfforddiant parhaus hwn, sy'n aml yn amhosibl ei wneud yn drylwyr gydag ymdrech ddynol yn unig, yn cadw amddiffynfeydd yn finiog ac yn gyfredol. Mae'n debyg i "ymarfer tân" seiber - gall AI daflu llawer o fygythiadau damcaniaethol at eich amddiffynfeydd fel y gallwch ymarfer a gwella.

• Cynyddu Arbenigedd Dynol (AI fel Lluosydd Grym): Mae AI Cynhyrchiol yn gweithredu fel dadansoddwr iau diflino, cynghorydd, a chynorthwyydd wedi'u rholio i mewn i un. Gall ddarparu canllawiau ac argymhellion i aelodau tîm llai profiadol a ddisgwylir fel arfer gan arbenigwyr profiadol, gan ddemocrateiddio arbenigedd ar draws y tîm ( 6 Achos Defnydd ar gyfer AI Cynhyrchiol mewn Seiberddiogelwch [+ Enghreifftiau] ). Mae hyn yn arbennig o werthfawr o ystyried y prinder talent mewn seiberddiogelwch - mae AI yn helpu timau llai i wneud mwy gyda llai. Mae dadansoddwyr profiadol, ar y llaw arall, yn elwa o AI yn trin gwaith caled ac yn dod â mewnwelediadau nad ydynt yn amlwg i'r amlwg, y gallant wedyn eu dilysu a gweithredu arnynt. Y canlyniad cyffredinol yw tîm diogelwch sy'n llawer mwy cynhyrchiol a galluog, gyda AI yn mwyhau effaith pob aelod dynol ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch ).

• Cymorth a Chofnodi Penderfyniadau Gwell: Drwy gyfieithu data technegol yn fewnwelediadau iaith naturiol, mae AI cynhyrchiol yn gwella cyfathrebu a gwneud penderfyniadau. Mae arweinwyr diogelwch yn cael gwelededd cliriach i faterion drwy grynodebau a gynhyrchir gan AI a gallant wneud penderfyniadau strategol gwybodus heb orfod dadansoddi data crai. Yn yr un modd, mae cyfathrebu traws-swyddogaethol (i weithredwyr, swyddogion cydymffurfio, ac ati) yn gwella pan fydd AI yn paratoi adroddiadau hawdd eu deall ar ystum a digwyddiadau diogelwch ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Nid yn unig y mae hyn yn meithrin hyder ac aliniad ar faterion diogelwch ar lefel yr arweinyddiaeth ond mae hefyd yn helpu i gyfiawnhau buddsoddiadau a newidiadau drwy fynegi risgiau a bylchau a ddarganfuwyd gan AI yn glir.

Gyda'i gilydd, mae'r manteision hyn yn golygu y gall sefydliadau sy'n manteisio ar AI cynhyrchiol mewn seiberddiogelwch gyflawni ystum diogelwch cryfach gyda chostau gweithredu is o bosibl. Gallant ymateb i fygythiadau a oedd yn llethol o'r blaen, cau bylchau nad oeddent yn cael eu monitro, a gwella'n barhaus trwy ddolenni adborth sy'n cael eu gyrru gan AI. Yn y pen draw, mae AI cynhyrchiol yn cynnig cyfle i fynd ar y blaen i wrthwynebwyr trwy baru cyflymder, graddfa a soffistigedigrwydd ymosodiadau modern ag amddiffynfeydd yr un mor soffistigedig. Fel y canfu un arolwg, mae dros hanner yr arweinwyr busnes a seiber yn rhagweld canfod bygythiadau'n gyflymach a chywirdeb cynyddol trwy ddefnyddio AI cynhyrchiol ( [PDF] Global Cybersecurity Outlook 2025 | World Economic Forum ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ) - tystiolaeth o'r optimistiaeth ynghylch manteision y technolegau hyn.

Risgiau a Heriau Defnyddio Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch

Er bod y cyfleoedd yn sylweddol, mae'n hanfodol mynd ati i ddeallusrwydd artiffisial cynhyrchiol mewn seiberddiogelwch gyda llygaid agored i'r risgiau a'r heriau sy'n gysylltiedig. Gall ymddiried yn ddall mewn deallusrwydd artiffisial neu ei gamddefnyddio gyflwyno gwendidau newydd. Isod, rydym yn amlinellu'r prif bryderon a'r peryglon, ynghyd â chyd-destun ar gyfer pob un:

• Defnydd Gwrthryfelgar gan Seiberdroseddwyr: Gall yr un galluoedd cynhyrchiol sy'n helpu amddiffynwyr rymuso ymosodwyr. Mae actorion bygythiad eisoes yn defnyddio AI cynhyrchiol i lunio negeseuon e-bost gwe-rwydo mwy argyhoeddiadol, creu personâu ffug a fideos dwfn ffug ar gyfer peirianneg gymdeithasol, datblygu meddalwedd faleisus polymorffig sy'n newid yn gyson i osgoi canfod, a hyd yn oed awtomeiddio agweddau ar hacio ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ). Mae bron i hanner (46%) yr arweinwyr seiberddiogelwch yn pryderu y bydd AI cynhyrchiol yn arwain at ymosodiadau gwrthwynebol mwy datblygedig ( Diogelwch AI Cynhyrchiol: Tueddiadau, Bygythiadau a Strategaethau Lliniaru ). Mae'r "ras arfau AI" hon yn golygu, wrth i amddiffynwyr fabwysiadu AI, na fydd ymosodwyr ymhell ar ei hôl hi (mewn gwirionedd, efallai y byddant ar y blaen mewn rhai meysydd, gan ddefnyddio offer AI heb eu rheoleiddio). Rhaid i sefydliadau fod yn barod ar gyfer bygythiadau wedi'u gwella gan AI sy'n amlach, yn fwy soffistigedig, ac yn anodd eu holrhain.

• Rhithwelediadau ac Anghywirdeb AI: Gall modelau AI cynhyrchiol gynhyrchu allbynnau sy'n gredadwy ond yn anghywir neu'n gamarweiniol - ffenomen a elwir yn rhithweledigaeth. Mewn cyd-destun diogelwch, gallai AI ddadansoddi digwyddiad a dod i'r casgliad ar gam mai bregusrwydd penodol oedd yr achos, neu gallai gynhyrchu sgript adfer diffygiol sy'n methu â chynnwys ymosodiad. Gall y camgymeriadau hyn fod yn beryglus os cânt eu cymryd ar eu hwyneb. Fel y mae NTT Data yn rhybuddio, "gall yr AI cynhyrchiol allbynnu cynnwys anwir yn gredadwy, a gelwir y ffenomen hon yn rhithwelediadau ... ar hyn o bryd mae'n anodd eu dileu'n llwyr" ( Risgiau Diogelwch AI Cynhyrchiol a Gwrthfesurau, a'i Effaith ar Seiberddiogelwch | Grŵp DATA NTT ). Gallai gorddibyniaeth ar AI heb wirio arwain at ymdrechion camgyfeiriol neu ymdeimlad ffug o ddiogelwch. Er enghraifft, gallai AI nodi system hanfodol yn ffug fel un ddiogel pan nad yw, neu i'r gwrthwyneb, sbarduno panig trwy "ganfod" toriad nad oedd erioed wedi digwydd. Mae dilysu allbynnau AI yn drylwyr a chael bodau dynol yn y ddolen ar gyfer penderfyniadau hanfodol yn hanfodol i liniaru'r risg hon.

• Cadarnhaol a Negyddol Ffug: Yn gysylltiedig â rhithwelediadau, os yw model AI wedi'i hyfforddi neu ei ffurfweddu'n wael, gallai or-adrodd gweithgaredd diniwed fel un maleisus (positifau ffug) neu, yn waeth byth, fethu bygythiadau go iawn (negatifau ffug) ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch ). Gall rhybuddion ffug gormodol orlethu timau diogelwch ac arwain at flinder rhybuddion (gan ddadwneud yr union enillion effeithlonrwydd a addawodd AI), tra bod canfodiadau a fethir yn gadael y sefydliad yn agored. Mae tiwnio modelau cynhyrchiol ar gyfer y cydbwysedd cywir yn heriol. Mae pob amgylchedd yn unigryw, ac efallai na fydd AI yn perfformio'n optimaidd ar unwaith ar unwaith. Mae dysgu parhaus yn gleddyf daufiniog hefyd - os yw'r AI yn dysgu o adborth sydd wedi'i gamarwain neu o amgylchedd sy'n newid, gall ei gywirdeb amrywio. Rhaid i dimau diogelwch fonitro perfformiad AI ac addasu trothwyon neu ddarparu adborth cywirol i'r modelau. Mewn cyd-destunau risg uchel (fel canfod ymyrraeth ar gyfer seilwaith hanfodol), efallai y byddai'n ddoeth rhedeg awgrymiadau AI ochr yn ochr â systemau presennol am gyfnod, er mwyn sicrhau eu bod yn alinio ac yn ategu yn hytrach na gwrthdaro.

• Preifatrwydd a Gollyngiadau Data: Yn aml, mae angen llawer iawn o ddata ar systemau AI cynhyrchiol ar gyfer hyfforddi a gweithredu. Os yw'r modelau hyn wedi'u seilio ar y cwmwl neu heb eu seilo'n iawn, mae risg y gallai gwybodaeth sensitif ollwng. Gallai defnyddwyr fwydo data perchnogol neu ddata personol yn anfwriadol i wasanaeth AI (meddyliwch am ofyn i ChatGPT grynhoi adroddiad digwyddiad cyfrinachol), a gallai'r data hwnnw ddod yn rhan o wybodaeth y model. Yn wir, canfu astudiaeth ddiweddar fod 55% o fewnbynnau i offer AI cynhyrchiol yn cynnwys gwybodaeth sensitif neu bersonol adnabyddadwy , gan godi pryderon difrifol ynghylch gollyngiadau data ( Diogelwch AI Cynhyrchiol: Tueddiadau, Bygythiadau a Strategaethau Lliniaru ). Yn ogystal, os yw AI wedi'i hyfforddi ar ddata mewnol a'i fod yn cael ei holi mewn rhai ffyrdd, gallai allbynnu darnau o'r data sensitif hwnnw i rywun arall. Rhaid i sefydliadau weithredu polisïau trin data llym (e.e. defnyddio achosion AI ar y safle neu breifat ar gyfer deunydd sensitif) ac addysgu gweithwyr am beidio â gludo gwybodaeth gyfrinachol i offer AI cyhoeddus. Mae rheoliadau preifatrwydd (GDPR, ac ati) hefyd yn dod i rym - gallai defnyddio data personol i hyfforddi AI heb ganiatâd neu amddiffyniad priodol fod yn groes i gyfreithiau.

• Diogelwch a Thrin Modelau: Gall modelau AI cynhyrchiol eu hunain ddod yn dargedau. Gallai gwrthwynebwyr geisio gwenwyno modelau , gan fwydo data maleisus neu gamarweiniol yn ystod y cyfnod hyfforddi neu ailhyfforddi fel bod yr AI yn dysgu patrymau anghywir ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch ). Er enghraifft, gallai ymosodwr wenwyno data cudd-wybodaeth bygythiadau yn gynnil fel bod yr AI yn methu â chydnabod meddalwedd faleisus yr ymosodwr ei hun fel un faleisus. Tacteg arall yw chwistrellu prydlon neu drin allbwn , lle mae ymosodwr yn dod o hyd i ffordd i roi mewnbynnau i'r AI sy'n achosi iddo ymddwyn mewn ffyrdd anfwriadol - efallai anwybyddu ei reiliau gwarchod diogelwch neu ddatgelu gwybodaeth na ddylai (fel awgrymiadau neu ddata mewnol). Yn ogystal, mae risg o osgoi modelau : ymosodwyr yn crefftio mewnbwn wedi'i gynllunio'n benodol i dwyllo'r AI. Gwelwn hyn mewn enghreifftiau gwrthwynebol - data sydd wedi'i aflonyddu ychydig y mae bod dynol yn ei weld fel rhywbeth normal ond mae'r AI yn ei gamddosbarthu. Mae sicrhau bod y gadwyn gyflenwi AI yn ddiogel (cywirdeb data, rheoli mynediad at fodelau, profi cadernid gwrthwynebol) yn rhan newydd ond angenrheidiol o seiberddiogelwch wrth ddefnyddio'r offer hyn ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ).

• Gor-ddibyniaeth ac Erydiad Sgiliau: Mae risg llai y gallai sefydliadau ddod yn rhy ddibynnol ar AI a gadael i sgiliau dynol atroffi. Os bydd dadansoddwyr iau yn dod i ymddiried mewn allbynnau AI yn ddall, efallai na fyddant yn datblygu'r meddwl beirniadol a'r greddf sydd eu hangen pan nad yw AI ar gael neu pan fydd yn anghywir. Senario i'w osgoi yw tîm diogelwch sydd â chyfarpar gwych ond heb syniad sut i weithredu os bydd yr offer hynny'n mynd i lawr (yn debyg i beilotiaid yn dibynnu'n ormodol ar awtobeilot). Mae ymarferion hyfforddi rheolaidd heb gymorth AI a meithrin meddylfryd mai cynorthwyydd yw AI, nid oracl anffaeledig, yn bwysig i gadw dadansoddwyr dynol yn finiog. Rhaid i fodau dynol barhau i fod y gwneuthurwyr penderfyniadau yn y pen draw, yn enwedig ar gyfer dyfarniadau effaith uchel.

• Heriau Moesegol a Chydymffurfiaeth: Mae defnyddio AI mewn seiberddiogelwch yn codi cwestiynau moesegol a gallai sbarduno problemau cydymffurfio rheoleiddiol. Er enghraifft, os yw system AI yn awgrymu’n anghywir fod gweithiwr yn fewnol faleisus oherwydd anomaledd, gallai niweidio enw da neu yrfa’r person hwnnw’n annheg. Gall penderfyniadau a wneir gan AI fod yn anhryloyw (problem y “blwch du”), gan ei gwneud hi’n anodd esbonio i archwilwyr neu reoleiddwyr pam y cymerwyd camau gweithredu penodol. Wrth i gynnwys a gynhyrchir gan AI ddod yn fwy cyffredin, mae sicrhau tryloywder a chynnal atebolrwydd yn hanfodol. Mae rheoleiddwyr yn dechrau craffu ar AI – bydd Deddf AI yr UE, er enghraifft, yn gosod gofynion ar systemau AI “risg uchel”, a gallai AI seiberddiogelwch ddod o dan y categori hwnnw. Bydd angen i gwmnïau lywio’r rheoliadau hyn ac o bosibl glynu wrth safonau fel Fframwaith Rheoli Risg AI NIST i ddefnyddio AI cynhyrchiol yn gyfrifol ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o’r Byd Go Iawn ). Mae cydymffurfio’n ymestyn i drwyddedu hefyd: gallai defnyddio modelau ffynhonnell agored neu drydydd parti gynnwys telerau sy’n cyfyngu ar rai defnyddiau neu sy’n gofyn am welliannau rhannu.

I grynhoi, nid yw AI cynhyrchiol yn ateb hawdd – os na chaiff ei weithredu'n ofalus, gall gyflwyno gwendidau newydd hyd yn oed wrth iddo ddatrys eraill. Amlygodd astudiaeth gan Fforwm Economaidd y Byd yn 2024 fod ~47% o sefydliadau yn crybwyll datblygiadau mewn AI cynhyrchiol gan ymosodwyr fel prif bryder, gan ei wneud yn "effaith fwyaf pryderus AI cynhyrchiol" mewn seiberddiogelwch ( [PDF] Global Cybersecurity Outlook 2025 | World Economic Forum ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ). Felly, rhaid i sefydliadau fabwysiadu dull cytbwys: manteisio ar fanteision AI wrth reoli'r risgiau hyn yn drylwyr trwy lywodraethu, profi a goruchwyliaeth ddynol. Byddwn nesaf yn trafod sut i gyflawni'r cydbwysedd hwnnw'n ymarferol.

Rhagolwg y Dyfodol: Rôl Esblygol Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch

Wrth edrych ymlaen, mae AI cynhyrchiol ar fin dod yn rhan annatod o strategaeth seiberddiogelwch – ac yn yr un modd, yn offeryn y bydd gwrthwynebwyr seiber yn parhau i’w fanteisio. Bydd y deinameg cath a llygoden yn cyflymu, gyda AI ar ddwy ochr y ffens. Dyma rai mewnwelediadau sy’n edrych ymlaen at y dyfodol i sut y gallai AI cynhyrchiol lunio seiberddiogelwch yn y blynyddoedd i ddod:

• Amddiffyn Seiber wedi'i Estyn gan AI yn Dod yn Safonol: Erbyn 2025 a thu hwnt, gallwn ddisgwyl y bydd y rhan fwyaf o sefydliadau canolig i fawr wedi ymgorffori offer sy'n cael eu gyrru gan AI yn eu gweithrediadau diogelwch. Yn union fel mae gwrthfeirws a waliau tân yn safonol heddiw, gall cyd-beilotiaid AI a systemau canfod anomaleddau ddod yn gydrannau sylfaenol o bensaernïaeth diogelwch. Mae'n debyg y bydd yr offer hyn yn dod yn fwy arbenigol - er enghraifft, modelau AI penodol wedi'u mireinio ar gyfer diogelwch cwmwl, ar gyfer monitro dyfeisiau IoT, ar gyfer diogelwch cod cymwysiadau, ac yn y blaen, i gyd yn gweithio ar y cyd. Fel y mae un rhagfynegiad yn nodi, "yn 2025, bydd AI cynhyrchiol yn rhan annatod o seiberddiogelwch, gan alluogi sefydliadau i amddiffyn yn rhagweithiol rhag bygythiadau soffistigedig ac esblygol" ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch ). Bydd AI yn gwella canfod bygythiadau amser real, yn awtomeiddio llawer o gamau ymateb, ac yn helpu timau diogelwch i reoli cyfrolau llawer mwy o ddata nag y gallent â llaw.

• Dysgu ac Addasu Parhaus: Bydd systemau AI cynhyrchiol yn y dyfodol mewn seiber yn gwella wrth ddysgu ar unwaith o ddigwyddiadau newydd a gwybodaeth am fygythiadau, gan ddiweddaru eu cronfa wybodaeth bron mewn amser real. Gallai hyn arwain at amddiffynfeydd addasol iawn - dychmygwch AI sy'n dysgu am ymgyrch gwe-rwydo newydd yn taro cwmni arall yn y bore ac erbyn y prynhawn eisoes wedi addasu hidlwyr e-bost eich cwmni mewn ymateb. Gallai gwasanaethau diogelwch AI sy'n seiliedig ar y cwmwl hwyluso'r math hwn o ddysgu ar y cyd, lle mae mewnwelediadau dienw gan un sefydliad o fudd i bob tanysgrifiwr (yn debyg i rannu gwybodaeth am fygythiadau, ond yn awtomataidd). Fodd bynnag, bydd hyn yn gofyn am drin yn ofalus i osgoi rhannu gwybodaeth sensitif ac i atal ymosodwyr rhag bwydo data gwael i'r modelau a rennir.

• Cydgyfeirio Talent AI a Seiberddiogelwch: Bydd set sgiliau gweithwyr proffesiynol seiberddiogelwch yn esblygu i gynnwys hyfedredd mewn AI a gwyddor data. Yn union fel y mae dadansoddwyr heddiw yn dysgu ieithoedd ymholiadau a sgriptio, gallai dadansoddwyr yfory fireinio modelau AI yn rheolaidd neu ysgrifennu "llyfrau chwarae" i AI eu gweithredu. Efallai y byddwn yn gweld rolau newydd fel "Hyfforddwr Diogelwch AI" neu "Beiriannydd AI Seiberddiogelwch" - pobl sy'n arbenigo mewn addasu offer AI i anghenion sefydliad, dilysu eu perfformiad, a sicrhau eu bod yn gweithredu'n ddiogel. Ar yr ochr arall, bydd ystyriaethau seiberddiogelwch yn dylanwadu fwyfwy ar ddatblygiad AI. Bydd systemau AI yn cael eu hadeiladu gyda nodweddion diogelwch o'r gwaelod i fyny (pensaernïaeth ddiogel, canfod ymyrryd, logiau archwilio ar gyfer penderfyniadau AI, ac ati), a bydd fframweithiau ar gyfer AI dibynadwy (teg, esboniadwy, cadarn, a diogel) yn tywys eu defnydd mewn cyd-destunau sy'n hanfodol i ddiogelwch.

• Ymosodiadau Mwy Soffistigedig wedi'u Pweru gan AI: Yn anffodus, bydd y dirwedd bygythiadau hefyd yn esblygu gydag AI. Rydym yn rhagweld defnydd amlach o AI i ddarganfod gwendidau diwrnod sero, i lunio gwe-rwydo gwaywffon wedi'u targedu'n fawr (e.e. AI yn crafu cyfryngau cymdeithasol i greu abwyd wedi'i deilwra'n berffaith), ac i gynhyrchu lleisiau neu fideos ffug dwfn perswadiol i osgoi dilysu biometrig neu gyflawni twyll. Gallai asiantau hacio awtomataidd ddod i'r amlwg a all gynnal ymosodiadau aml-gam yn annibynnol (archwilio, camfanteisio, symudiad ochrol, ac ati) gyda goruchwyliaeth ddynol leiaf posibl. Bydd hyn yn rhoi pwysau ar amddiffynwyr i ddibynnu ar AI hefyd - yn y bôn awtomeiddio yn erbyn awtomeiddio . Gall rhai ymosodiadau ddigwydd ar gyflymder peiriant, fel botiau AI yn rhoi cynnig ar fil o gyfnewidiadau e-bost gwe-rwydo i weld pa un sy'n mynd heibio i hidlwyr. Bydd angen i amddiffynfeydd seiber weithredu ar gyflymder a hyblygrwydd tebyg i gadw i fyny ( Beth Yw AI Cynhyrchiol mewn Seiberddiogelwch? - Palo Alto Networks ).

• Rheoleiddio a Deallusrwydd Artiffisial Moesegol mewn Diogelwch: Wrth i Deallusrwydd Artiffisial ddod yn rhan annatod o swyddogaethau seiberddiogelwch, bydd mwy o graffu ac o bosibl rheoleiddio i sicrhau bod y systemau Deallusrwydd Artiffisial hyn yn cael eu defnyddio'n gyfrifol. Gallwn ddisgwyl fframweithiau a safonau penodol i Deallusrwydd Artiffisial mewn diogelwch. Gallai llywodraethau osod canllawiau ar gyfer tryloywder – e.e., ei gwneud yn ofynnol na all Deallusrwydd Artiffisial ar ei ben ei hun wneud penderfyniadau diogelwch sylweddol (fel terfynu mynediad gweithiwr oherwydd gweithgaredd maleisus a amheuir). Efallai y bydd ardystiadau hefyd ar gyfer cynhyrchion diogelwch Deallusrwydd Artiffisial, i sicrhau prynwyr bod y Deallusrwydd Artiffisial wedi'i werthuso am ragfarn, cadernid a diogelwch. Ar ben hynny, gallai cydweithrediad rhyngwladol dyfu o amgylch bygythiadau seiber sy'n gysylltiedig â Deallusrwydd Artiffisial; er enghraifft, cytundebau ar drin camwybodaeth a grëwyd gan Deallusrwydd Artiffisial neu normau yn erbyn rhai arfau seiber sy'n cael eu gyrru gan Deallusrwydd Artiffisial.

• Integreiddio ag Ecosystemau Ehangach AI a TG: Mae'n debyg y bydd AI cynhyrchiol mewn seiberddiogelwch yn integreiddio â systemau AI ac offer rheoli TG eraill. Er enghraifft, gallai AI sy'n rheoli optimeiddio rhwydwaith weithio gyda'r AI diogelwch i sicrhau nad yw newidiadau'n agor bylchau. Gallai dadansoddeg fusnes sy'n cael ei gyrru gan AI rannu data gydag AIs diogelwch i gydberthyn anomaleddau (fel gostyngiad sydyn mewn gwerthiannau â phroblem bosibl gyda gwefan oherwydd ymosodiad). Yn ei hanfod, ni fydd AI yn byw mewn seilo - bydd yn rhan o ffabrig deallus mwy o weithrediadau sefydliad. Mae hyn yn agor cyfleoedd ar gyfer rheoli risg cyfannol lle gallai AI gyfuno data gweithredol, data bygythiadau, a hyd yn oed data diogelwch ffisegol i roi golwg 360 gradd o ystum diogelwch sefydliadol.

Yn y tymor hir, y gobaith yw y bydd AI cynhyrchiol yn helpu i ogwyddo'r cydbwysedd o blaid amddiffynwyr. Drwy ymdrin â graddfa a chymhlethdod amgylcheddau TG modern, gall AI wneud seiberofod yn fwy amddiffynadwy. Fodd bynnag, mae'n daith, a bydd poenau tyfu wrth i ni fireinio'r technolegau hyn a dysgu ymddiried ynddynt yn briodol. Mae'n debyg mai'r sefydliadau sy'n aros yn wybodus ac yn buddsoddi mewn mabwysiadu AI cyfrifol ar gyfer diogelwch fydd y rhai sydd yn y sefyllfa orau i lywio bygythiadau'r dyfodol.

Fel y nododd adroddiad tueddiadau seiberddiogelwch diweddar Gartner, “mae ymddangosiad achosion defnydd (a risgiau) cynhyrchiol o AI yn creu pwysau i drawsnewid” ( Tueddiadau Seiberddiogelwch: Gwydnwch Trwy Drawsnewid - Gartner ). Bydd y rhai sy'n addasu yn harneisio AI fel cynghreiriad pwerus; gall y rhai sy'n llusgo ar ei hôl hi gael eu hunain yn cael eu goresgyn gan wrthwynebwyr sydd wedi'u grymuso gan AI. Bydd yr ychydig flynyddoedd nesaf yn gyfnod hollbwysig wrth ddiffinio sut mae AI yn ail-lunio'r maes brwydr seiber.

Pwyntiau Ymarferol ar gyfer Mabwysiadu Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch

I fusnesau sy'n gwerthuso sut i fanteisio ar AI cynhyrchiol yn eu strategaeth seiberddiogelwch, dyma rai pethau ymarferol ac argymhellion i arwain mabwysiadu cyfrifol ac effeithiol:

1. Dechreuwch gydag Addysg a Hyfforddiant: Gwnewch yn siŵr bod eich tîm diogelwch (a staff TG ehangach) yn deall beth all a beth na all AI ei wneud. Darparwch hyfforddiant ar hanfodion offer diogelwch sy'n cael eu gyrru gan AI a diweddarwch eich rhaglenni ymwybyddiaeth diogelwch i bob gweithiwr i gwmpasu bygythiadau sy'n cael eu galluogi gan AI. Er enghraifft, dysgwch staff sut y gall AI gynhyrchu sgamiau gwe-rwydo a galwadau ffug dwfn argyhoeddiadol iawn. Ar yr un pryd, hyfforddwch weithwyr ar ddefnydd diogel a chymeradwy o offer AI yn eu gwaith. Mae defnyddwyr gwybodus yn llai tebygol o gam-drin AI neu ddioddef ymosodiadau wedi'u gwella gan AI ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ).

2. Diffinio Polisïau Defnyddio AI Clir: Trin AI cynhyrchiol fel unrhyw dechnoleg bwerus – gyda llywodraethu. Datblygu polisïau sy'n nodi pwy all ddefnyddio offer AI, pa offer sy'n cael eu cymeradwyo, ac at ba ddibenion. Cynhwyswch ganllawiau ar drin data sensitif (e.e. dim bwydo data cyfrinachol i wasanaethau AI allanol) i atal gollyngiadau. Er enghraifft, efallai y byddwch chi'n caniatáu i aelodau'r tîm diogelwch yn unig ddefnyddio cynorthwyydd AI mewnol ar gyfer ymateb i ddigwyddiadau, a gall marchnata ddefnyddio AI wedi'i wirio ar gyfer cynnwys – mae pawb arall wedi'u cyfyngu. Mae llawer o sefydliadau bellach yn mynd i'r afael yn benodol â AI cynhyrchiol yn eu polisïau TG, ac mae cyrff safonau blaenllaw yn annog polisïau defnydd diogel yn hytrach na gwaharddiadau llwyr ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Gwnewch yn siŵr eich bod yn cyfleu'r rheolau hyn a'r rhesymeg y tu ôl iddynt i bob gweithiwr.

3. Lleihau “AI Cysgodol” a Monitro Defnydd: Yn debyg i TG cysgodol, mae “AI cysgodol” yn codi pan fydd gweithwyr yn dechrau defnyddio offer neu wasanaethau AI heb yn wybod i TG (e.e. datblygwr yn defnyddio cynorthwyydd cod AI heb awdurdod). Gall hyn gyflwyno risgiau anweledig. Gweithredwch fesurau i ganfod a rheoli defnydd AI heb ganiatâd . Gall monitro rhwydwaith nodi cysylltiadau ag APIs AI poblogaidd, a gall arolygon neu archwiliadau offer ddatgelu beth mae staff yn ei ddefnyddio. Cynigiwch ddewisiadau amgen cymeradwy fel nad yw gweithwyr sydd â bwriadau da yn cael eu temtio i fynd yn dwyllodrus (er enghraifft, darparwch gyfrif ChatGPT Enterprise swyddogol os yw pobl yn ei chael yn ddefnyddiol). Drwy ddod â defnydd AI i'r goleuni, gall timau diogelwch asesu a rheoli'r risg. Mae monitro hefyd yn allweddol – cofnodwch weithgareddau ac allbynnau offer AI cymaint â phosibl, fel bod llwybr archwilio ar gyfer penderfyniadau y dylanwadodd yr AI arnynt ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ).

4. Defnyddio Deallusrwydd Artiffisial yn Amddiffynnol – Peidiwch â Syrthio Ar Ôl: Cydnabyddwch y bydd ymosodwyr yn defnyddio Deallusrwydd Artiffisial, felly dylai eich amddiffyniad hefyd. Nodwch ychydig o feysydd effaith uchel lle gallai Deallusrwydd Artiffisial cynhyrchiol gynorthwyo eich gweithrediadau diogelwch ar unwaith (efallai blaenoriaethu rhybuddion, neu ddadansoddi logiau awtomataidd) a chynhaliwch brosiectau peilot. Ychwanegwch at eich amddiffynfeydd gyda chyflymder a graddfa Deallusrwydd Artiffisial i wrthsefyll bygythiadau sy'n symud yn gyflym ( Sut Gellir Defnyddio Deallusrwydd Artiffisial Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Gall hyd yn oed integreiddiadau syml, fel defnyddio Deallusrwydd Artiffisial i grynhoi adroddiadau meddalwedd faleisus neu gynhyrchu ymholiadau hela bygythiadau, arbed oriau i ddadansoddwyr. Dechreuwch yn fach, gwerthuswch ganlyniadau, ac ailadroddwch. Bydd llwyddiannau'n adeiladu'r achos dros fabwysiadu Deallusrwydd Artiffisial yn ehangach. Y nod yw defnyddio Deallusrwydd Artiffisial fel lluosydd grym – er enghraifft, os yw ymosodiadau gwe-rwydo yn llethu eich desg gymorth, defnyddiwch ddosbarthwr e-bost Deallusrwydd Artiffisial i leihau'r gyfrol honno'n rhagweithiol.

5. Buddsoddwch mewn Arferion AI Diogel a Moesegol: Wrth weithredu AI cynhyrchiol, dilynwch arferion datblygu a defnyddio diogel. Defnyddiwch fodelau preifat neu hunangynhaliol ar gyfer tasgau sensitif er mwyn cadw rheolaeth dros ddata. Os ydych chi'n defnyddio gwasanaethau AI trydydd parti, adolygwch eu mesurau diogelwch a phreifatrwydd (amgryptio, polisïau cadw data, ac ati). Ymgorfforwch fframweithiau rheoli risg AI (fel Fframwaith Rheoli Risg AI NIST neu ganllawiau ISO/IEC) i fynd i'r afael yn systematig â phethau fel rhagfarn, esboniadwyedd, a chadernid yn eich offer AI ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch? 10 Enghraifft o'r Byd Go Iawn ). Hefyd cynlluniwch ar gyfer diweddariadau/clytiau model fel rhan o waith cynnal a chadw - gall modelau AI fod â "bregusrwyddau" hefyd (e.e. efallai y bydd angen eu hailhyfforddi os ydynt yn dechrau crwydro neu os darganfyddir math newydd o ymosodiad gwrthwynebol ar y model). Trwy bobi diogelwch a moeseg i'ch defnydd o AI, rydych chi'n meithrin ymddiriedaeth yn y canlyniadau ac yn sicrhau cydymffurfiaeth â rheoliadau sy'n dod i'r amlwg.

6. Cadwch Bobl yn y Ddolen: Defnyddiwch AI i gynorthwyo, nid i ddisodli'n llwyr, barn ddynol mewn seiberddiogelwch. Penderfynwch ar bwyntiau penderfynu lle mae angen dilysu dynol (er enghraifft, gallai AI ddrafftio adroddiad digwyddiad, ond mae dadansoddwr yn ei adolygu cyn ei ddosbarthu; neu gallai AI awgrymu blocio cyfrif defnyddiwr, ond mae bod dynol yn cymeradwyo'r weithred honno). Mae hyn nid yn unig yn atal gwallau AI rhag mynd heb eu gwirio, ond mae hefyd yn helpu'ch tîm i ddysgu gan yr AI ac i'r gwrthwyneb. Anogwch lif gwaith cydweithredol: dylai dadansoddwyr deimlo'n gyfforddus yn cwestiynu allbynnau AI ac yn cynnal gwiriadau synnwyr cyffredin. Dros amser, gall y ddeialog hon wella'r AI (trwy adborth) a sgiliau'r dadansoddwyr. Yn ei hanfod, dyluniwch eich prosesau fel bod cryfderau AI a dynol yn ategu ei gilydd - mae AI yn trin cyfaint a chyflymder, mae bodau dynol yn trin amwysedd a phenderfyniadau terfynol.

7. Mesur, Monitro ac Addasu: Yn olaf, trin eich offer AI cynhyrchiol fel cydrannau byw o'ch ecosystem diogelwch. Mesurwch eu perfformiad - a ydyn nhw'n lleihau amseroedd ymateb i ddigwyddiadau? Yn dal bygythiadau'n gynharach? Sut mae'r gyfradd positif ffug yn tueddu? Ceisiwch adborth gan y tîm: a yw argymhellion yr AI yn ddefnyddiol, neu a yw'n creu sŵn? Defnyddiwch y metrigau hyn i fireinio modelau, diweddaru data hyfforddi, neu addasu sut mae'r AI wedi'i integreiddio. Mae bygythiadau seiber ac anghenion busnes yn esblygu, a dylid diweddaru neu ailhyfforddi eich modelau AI o bryd i'w gilydd i aros yn effeithiol. Cael cynllun ar gyfer llywodraethu modelau, gan gynnwys pwy sy'n gyfrifol am ei gynnal a pha mor aml y caiff ei adolygu. Trwy reoli cylch bywyd yr AI yn weithredol, rydych chi'n sicrhau ei fod yn parhau i fod yn ased, nid yn rhwymedigaeth.

I gloi, gall AI cynhyrchiol wella galluoedd seiberddiogelwch yn sylweddol, ond mae mabwysiadu llwyddiannus yn gofyn am gynllunio meddylgar a goruchwyliaeth barhaus. Bydd busnesau sy'n addysgu eu pobl, yn gosod canllawiau clir, ac yn integreiddio AI mewn ffordd gytbwys a diogel yn elwa o reoli bygythiadau'n gyflymach ac yn ddoethach. Mae'r pethau hynny'n darparu map ffordd: cyfuno arbenigedd dynol ag awtomeiddio AI, ymdrin â'r hanfodion llywodraethu, a chynnal hyblygrwydd wrth i'r dechnoleg AI a'r dirwedd bygythiadau esblygu'n anochel.

Drwy gymryd y camau ymarferol hyn, gall sefydliadau ateb y cwestiwn “Sut gellir defnyddio AI cynhyrchiol mewn seiberddiogelwch?” – nid yn unig mewn theori, ond mewn ymarfer o ddydd i ddydd – a thrwy hynny gryfhau eu hamddiffynfeydd yn ein byd sy'n gynyddol ddigidol ac sy'n cael ei yrru gan AI. ( Sut Gellir Defnyddio AI Cynhyrchiol mewn Seiberddiogelwch )

Papurau gwyn y gallech fod eisiau eu darllen ar ôl yr un hon:

🔗 Swyddi Na All AI eu Disodli a Pa Swyddi Fydd AI yn eu Disodli?
Archwiliwch y rhagolygon byd-eang ar ba rolau sy'n ddiogel rhag awtomeiddio a pha rai nad ydynt.

🔗 A all AI Ragweld y Farchnad Stoc?
Golwg agosach ar y cyfyngiadau, y datblygiadau arloesol, a'r mythau ynghylch gallu AI i ragweld symudiadau'r farchnad.

🔗 Beth Gellir Dibynnu Ar AI Cynhyrchiol i'w Wneud Heb Ymyrraeth Ddynol?
Deall ble gall AI weithredu'n annibynnol a ble mae goruchwyliaeth ddynol yn dal yn hanfodol.