Generative AI በሳይበር ደህንነት ውስጥ እንዴት መጠቀም ይቻላል?

መግቢያ

Generative AI - አዲስ ይዘትን ወይም ትንበያዎችን መፍጠር የሚችሉ አርቴፊሻል ኢንተለጀንስ ስርዓቶች - በሳይበር ደህንነት ውስጥ የለውጥ ኃይል ሆኖ ብቅ አለ። እንደ OpenAI's GPT-4 ያሉ መሳሪያዎች ውስብስብ መረጃዎችን የመተንተን እና ሰው መሰል ጽሁፍን የማፍለቅ ችሎታን አሳይተዋል፣ ይህም ከሳይበር አደጋዎች ለመከላከል አዳዲስ አቀራረቦችን አስችለዋል። በኢንዱስትሪዎች ውስጥ ያሉ የሳይበር ደህንነት ባለሙያዎች እና የንግድ ውሳኔ ሰጭዎች አመንጪ AI እንዴት ከሚፈጠሩ ጥቃቶች መከላከልን እንደሚያጠናክር እየፈለጉ ነው። ከፋይናንስ እና ከጤና አጠባበቅ እስከ ችርቻሮ እና መንግስት ድረስ በየዘርፉ ያሉ ድርጅቶች የተራቀቁ የማስገር ሙከራዎች፣ማልዌር እና ሌሎች አመንጪ AI ሊረዳ የሚችል ስጋት ያጋጥማቸዋል። አመንጪ AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ እንደሚውል እንመረምራለን , የእውነተኛ ዓለም አፕሊኬሽኖችን, የወደፊት እድሎችን እና ለጉዲፈቻ አስፈላጊ የሆኑ ጉዳዮችን ያጎላል.

ጄነሬቲቭ AI ከባህላዊ ትንታኔ AI የሚለየው ቅጦችን በመለየት ብቻ ሳይሆን በመፍጠር - መከላከያዎችን ለማሰልጠን ጥቃቶችን በመምሰል ወይም ለተወሳሰቡ የደህንነት መረጃዎች የተፈጥሮ ቋንቋ ማብራሪያዎችን በማዘጋጀት ነው። ይህ ጥምር ችሎታ ባለ ሁለት አፍ ጎራዴ ያደርገዋል፡ ኃይለኛ አዲስ የመከላከያ መሳሪያዎችን ያቀርባል ነገርግን አስጊ ተዋናዮችም ሊጠቀሙበት ይችላሉ። የሚከተሉት ክፍሎች ለጀነሬቲቭ AI በሳይበር ደህንነት፣ ማስገርን በራስ ሰር ከማውጣት አንስቶ የአደጋ ምላሽን እስከማሳደግ ድረስ ሰፊ የአጠቃቀም ጉዳዮችን ይዳስሳሉ። እንዲሁም ድርጅቶች ሊያስተዳድሯቸው ከሚገባቸው አደጋዎች (እንደ AI “ቅዠት” ወይም ተቃዋሚ አላግባብ መጠቀም) ጋር እነዚህ የ AI ፈጠራዎች ቃል ስለሚገቡላቸው ጥቅሞች እንወያያለን። በመጨረሻም፣ የንግድ ድርጅቶች አመንጪ AIን ከሳይበር ደህንነት ስትራቴጂዎቻቸው ጋር እንዲገመግሙ እና በኃላፊነት እንዲያዋህዱ ለማገዝ ተግባራዊ መንገዶችን እናቀርባለን።

Generative AI በሳይበር ደህንነት፡ አጠቃላይ እይታ

Generative AI በሳይበር ሴኪዩሪቲ ውስጥ AI ሞዴሎችን ይመለከታል - ብዙውን ጊዜ ትላልቅ የቋንቋ ሞዴሎች ወይም ሌሎች የነርቭ አውታረ መረቦች - ግንዛቤዎችን ፣ ምክሮችን ፣ ኮድን ወይም በደህንነት ተግባራት ውስጥ ለመርዳት ሰው ሰራሽ ውሂብን ሊያመነጭ ይችላል። ልክ እንደ ግምታዊ ሞዴሎች፣ አመንጪ AI ሁኔታዎችን አስመስሎ በሰዎች ሊነበቡ የሚችሉ ውጤቶችን (ለምሳሌ ሪፖርቶች፣ ማንቂያዎች፣ ወይም ተንኮል-አዘል የኮድ ናሙናዎች) በስልጠና ውሂቡ ላይ በመመስረት። ከበፊቱ በበለጠ ተለዋዋጭ በሆነ መልኩ አደጋዎችን ለመተንበይ፣ ለመለየት እና ምላሽ ለመስጠት እየተሰራ ነው Generative AI in Cybersecurity? - Palo Alto Networks )። ለምሳሌ፣ አመንጪ ሞዴሎች ሰፊ የምዝግብ ማስታወሻዎችን መተንተን ወይም የስለላ ማከማቻዎችን ማስፈራራት እና አጭር ማጠቃለያ ወይም የሚመከር እርምጃ መፍጠር ይችላሉ፣ ይህም ለደህንነት ቡድኖች እንደ AI “ረዳት” ማለት ይቻላል።

ለሳይበር መከላከያ የጄኔሬቲቭ AI ቀደምት ትግበራዎች ተስፋ አሳይተዋል. እ.ኤ.አ. በ 2023 ማይክሮሶፍት አስተዋውቋል ሴኪዩሪቲ ኮፒሎት , GPT-4-powered ለደህንነት ተንታኞች ረዳት, ጥሰቶችን ለመለየት እና የ 65 ትሪሊዮን ምልክቶችን ለማጣራት ማይክሮሶፍት በየቀኑ ያካሂዳል ( የማይክሮሶፍት ሴኩሪቲ ኮፒሎት አዲስ GPT-4 AI የሳይበር ደህንነት ረዳት | The Verge )። ተንታኞች ይህንን ስርዓት በተፈጥሮ ቋንቋ ሊጠይቁት ይችላሉ (ለምሳሌ “ባለፉት 24 ሰዓታት ውስጥ የተከሰቱትን ሁሉንም የደህንነት ጉዳዮች ጠቅለል አድርገው ይግለጹ” ) እና አብራሪው ጠቃሚ የትረካ ማጠቃለያ ይፈጥራል። በተመሳሳይ የጉግል ዛቻ ኢንተለጀንስ AI በጉግል ሰፊው የስጋት ኢንቴል ዳታቤዝ የውይይት ፍለጋን ለማስቻል ጀሚኒ የሚባል ጄኔሬቲቭ ሞዴል ይጠቀማል Generative AI Be Used in Cybersecurity? 10 Real-World Examples )። እነዚህ ምሳሌዎች እምቅ አቅምን ያሳያሉ፡ አመንጪ AI ውስብስብ፣ መጠነ ሰፊ የሳይበር ደህንነት መረጃን ማፍለቅ እና ግንዛቤዎችን በተደራሽ መልክ ማቅረብ፣ ውሳኔ አሰጣጥን ማፋጠን ይችላል።

በተመሳሳይ ጊዜ, አመንጪ AI በጣም እውነተኛ የውሸት ይዘት ሊፈጥር ይችላል, ይህም ለማስመሰል እና ለስልጠና (እና በሚያሳዝን ሁኔታ, ማህበራዊ ምህንድስና ለሚፈጥሩ አጥቂዎች). የማዋሃድ እና የመተንተን ብዙ የሳይበር ደህንነት አፕሊኬሽኖቹን እንደሚደግፍ እናያለን ከታች፣ ከማስገር መከላከል ጀምሮ እስከ ደህንነቱ የተጠበቀ የሶፍትዌር ልማት ድረስ ያለውን ሁሉንም ነገር በማካተት፣ እያንዳንዱን በኢንዱስትሪዎች ውስጥ እንዴት እንደሚተገበር በማሳየት ወደ ቁልፍ የአጠቃቀም ጉዳዮች እንገባለን።

በሳይበር ደህንነት ውስጥ የ Generative AI ቁልፍ መተግበሪያዎች

ምስል፡ ለጀነሬቲቭ AI በሳይበር ደህንነት ውስጥ ቁልፍ የአጠቃቀም ጉዳዮች ለደህንነት ቡድኖች AI ፓይሎቶች፣ የኮድ ተጋላጭነት ትንተና፣ አስማሚ ስጋትን መለየት፣ የዜሮ ቀን ጥቃት ማስመሰል፣ የተሻሻለ የባዮሜትሪክ ደህንነት እና የማስገር ማወቂያን ያካትታሉ ( 6 ጉዳዮችን ለጄኔሬቲቭ AI በሳይበር ደህንነት ይጠቀሙ [+ ምሳሌዎች] )።

የማስገር ፍለጋ እና መከላከል

ማስገር ተጠቃሚዎችን ተንኮል-አዘል አገናኞችን ጠቅ እንዲያደርጉ ወይም ምስክርነቶችን እንዲገልጹ በማታለል በጣም ከተስፋፉ የሳይበር ዛቻዎች አንዱ ነው። የማስገር ሙከራዎችን ለመለየት እና ስኬታማ ጥቃቶችን ለመከላከል የተጠቃሚዎችን ስልጠና ለማጠናከር እየተሰራ ነው በመከላከያ በኩል፣ የ AI ሞዴሎች ደንብን መሰረት ያደረጉ ማጣሪያዎች ሊያመልጡ የሚችሉ ስውር የማስገር ምልክቶችን ለመለየት የኢሜይል ይዘትን እና የላኪ ባህሪያትን መተንተን ይችላሉ። ከትላልቅ ህጋዊ እና ከተጭበረበሩ ኢሜይሎች ጋር በመማር፣ አመንጪ ሞዴል ማጭበርበርን የሚያመለክቱ ያልተለመዱ ነገሮችን በድምፅ፣ በቃላት ወይም በዐውደ-ጽሑፉ ሊጠቁም ይችላል - ሰዋሰው እና የፊደል አጻጻፍ ከአሁን በኋላ የማይሰጡ ቢሆኑም። እንደ እውነቱ ከሆነ፣ የፓሎ አልቶ ኔትዎርኮች ተመራማሪዎች ጄኔሬቲቭ AI "የማስገር ኢሜይሎችን ስውር ምልክቶችን መለየት ይችላል በሌላ መልኩ ሊገኙ የሚችሉ" ድርጅቶች ከአጭበርባሪዎች አንድ እርምጃ ቀድመው እንዲቀጥሉ ይረዳል ( ምን Generative AI in Cybersecurity? - Palo Alto Networks )።

የማስገር ጥቃቶችን ለስልጠና እና ትንተና አመንጪ AI እየተጠቀሙ ነው ለምሳሌ፣ Ironscales ለድርጅቱ ሰራተኞች የተበጁ የውሸት የማስገር ኢሜሎችን በራስ ሰር የሚያመነጭ በጂፒቲ የሚሰራ የማስገር ማስመሰያ መሳሪያ አስተዋውቋል ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 እውነተኛ የአለም ምሳሌዎች )። እነዚህ በአይ-የተሰሩ ኢሜይሎች የቅርብ ጊዜውን የአጥቂ ስልቶችን የሚያንፀባርቁ ሲሆን ይህም ለሰራተኞች አስጋሪ ይዘትን የመለየት ልምድን ይሰጣል። አጥቂዎች ራሳቸው AIን በመውሰዳቸው የበለጠ አሳማኝ ማባበሎችን ስለሚፈጥሩ እንደዚህ አይነት ግላዊ ስልጠና ወሳኝ ነው። በተለይም ጄኔሬቲቭ AI በጣም የሚያብረቀርቅ የማስገር መልዕክቶችን ሊያሰራ ቢችልም (በቀላሉ የሚሰባበሩ እንግሊዘኛ ቀናት አልፈዋል)፣ ተከላካዮች AI የማይሸነፍ እንዳልሆነ ደርሰውበታል። እ.ኤ.አ. በ2024፣ የIBM ደህንነት ተመራማሪዎች በሰው የተፃፉ የማስገር ኢሜይሎችን ከ AI ከተፈጠሩት ጋር በማነፃፀር አንድ ሙከራን አቅርበዋል፣ እና "የሚገርመው ነገር፣ በ AI የተፈጠሩ ኢሜይሎች ትክክለኛ ሰዋሰው ቢኖራቸውም አሁንም በቀላሉ ማግኘት ቀላል ነበሩ" ( 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። ይህ የሚያመለክተው የሰው ልጅ ግንዛቤ ከኤአይአይ የታገዘ ማወቂያ ጋር ተዳምሮ አሁንም በ AI የተፃፉ ማጭበርበሮች ውስጥ ስውር አለመጣጣሞችን ወይም የሜታዳታ ምልክቶችን ሊያውቅ ይችላል።

Generative AI የማስገር መከላከያን በሌሎች መንገዶችም ይረዳል። አጠራጣሪ ኢሜይሎችን የሚሞክሩ አውቶማቲክ ምላሾችን ወይም ማጣሪያዎችን ለማመንጨት ጥቅም ላይ ሊውሉ ይችላሉ ለምሳሌ፣ የ AI ስርዓት የላኪውን ህጋዊነት ለማረጋገጥ ለተወሰኑ ጥያቄዎች ለኢሜል ምላሽ መስጠት ወይም የኢሜል ማያያዣዎችን እና አባሪዎችን በማጠሪያ ሳጥን ውስጥ ለመተንተን LLM ን መጠቀም እና ማንኛውንም ተንኮል አዘል ሀሳብ ማጠቃለል ይችላል። የNVDIA የደኅንነት መድረክ ሞርፊየስ በዚህ መድረክ የ AIን ኃይል ያሳያል - ኢሜይሎችን በፍጥነት ለመተንተን እና ለመከፋፈል አመንጪ ኤንኤልፒ ሞዴሎችን ይጠቀማል፣ እና ከባህላዊ የደህንነት መሳሪያዎች ጋር ሲወዳደር 21 % ። ሞርፊየስ እንኳን ያልተለመደ ባህሪን ለመለየት የተጠቃሚን የግንኙነት ዘይቤዎችን ይገልፃል (ልክ እንደ ተጠቃሚ በድንገት ብዙ ውጫዊ አድራሻዎችን ኢሜል እንደሚልክ) ይህም የማስገር ኢሜይሎችን የሚልክ የተበላሸ መለያ ያሳያል።

በተግባር, በኢንዱስትሪዎች ውስጥ ያሉ ኩባንያዎች ለማህበራዊ ምህንድስና ጥቃቶች የኢሜል እና የድር ትራፊክን ለማጣራት AI ማመን ይጀምራሉ. የገንዘብ ድርጅቶች፣ ለምሳሌ፣ ወደ ሽቦ ማጭበርበር ሊመሩ ለሚችሉ የማስመሰል ሙከራዎች ግንኙነቶችን ለመቃኘት አመንጪ AIን ይጠቀማሉ፣ የጤና እንክብካቤ አቅራቢዎች ደግሞ የታካሚውን መረጃ ከማስገር ጋር በተያያዙ ጥሰቶች ለመጠበቅ AI ያሰማራሉ። ተጨባጭ የማስገር ሁኔታዎችን በማመንጨት እና የተንኮል አዘል መልዕክቶች መለያዎችን በመለየት፣ አመንጪ AI የማስገር መከላከያ ስልቶችን ላይ ኃይለኛ ሽፋንን ይጨምራል። የተወሰደው መንገድ በፍጥነት እና በትክክል ለመለየት እና ለማስታጠቅ ይረዳል

የማልዌር ፍለጋ እና የዛቻ ትንተና

ዘመናዊ ማልዌር በየጊዜው እያደገ ነው - አጥቂዎች የጸረ-ቫይረስ ፊርማዎችን ለማለፍ አዲስ ልዩነቶችን ያመነጫሉ ወይም ኮድ ይደብቃሉ። Generative AI ማልዌርን ለመለየት እና ባህሪውን ለመረዳት ለሁለቱም አዳዲስ ቴክኒኮችን ይሰጣል። አንዱ አካሄድ AI በመጠቀም የማልዌር “ክፉ መንትዮች” ለማመንጨት ነው፡ የደህንነት ተመራማሪዎች ብዙ የተቀየሩ የማልዌር ዓይነቶችን ለመፍጠር የታወቀ የማልዌር ናሙናን ወደ አመንጭነት ሞዴል መመገብ ይችላሉ። ይህን በማድረግ፣ አጥቂ ሊያደርጋቸው የሚችላቸውን ማስተካከያዎች በብቃት ይገምታሉ። እነዚህ በ AI የመነጩ ልዩነቶች ጸረ-ቫይረስ እና የስርቆት ማወቂያ ስርዓቶችን ለማሰልጠን ጥቅም ላይ ሊውሉ ይችላሉ, ስለዚህም የተሻሻሉ የማልዌር ስሪቶች እንኳን በዱር ውስጥ ይታወቃሉ ( 6 በሳይበር ደህንነት ውስጥ ለ Generative AI ይጠቀሙ [+ ምሳሌዎች] )። ይህ ገባሪ ስልት ሰርጎ ገቦች ተንኮል አዘል ዌርን በመቀየር እንዳይታወቅ እና ተከላካዮች በእያንዳንዱ ጊዜ አዲስ ፊርማ ለመፃፍ መረባረብ አለባቸው። በአንድ የኢንዱስትሪ ፖድካስት ላይ እንደተገለጸው፣ የደህንነት ባለሙያዎች አሁን “የአውታረ መረብ ትራፊክን ለማስመሰል እና የተራቀቁ ጥቃቶችን የሚመስሉ ተንኮል አዘል ሸክሞችን ለማመንጨት” ጄኔሬቲቭ AIን ይጠቀማሉ። ይህ የማስተካከያ ማስፈራሪያ ማወቂያ ማለት የደህንነት መሳሪያዎች ወደ ፖሊሞፈርፊክ ማልዌር ይቋቋማሉ አለበለዚያ ሊያልፍ ይችላል።

በማልዌር ትንተና እና በተገላቢጦሽ ምህንድስና ላይ ያግዛል ፣ ይህም በተለምዶ ለአደጋ ተንታኞች ጉልበት የሚጠይቁ ተግባራት ናቸው። ትላልቅ የቋንቋ ሞዴሎች አጠራጣሪ ኮድን ወይም ስክሪፕቶችን በመመርመር እና ኮዱ ምን ለማድረግ እንደታሰበ በግልፅ ቋንቋ በማብራራት ሊሰጡ ይችላሉ። የገሃዱ ዓለም ምሳሌ የVirusTotal Code Insight ፣ የGoogle ቫይረስ ቶታል ባህሪ፣ የጄኔሬቲቭ AI ሞዴል (Google's Sec-PaLM) ተንኮል-አዘል ኮድ ሊሆኑ የሚችሉ የተፈጥሮ ቋንቋ ማጠቃለያዎችን ( Generative AI Be Used in Cybersecurity? 10 Real-World Examples ) ለማዘጋጀት የሚጠቀምበት ባህሪ ነው። የሰው ተንታኞች ስጋቶችን እንዲረዱ ለመርዳት 24/7 የሚሰራ እንደ AI ማልዌር ተንታኝ ሆኖ የሚሰራው "ለደህንነት ኮድ መስጠት የቆመ የቻትጂፒቲ አይነት" ነው 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። የማያውቀውን ስክሪፕት ወይም የሁለትዮሽ ኮድ ከማየት ይልቅ የደህንነት ቡድን አባል ወዲያውኑ ከ AI ማብራሪያ ማግኘት ይችላል - ለምሳሌ፣ "ይህ ስክሪፕት ፋይልን ከXYZ አገልጋይ ለማውረድ ይሞክራል እና ከዚያ የስርዓት ቅንብሮችን ያስተካክላል ይህም የማልዌር ባህሪን ያሳያል።" ይህ በአስገራሚ ሁኔታ ምላሽን ያፋጥነዋል፣ ምክንያቱም ተንታኞች አዲስ ማልዌርን ከመቼውም በበለጠ ፍጥነት መለየት እና መረዳት ይችላሉ።

ማልዌርን በግዙፍ የውሂብ ስብስቦች ውስጥ ለመጠቆምም ይጠቅማል ። ባህላዊ የጸረ-ቫይረስ ሞተሮች ፋይሎችን ለሚታወቁ ፊርማዎች ይቃኛሉ፣ ነገር ግን አመንጪ ሞዴል የፋይሉን ባህሪያት ሊገመግም አልፎ ተርፎም በተማሩት ስርዓተ ጥለቶች ላይ በመመስረት ተንኮል አዘል መሆኑን ሊተነብይ ይችላል። በቢሊዮኖች የሚቆጠሩ ፋይሎችን (ተንኮል-አዘል እና ጨዋ) ባህሪያትን በመተንተን AI ግልጽ የሆነ ፊርማ በሌለበት ቦታ ተንኮል አዘል ዓላማን ሊይዝ ይችላል። ለምሳሌ፣ አንድ አመንጪ ሞዴል ተፈጻሚውን አጠራጣሪ አድርጎ ሊጠቁመው ይችላል ምክንያቱም የባህሪው መገለጫ "የሚመስለው" ነው ፣ ምንም እንኳን ሁለትዮሽ አዲስ ቢሆንም። ይህ በባህሪ ላይ የተመሰረተ ማወቂያ ልብወለድ ወይም ዜሮ-ቀን ማልዌርን ለመቋቋም ይረዳል። የጎግል ዛቻ ኢንተለጀንስ AI (የ Chronicle/Mandiant አካል) ተንኮል-አዘል ሊሆኑ የሚችሉ ኮድን ለመተንተን እና “የደህንነት ባለሙያዎችን ማልዌርን እና ሌሎች የአደጋ ዓይነቶችን ለመዋጋት በብቃት እና በብቃት ለማገዝ” ጄኔሬቲቭ ሞዴሉን እንደሚጠቀም ተዘግቧል። ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት መጠቀም ይቻላል? 10 የእውነተኛ ዓለም ምሳሌዎች )።

በጎን በኩል፣ አጥቂዎች አመንጪ AIን እዚህም መጠቀም እንደሚችሉ መቀበል አለብን - እራሱን የሚያስተካክል ማልዌር በራስ ሰር ለመፍጠር። እንዲያውም የደህንነት ባለሙያዎች ለመለየት አስቸጋሪ የሆነውን ማልዌር እንዲያዳብሩ ሊረዳቸው እንደሚችል What Is Generative AI in Cybersecurity? - Palo Alto Networks ). የ AI ሞዴል ሁሉንም የታወቁ የጸረ-ቫይረስ ፍተሻዎች እስኪያጠፋ ድረስ አንድን ማልዌር ደጋግሞ እንዲቀርጽ (የፋይል አወቃቀሩን ፣ ምስጠራ ስልቶቹን እና የመሳሰሉትን) እንዲያደርግ ሊታዘዝ ይችላል። ይህ የጠላት አጠቃቀም አሳሳቢነት እየጨመረ ነው (አንዳንድ ጊዜ "AI-powered malware" ወይም ፖሊሞፈርፊክ ማልዌር እንደ አገልግሎት ይባላል)። እንደዚህ አይነት አደጋዎችን በኋላ ላይ እንነጋገራለን ነገርግን አመንጪ AI በዚህ የድመት እና አይጥ ጨዋታ ተከላካይ እና አጥቂዎች የሚጠቀሙበት መሳሪያ መሆኑን ያሰምርበታል።

በአጠቃላይ አመንጪ AI የደህንነት ቡድኖች እንደ አጥቂ እንዲያስቡ - አዳዲስ ስጋቶችን እና መፍትሄዎችን በቤት ውስጥ በማመንጨት የማልዌር መከላከያን ያሻሽላል። የፍተሻ ደረጃዎችን ለማሻሻል ሰው ሰራሽ ማልዌር ማምረት ወይም AIን በመጠቀም በአውታረ መረቦች ውስጥ የሚገኙትን እውነተኛ ማልዌሮችን ለማስረዳት እና ለማካተት እነዚህ ዘዴዎች በሁሉም ኢንዱስትሪዎች ላይ ይተገበራሉ። አንድ ባንክ በተመን ሉህ ውስጥ ያለውን አጠራጣሪ ማክሮ በፍጥነት ለመተንተን በ AI የሚመራ የማልዌር ትንታኔን ሊጠቀም ይችላል፣ የማኑፋክቸሪንግ ኩባንያ ግን በኢንዱስትሪ ቁጥጥር ስርአቶች ላይ ያነጣጠረ ማልዌርን ለማግኘት በ AI ላይ ሊተማመን ይችላል። ባህላዊ የማልዌር ትንታኔን በጄነሬቲቭ AI በመጨመር ድርጅቶች ለማልዌር ዘመቻዎች ከበፊቱ በበለጠ ፍጥነት እና በንቃት ምላሽ መስጠት ይችላሉ።

የስጋት ኢንተለጀንስ እና አውቶማቲክ ትንተና

በየእለቱ ድርጅቶች በስጋት መረጃ መረጃ ይሞላሉ - አዲስ ከተገኙ የስምምነት አመላካቾች (አይኦሲዎች) ምግቦች እስከ ተንታኝ ስለ ታዳጊ ጠላፊ ስልቶች ዘገባዎች። ለደህንነት ቡድኖች ፈተና የሚሆነው ይህንን የመረጃ ጎርፍ በማጣራት እና ተግባራዊ ግንዛቤዎችን ማውጣት ነው። ጄኔሬቲቭ AI የስጋት መረጃን ትንተና እና ፍጆታን በራስ-ሰር ። በደርዘን የሚቆጠሩ ሪፖርቶችን ወይም የውሂብ ጎታ ግቤቶችን በእጅ ከማንበብ ይልቅ፣ ተንታኞች የማሽን ፍጥነት ያለውን ስጋት ኢንቴል ለማጠቃለል እና አውድ ለማድረግ AI ሊቀጥሩ ይችላሉ።

አንድ ተጨባጭ ምሳሌ Google's Threat Intelligence suite ነው፣ እሱም ጄኔሬቲቭ AI (የጌሚኒ ሞዴል) ከማንዲያንት እና ቫይረስ ቶታል የጉግል ስጋት መረጃ ጋር ያዋህዳል። “በጎግል ሰፊ የስጋት መረጃ ማከማቻ ውስጥ የውይይት ፍለጋን” ያቀርባል ፣ ይህም ተጠቃሚዎች ስለ ዛቻዎች ተፈጥሯዊ ጥያቄዎችን እንዲጠይቁ እና ግልጽ የሆኑ መልሶችን እንዲያገኙ ያስችላቸዋል ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )። ለምሳሌ፣ አንድ ተንታኝ፣ “ከአስፈራሪያ ቡድን X ጋር የተገናኘ ማንኛውም ማልዌር ኢንዱስትሪያችንን ኢላማ ሲያደርግ አይተናል?” እና AI አግባብ የሆነውን ኢንቴል ይጎትታል፣ ምናልባት “አዎ፣ ስጋት ቡድን X ባለፈው ወር ማልዌር ዋይን በመጠቀም ከአስጋሪ ዘመቻ ጋር ተገናኝቷል” ከማልዌር ባህሪ ማጠቃለያ ጋር። ይህ ብዙ መሳሪያዎችን መጠየቅ ወይም ረጅም ሪፖርቶችን ማንበብ የሚጠይቁ ግንዛቤዎችን ለመሰብሰብ ጊዜን በእጅጉ ይቀንሳል።

አመንጪ AI እንዲሁም የአደጋ አዝማሚያዎችን ማዛመድ እና ማጠቃለል ። በሺዎች የሚቆጠሩ የደህንነት ብሎግ ልጥፎችን ፣የጥሰት ዜናዎችን እና የጨለማ ድረ-ገጽ ወሬዎችን በማጣራት እና ለ CISO አጭር መግለጫ “በዚህ ሳምንት ዋና ዋና የሳይበር አደጋዎች” ዋና ማጠቃለያ ሊያመጣ ይችላል። በተለምዶ ይህ የመተንተን እና የሪፖርት አቀራረብ ደረጃ ከፍተኛ የሰው ልጅ ጥረት አድርጓል; አሁን በደንብ የተስተካከለ ሞዴል ​​በሰከንዶች ውስጥ ማርቀቅ ይችላል፣ ሰዎች ውጤቱን በማጣራት ብቻ። ‹FoxGPT› ን አዘጋጅተዋል ፣ በተለይም በትላልቅ የመረጃ ቋቶች ውስጥ የመረጃ ትንተና እና ማጠቃለያን ለማፋጠን ፣ ተንኮል-አዘል ይዘት እና የማስገር ውሂብን ጨምሮ ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 እውነተኛ-ዓለም ምሳሌዎች )። ከባድ የማንበብ እና የማጣቀሻ መረጃን በራስ ሰር በማስተካከል፣ AI አስጊ የኢንቴል ቡድኖች በውሳኔ አሰጣጥ እና ምላሽ ላይ እንዲያተኩሩ ያስችላቸዋል።

ሌላው የአጠቃቀም ጉዳይ የውይይት ስጋት አደን ። አንድ የደህንነት ተንታኝ ከ AI ረዳት ጋር ሲገናኝ አስቡት፡- “ባለፉት 48 ሰዓታት ውስጥ የትኛውንም የውህብ ማጭበርበር ምልክቶችን አሳየኝ” ወይም “በዚህ ሳምንት ዋና ዋናዎቹ የተጋላጭነት አጥቂዎች ምን እየበዘበዙ ነው?” AI ጥያቄውን መተርጎም፣ የውስጥ ሎግ ወይም የውጭ ኢንቴል ምንጮችን መፈለግ እና ግልጽ በሆነ መልስ አልፎ ተርፎም ተዛማጅ ክስተቶችን ዝርዝር ሊሰጥ ይችላል። ይህ ሩቅ አይደለም - ዘመናዊ የደህንነት መረጃ እና የክስተት አስተዳደር (SIEM) ስርዓቶች የተፈጥሮ ቋንቋ መጠይቅን ማካተት ጀምረዋል. የIBM QRadar ደህንነት ስብስብ፣ ለምሳሌ፣ ተንታኞች “የተጠቃለለ የጥቃት መንገድን በተመለከተ ልዩ ጥያቄዎችን እንዲጠይቁ” እና ዝርዝር መልሶችን ለማግኘት በ2024 አመንጪ AI ባህሪያትን እየጨመረ ነው። "በጣም አስፈላጊ የሆነ የስጋት መረጃን በራስ-ሰር መተርጎም እና ማጠቃለል" ይችላል ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )። በመሰረቱ፣ አመንጪ AI የቴክኒካዊ መረጃዎችን ተራሮች በፍላጎት ወደ ውይይት መጠን ግንዛቤዎች ይለውጣል።

በመላው ኢንዱስትሪዎች ውስጥ, ይህ ትልቅ አንድምታ አለው. አንድ የጤና እንክብካቤ አቅራቢ ሆስፒታሎችን በሚያነጣጥሩ የቅርብ ጊዜዎቹ የራንሰምዌር ቡድኖች ላይ ወቅታዊ መረጃ ለማግኘት AI ሊጠቀም ይችላል፣ ተንታኙን ለሙሉ ጊዜ ምርምር ሳይሰጥ። የችርቻሮ ኩባንያ SOC የመደብር የአይቲ ሰራተኞችን ሲገልጽ አዲስ የPOS ማልዌር ዘዴዎችን በፍጥነት ማጠቃለል ይችላል። እና በመንግስት ውስጥ፣ ከተለያዩ ኤጀንሲዎች የሚመጡ የማስፈራሪያ መረጃዎች መገጣጠም ሲገባቸው፣ AI ቁልፍ ማስጠንቀቂያዎችን የሚያጎሉ አንድ ወጥ ሪፖርቶችን ሊያቀርብ ይችላል። የስጋት መረጃ መሰብሰብን እና አተረጓጎምን አውቶማቲክ በማድረግ ፣ አመንጪ AI ድርጅቶች ለሚመጡ አደጋዎች ፈጣን ምላሽ እንዲሰጡ ይረዳል እና በጩኸት ውስጥ የተደበቀ ወሳኝ ማስጠንቀቂያዎችን የማጣት አደጋን ይቀንሳል።

የደህንነት ስራዎች ማዕከል (SOC) ማመቻቸት

የደኅንነት ኦፕሬሽን ማዕከላት በንቃት ድካም እና በመሰባበር የውሂብ ብዛት ይታወቃሉ። አንድ የተለመደ የኤስኦሲ ተንታኝ በሺዎች የሚቆጠሩ ማንቂያዎችን እና ክስተቶችን በየቀኑ ሊያሳልፍ ይችላል፣ ሊከሰቱ የሚችሉ ክስተቶችን ይመረምራል። ጀነሬቲቭ AI በኤስኦሲዎች ውስጥ የዕለት ተዕለት ሥራን በራስ-ሰር በማስተካከል፣ ብልህ ማጠቃለያዎችን በማቅረብ እና አንዳንድ ምላሾችን በማቀናጀት እንደ የኃይል ማባዛት እየሰራ ነው። የሰው ተንታኞች በጣም ወሳኝ በሆኑ ጉዳዮች ላይ እንዲያተኩሩ ግቡ የ SOC የስራ ፍሰቶችን ማመቻቸት ነው AI ረዳት ቀሪውን ይይዛል.

“የተንታኝ ረዳት አብራሪ” እየተጠቀመ ነው ። ቀደም ሲል የተጠቀሰው የማይክሮሶፍት ሴኪዩሪቲ ኮፒሎት ይህንን በምሳሌነት ያሳያል፡- “የደህንነት ተንታኙን ስራ ከመተካት ይልቅ ለመርዳት የተነደፈ ነው፣” በአጋጣሚ ምርመራዎች እና ዘገባዎች ( Microsoft Security Copilot የሳይበር ደህንነት አዲስ የ GPT-4 AI ረዳት | The Verge )። በተግባር ይህ ማለት አንድ ተንታኝ ጥሬ መረጃን - የፋየርዎል ምዝግብ ማስታወሻዎችን፣ የክስተት ጊዜን ወይም የአደጋ መግለጫን - እና AI እንዲተነተን ወይም እንዲያጠቃልል መጠየቅ ይችላል። ረዳት አብራሪው፣ “ከጠዋቱ 2፡35 ላይ አጠራጣሪ የ IP X መግቢያ በአገልጋይ Y ላይ የተሳካ ይመስላል፣ ከዚያም ያልተለመዱ የውሂብ ዝውውሮችን ተከትሎ የአገልጋዩን ጥሰት ሊያመለክት ይችላል። የዚህ ዓይነቱ ቅጽበታዊ ዐውደ-ጽሑፍ በጣም አስፈላጊው ጊዜ አስፈላጊ በሚሆንበት ጊዜ ነው።

AI ፓይለቶች የደረጃ-1 የመለያ ሸክሙን ለመቀነስ ይረዳሉ። እንደ ኢንዱስትሪ መረጃ ከሆነ፣ የደህንነት ቡድን 22,000 ማንቂያዎችን እና የውሸት አወንታዊ መረጃዎችን በመደርደር በሳምንት 15 ሰአታት 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። በጄኔሬቲቭ AI ፣ ከእነዚህ ማንቂያዎች ውስጥ አብዛኛዎቹ በራስ-ሰር ሊገለበጡ ይችላሉ - AI በግልጽ ደግ የሆኑትን (በምክንያት የተሰጠው) ማሰናበት እና በእውነቱ ትኩረት የሚያስፈልጋቸውን ጎላ አድርጎ ያሳያል ፣ አንዳንዴም ቅድሚያ የሚሰጠውን ይጠቁማል። በእውነቱ፣ የጄኔሬቲቭ AI ጥንካሬ አውድ በመረዳት ላይ ማለት በተናጥል ምንም ጉዳት የሌላቸው የሚመስሉ ማንቂያዎችን ማገናኘት ይችላል ነገር ግን አንድ ላይ ባለ ብዙ ደረጃ ጥቃትን ያመለክታሉ። ይህ “በማስጠንቀቂያ ድካም” ምክንያት የመጥፋት እድልን ይቀንሳል።

የኤስኦሲ ተንታኞች አደንን እና ምርመራዎችን ለማፋጠን ከአይአይ ጋር የተፈጥሮ ቋንቋን እየተጠቀሙ ነው። የሴንቲኔልኦን ፐርፕል AI መድረክ በኤል ኤም ኤል ላይ የተመሰረተ በይነገጽን ከእውነተኛ ጊዜ የደህንነት መረጃ ጋር በማጣመር ተንታኞች “ውስብስብ የአደጋ አደን ጥያቄዎችን በግልፅ እንግሊዝኛ እንዲጠይቁ እና ፈጣን ትክክለኛ መልሶችን እንዲያገኙ” ( Generative AI Be Used in Cybersecurity እንዴት ነው? 10 የእውነተኛ ዓለም ምሳሌዎች ) “ባለፈው ወር ከዶራ badguy123[.]com ጋር የተገናኙ የመጨረሻ ነጥቦች አሉን?” ብሎ መፃፍ ይችላል , እና Purple AI ምላሽ ለመስጠት በምዝግብ ማስታወሻዎች ውስጥ ይፈልጋል. ይህ ተንታኙን የውሂብ ጎታ መጠይቆችን ወይም ስክሪፕቶችን ከመፃፍ ያድነዋል - AI ከኮድ በታች ያደርገዋል። እንዲሁም ጀማሪ ተንታኞች ቀደም ሲል በመጠይቅ ቋንቋዎች የተካነ ልምድ ያለው መሐንዲስ የሚያስፈልጋቸውን ተግባራት ማስተናገድ ይችላሉ፣ ይህም ቡድኑን በብቃት በ AI እገዛ ያሳድጋል ። በእርግጥም ተንታኞች የጄኔሬቲቭ AI መመሪያ "ችሎታዎቻቸውን እና ብቃታቸውን ያሳድጋል" , ምክንያቱም ጁኒየር ሰራተኞች አሁን በጥያቄ ኮድ ድጋፍ ወይም የትንታኔ ምክሮች ከ AI ማግኘት ይችላሉ, ይህም ከፍተኛ የቡድን አባላትን ሁልጊዜ እርዳታ በመጠየቅ ላይ ያለውን ጥገኝነት ይቀንሳል ( 6 ለ Generative AI በሳይበር ደህንነት [+ ምሳሌዎች] ይጠቀሙ ).

ሌላው የኤስኦሲ ማመቻቸት ራስ-ሰር የአደጋ ማጠቃለያ እና ሰነድ ። አንድ ክስተት ከተያዘ በኋላ አንድ ሰው ሪፖርቱን መፃፍ አለበት - ብዙዎች አሰልቺ ሆኖ ያገኙት ተግባር። Generative AI የፎረንሲክ መረጃን (የስርዓት ምዝግብ ማስታወሻዎች፣ የማልዌር ትንተና፣ የእርምጃዎች የጊዜ መስመር) ወስዶ የመጀመሪያ-ረቂቅ ክስተት ሪፖርት ማመንጨት ይችላል። IBM ይህንን ችሎታ ወደ QRadar በመገንባት ላይ ያለው በ “በአንድ ጠቅታ” የአደጋ ማጠቃለያ ለተለያዩ ባለድርሻ አካላት (አስፈጻሚዎች፣ የአይቲ ቡድኖች፣ ወዘተ) እንዲዘጋጅ ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 እውነተኛ የአለም ምሳሌዎች )። ይህ ጊዜን መቆጠብ ብቻ ሳይሆን በሪፖርቱ ውስጥ ምንም ነገር እንደማይታለፍ ያረጋግጣል, ምክንያቱም AI ሁሉንም አስፈላጊ ዝርዝሮችን በተከታታይ ማካተት ይችላል. እንደዚሁም፣ ለማክበር እና ለኦዲት፣ AI በአደጋ መረጃ ላይ በመመስረት ቅጾችን ወይም የማስረጃ ሰንጠረዦችን መሙላት ይችላል።

የገሃዱ ዓለም ውጤቶች አሳማኝ ናቸው። ቀደምት የSwimlane's AI-driven SOAR (የደህንነት ኦርኬስትራ፣ አውቶሜሽን እና ምላሽ) ከፍተኛ የምርታማነት እመርታዎችን ሪፖርት አድርገዋል – Global Data Systems ለምሳሌ የሴኮፕ ቡድናቸው በጣም ትልቅ የሆነ የጉዳይ ጭነት ሲያስተዳድር አይተዋል። አንድ ዳይሬክተር እንዳሉት "ዛሬ ከ 7 ተንታኞች ጋር የማደርገው ምናልባት 20 ሰራተኞችን ያለ AI-powered አውቶሜሽን ሊወስድ ይችላል" ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል ). በሌላ አነጋገር በኤስኦሲ ውስጥ ያለው AI አቅምን ማባዛት ይችላል . በኢንዱስትሪዎች ውስጥ፣ የደመና ደህንነት ማንቂያዎችን የሚመለከት የቴክኖሎጂ ኩባንያም ይሁን የማምረቻ ፋብሪካ የኦቲቲ ስርዓቶችን የሚከታተል፣ የኤስኦሲ ቡድኖች ፈጣን ማወቂያ እና ምላሽ፣ ያመለጡ ክስተቶችን እና የበለጠ ቀልጣፋ ስራዎችን ጄኔቲቭ AI ረዳቶችን በመቀበል ይቆማሉ። ይበልጥ ብልህ መስራት ነው - ማሽኖች ተደጋጋሚ እና ውሂብ-ከባድ ስራዎችን እንዲሰሩ መፍቀድ የሰው ልጅ በጣም አስፈላጊ በሆነበት ቦታ እውቀታቸውን እና እውቀታቸውን እንዲተገብሩ ማድረግ።

የተጋላጭነት አስተዳደር እና የዛቻ ማስመሰል

ተጋላጭነቶችን መለየት እና ማስተዳደር - አጥቂዎች ሊበዘብዙባቸው የሚችሉ የሶፍትዌር ወይም ስርዓቶች ድክመቶች - ዋናው የሳይበር ደህንነት ተግባር ነው። Generative AI ግኝትን በማፋጠን፣ በ patch ቅድሚያ እንዲሰጥ በመርዳት እና በእነዚያ ተጋላጭነቶች ላይም ዝግጁነትን ለማሻሻል ጥቃቶችን በማስመሰል የተጋላጭነት አስተዳደርን እያሳደገ ነው። በመሠረቱ፣ AI ድርጅቶች በጦር መሣሪያዎቻቸው ውስጥ ያሉትን ቀዳዳዎች በፍጥነት እንዲያገኙ እና እንዲጠግኑ እና እውነተኛ አጥቂዎች ከማድረጋቸው በፊት መከላከያን በንቃት

ለራስ-ሰር ኮድ ግምገማ እና የተጋላጭነት ግኝት አመንጭ AIን እየተጠቀመ ነው ። ትላልቅ የኮድ ቤዝ (በተለይ የቆዩ ስርዓቶች) ብዙውን ጊዜ የማይታወቁ የደህንነት ጉድለቶችን ይይዛሉ። የጄኔሬቲቭ AI ሞዴሎች በአስተማማኝ የኮድ አሠራሮች እና የተለመዱ የሳንካ ቅጦች ላይ ሰልጥነዋል፣ ከዚያም በምንጭ ኮድ ላይ ሊለቀቁ ወይም ሊፈጠሩ የሚችሉ ተጋላጭነቶችን ለማግኘት ሁለትዮሽ ማጠናቀር ይችላሉ። ለምሳሌ፣ የNVDIA ተመራማሪዎች የቆዩ የሶፍትዌር መያዣዎችን ለመተንተን እና ተጋላጭነቶችን “በከፍተኛ ትክክለኛነት - ከሰው ኤክስፐርቶች እስከ 4× በፍጥነት” የሚለይ የጄኔሬቲቭ AI ቧንቧ ገነቡ። ( 6 ጉዳዮችን ለጀነሬቲቭ AI በሳይበር ደህንነት [+ ምሳሌዎች] ይጠቀሙ )። AI በመሠረቱ ደህንነቱ ያልተጠበቀ ኮድ ምን እንደሚመስል ተምሯል እና ለአስርተ ዓመታት የቆዩ ሶፍትዌሮችን በመፈተሽ አደገኛ ተግባራትን እና ቤተ-መጻሕፍትን ለመጠቆም ችሏል፣ይህም በተለምዶ ቀርፋፋውን የእጅ ኮድ ኦዲት ሂደትን በእጅጉ አፋጥኗል። ይህ ዓይነቱ መሣሪያ እንደ ፋይናንስ ወይም መንግሥት ባሉ ትልልቅና አሮጌ የኮድ ቤዝዝ ላይ ለሚተማመኑ ኢንዱስትሪዎች ጨዋታ ቀያሪ ሊሆን ይችላል - AI ሠራተኞቹ ለማግኘት ወራት ወይም ዓመታት ሊፈጅባቸው የሚችላቸውን ጉዳዮች በመቆፈር (ከሆነ) ደህንነትን ለማዘመን ይረዳል።

የተጋላጭነት ቅኝት ውጤቶችን በማስኬድ እና ለእነሱ ቅድሚያ በመስጠት የተጋላጭነት አስተዳደር የስራ ፍሰቶችን ይረዳል ExposureAI ያሉ መሳሪያዎች ተንታኞች የተጋላጭነት መረጃን በግልፅ ቋንቋ እንዲጠይቁ እና ፈጣን መልሶችን ለማግኘት ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች ) አመንጪ AIን ይጠቀማሉ። ExposureAI “ሙሉውን የጥቃት መንገድ በትረካ ማጠቃለል” ፣ ይህም አጥቂ ስርዓቱን ለማበላሸት ከሌሎች ድክመቶች ጋር እንዴት እንደሚያሰምር በማብራራት ነው። እንዲያውም ለማረም እርምጃዎችን ይመክራል እና ስለአደጋው ተከታታይ ጥያቄዎችን ይመልሳል. ይህ ማለት አዲስ ወሳኝ CVE (የተለመዱ ተጋላጭነቶች እና ተጋላጭነቶች) ሲታወጅ አንድ ተንታኝ AIን “በዚህ CVE የተጎዱ አገልጋዮቻችን አንዳቸውም አሉ እና ካላስተካከልን በጣም መጥፎው ሁኔታ ምንድነው?” ብሎ እና ከድርጅቱ የራሱ የፍተሻ ውሂብ የተወሰደ ግልጽ ግምገማ ይቀበሉ። ተጋላጭነቶችን አውድ በማድረግ (ለምሳሌ ይህ ለኢንተርኔት የተጋለጠ ነው እና ከፍተኛ ዋጋ ባለው አገልጋይ ላይ ነው፣ ስለዚህ ቅድሚያ የሚሰጠው ጉዳይ ነው)፣ አመንጪ AI ቡድኖች ውስን ሀብቶችን በጥበብ እንዲያስተካክሉ ያግዛል።

የታወቁ ተጋላጭነቶችን ከማግኘት እና ከማስተዳደር በተጨማሪ፣ ጄኔሬቲቭ AI ለሰርጎ መግባት ሙከራ እና የጥቃት ማስመሰል - በመሠረቱ ያልታወቁ ተጋላጭነቶችን በማግኘት ወይም የደህንነት ቁጥጥሮችን መሞከር። የጄኔሬቲቭ አድቨርሳሪያል ኔትወርኮች (GANs)፣ የጄነሬቲቭ AI ዓይነት፣ የተደበቁ የጥቃት ቅጦችን ሊያካትት የሚችል እውነተኛ የአውታረ መረብ ትራፊክ ወይም የተጠቃሚ ባህሪን የሚመስል ሰው ሰራሽ ውሂብ ለመፍጠር ጥቅም ላይ ውለዋል። እ.ኤ.አ. በ2023 የተደረገ ጥናት GANsን በመጠቀም የዜሮ ቀን ጥቃት ትራፊክን ለማመንጨት የወረራ ማወቂያ ስርዓቶችን ለማሰልጠን ሀሳብ አቅርቧል ። አይዲኤስን በአይ-የተሰራ የጥቃት ሁኔታዎችን በመመገብ (በምርት ኔትወርኮች ላይ ትክክለኛ ማልዌር የመጠቀም አደጋን የማይፈጥሩ) ድርጅቶች በእውነታው ለመምታት ሳይጠብቁ መከላከያዎቻቸውን ማሰልጠን ይችላሉ። በተመሳሳይ፣ AI አንድ አጥቂ ስርዓትን እየመረመረ ማስመሰል ይችላል - ለምሳሌ ፣ ማንኛውም የተሳካ እንደሆነ ለማየት ደህንነቱ በተጠበቀ አካባቢ ውስጥ የተለያዩ የብዝበዛ ቴክኒኮችን በራስ-ሰር መሞከር ይችላል። የዩኤስ መከላከያ የላቀ የምርምር ፕሮጄክቶች ኤጀንሲ (DARPA) የ2023 AI የሳይበር ፈተና የውድድሩ አካል ሆኖ “በክፍት ምንጭ ሶፍትዌር ውስጥ ያሉ ተጋላጭነቶችን በራስ-ሰር ለማግኘት እና ለማስተካከል” የጄኔሬቲቭ DARPA AIን ለማዳበር ያለመ፣ የራስ ገዝ አፕሊኬሽኖች ተዋጊዎች እምነት ሊጥሉ ይችላሉ > የአሜሪካ መከላከያ ሚኒስቴር > መከላከያ ። ይህ ተነሳሽነት AI የታወቁ ጉድጓዶችን ለመገጣጠም የሚረዳ ብቻ እንዳልሆነ አጽንዖት ይሰጣል; አዳዲሶችን በንቃት እያሳየ እና ማስተካከያዎችን እያቀረበ ነው፣ ይህ ተግባር በተለምዶ በሰለጠኑ (እና ውድ) የደህንነት ተመራማሪዎች ብቻ የተወሰነ ነው።

ለመከላከያ የማሰብ ችሎታ ያላቸው የማር ማሰሮዎችን እና ዲጂታል መንትዮችን መፍጠር ይችላል ጀማሪዎች እውነተኛ አገልጋዮችን ወይም መሳሪያዎችን አሳማኝ በሆነ መልኩ የሚኮርጁ በ AI የሚነዱ የማታለያ ስርዓቶችን እየገነቡ ነው። አንድ ዋና ሥራ አስፈጻሚ እንዳብራሩት፣ ጄኔሬቲቭ AI “ እውነተኞቹን ለመምሰል እና ጠላፊዎችን ለመሳብ ዲጂታል ሲስተሞችን ሊይዝ ። እነዚህ በ AI የመነጩ የማር ማሰሮዎች ልክ እንደ እውነተኛው አካባቢ ባህሪ አላቸው (ይበል፣ የውሸት አይኦቲ መሳሪያ መደበኛ ቴሌሜትሪ የሚልክ ነው) ነገር ግን አጥቂዎችን ለመሳብ ብቻ አሉ። አንድ አጥቂ ማታለያውን ሲያነጣጥረው AI በመሠረቱ ዘዴዎቻቸውን እንዲገልጡ አታሎታል፣ ይህም ተከላካዮች በማጥናት እውነተኛውን ስርአቶች ለማጠናከር ሊጠቀሙበት ይችላሉ። በ AI የተሻሻለ ማታለልን በመጠቀም ጠረጴዛዎችን በአጥቂዎች ላይ ለማዞር ወደ ፊት የሚመለከት መንገድ ይሰጣል

በሁሉም ኢንዱስትሪዎች ፈጣን እና ብልህ የተጋላጭነት አስተዳደር ማለት ጥቂቶች ናቸው። በጤና እንክብካቤ IT ውስጥ፣ ለምሳሌ፣ AI በፍጥነት የተጋለጠ ጊዜ ያለፈበት ቤተመፃህፍት በህክምና መሳሪያ ውስጥ ሊያውቅ እና ማንኛውም አጥቂ ከመጠቀሚያው በፊት የጽኑ ዌር መጠገኛን ሊጠይቅ ይችላል። በባንክ ውስጥ፣ AI የደንበኞች መረጃ በሁሉም ሁኔታዎች ደህንነቱ የተጠበቀ መሆኑን ለማረጋገጥ በአዲስ መተግበሪያ ላይ የውስጥ አዋቂ ጥቃትን ማስመሰል ይችላል። Generative AI ስለዚህ እንደ ማይክሮስኮፕ እና ለድርጅቶች የደህንነት አቋም እንደ ጭንቀት-ሞካሪ ሆኖ ይሰራል፡ የተደበቁ ጉድለቶችን ያበራል እና ስርአቶችን የመቋቋም አቅምን ለማረጋገጥ በሃሳባዊ መንገዶች ይገፋፋል።

ደህንነቱ የተጠበቀ ኮድ ማመንጨት እና የሶፍትዌር ልማት

ከመጀመሪያው ጀምሮ የበለጠ ደህንነታቸው የተጠበቀ ስርዓቶችን ለመፍጠርም ይዘልቃሉ ። በሶፍትዌር ልማት፣ AI ኮድ ጀነሬተሮች (እንደ GitHub Copilot፣ OpenAI Codex፣ ወዘተ.) ገንቢዎች የኮድ ቅንጥቦችን ወይም ሙሉ ተግባራትን በመጠቆም በፍጥነት ኮድ እንዲጽፉ ሊረዳቸው ይችላል። የሳይበር ሴኪዩሪቲ አንግል እነዚህ በ AI የተጠቆሙ የኮድ ቁራጮች ደህንነታቸው የተጠበቀ መሆኑን እና AIን በመጠቀም የኮድ አሠራሮችን ለማሻሻል እየሰራ ነው።

በአንድ በኩል፣ አመንጪ AI የደህንነት ምርጥ ተሞክሮዎችን የሚያካትት ኮድ ረዳት ። ገንቢዎች የ AI መሣሪያን “በ Python ውስጥ የይለፍ ቃል ዳግም ማስጀመሪያ ተግባር ይፍጠሩ” ብለው እና በትክክል የሚሰራ ብቻ ሳይሆን ደህንነቱ የተጠበቀ መመሪያዎችን (ለምሳሌ ትክክለኛ የግቤት ማረጋገጫ፣ ምዝግብ ማስታወሻ፣ መረጃ ሳያፈስ የስህተት አያያዝ፣ ወዘተ.) ኮድን ይመልሱ። እንደዚህ አይነት ረዳት፣ በሰፊ አስተማማኝ የኮድ ምሳሌዎች የሰለጠኑ፣ ወደ ተጋላጭነት የሚመሩ የሰዎችን ስህተቶች ለመቀነስ ይረዳል። ለምሳሌ፣ አንድ ገንቢ የተጠቃሚውን ግብአት ማፅዳትን ከረሳ (ለSQL መርፌ በር ወይም ተመሳሳይ ጉዳዮች)፣ AI በነባሪነት ያንን ሊያካትት ወይም ሊያስጠነቅቃቸው ይችላል። አንዳንድ የ AI ኮድ መጠቀሚያ መሳሪያዎች ለዚህ ትክክለኛ ዓላማ ጥቅም ላይ እንዲውሉ በደህንነት ላይ ያተኮረ መረጃ በጥሩ ሁኔታ እየተስተካከሉ ነው - በመሠረቱ, AI pair programming with a security ህሊና .

ነገር ግን፣ የመገለጫ ጎን አለ፡ አመንጪ AI በአግባቡ ካልተመራ በቀላሉ ተጋላጭነቶችን ማስተዋወቅ ይችላል። የሶፎስ ሴኪዩሪቲ ኤክስፐርት ቤን Verschaeren እንዳስታወቁት፣ ለኮድ አመንጪ AI መጠቀም “ለአጭር፣ ሊረጋገጥ የሚችል ኮድ፣ ነገር ግን ያልተረጋገጠ ኮድ ወደ ምርት ስርዓቶች ሲዋሃድ አደገኛ” ነው። አደጋው ኤአይኤ አዋቂ ያልሆነ ሰው ሊያስተውለው በማይችል መልኩ ደህንነቱ ያልተጠበቀ ትክክለኛ ኮድ ሊያወጣ ይችላል። ከዚህም በላይ ተንኮል አዘል ተዋናዮች ሆን ብለው በሕዝብ AI ሞዴሎች ላይ በተጋለጡ የኮድ ቅጦች (የመረጃ መመረዝ ዓይነት) በመዝራት ላይ ተጽዕኖ ሊያሳድሩ ይችላሉ ስለዚህም AI ደህንነቱ ያልተጠበቀ ኮድ ይጠቁማል። አብዛኛዎቹ ገንቢዎች የደህንነት ባለሞያዎች አይደሉም ፣ስለዚህ AI ምቹ መፍትሄን ከጠቆመ እንከን እንዳለበት ሳያውቁ በጭፍን ሊጠቀሙበት ይችላሉ ( 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። ይህ አሳሳቢ ጉዳይ እውነት ነው – በእውነቱ፣ AIን ለኮድ ማስቀመጫ ሲጠቀሙ እንደዚህ ያሉ የተለመዱ አደጋዎችን የሚዘረዝር ለኤልኤልኤም (ትላልቅ የቋንቋ ሞዴሎች) OWASP Top 10 ዝርዝር አሁን አለ።

እነዚህን ጉዳዮች ለመቋቋም ባለሙያዎች በኮዲንግ ግዛት ውስጥ "generative AI with generative AI ጋር መዋጋት" በተግባር፣ ያ ማለት ሌሎች AI (ወይም ሰዎች) የፃፉትን ኮድ ለመገምገም እና ለመሞከር አንድ AI ከሰው ኮድ ገምጋሚ ​​በበለጠ ፍጥነት በአዲስ ኮድ መቃኘት እና ሊከሰቱ የሚችሉ ተጋላጭነቶችን ወይም የሎጂክ ጉዳዮችን ሊያመለክት ይችላል። ከሶፍትዌር ልማት የሕይወት ዑደት ጋር የሚዋሃዱ መሣሪያዎችን ቀድሞውኑ አይተናል፡ ኮድ ይጻፋል (ምናልባትም በ AI እገዛ)፣ ከዚያም በአስተማማኝ የኮድ መርሆዎች ላይ የሰለጠነ አመንጪ ሞዴል ይገመግመዋል እና ማንኛውንም አሳሳቢ ጉዳዮችን ሪፖርት ያመነጫል (በማለት ፣ የተቋረጡ ተግባራትን መጠቀም ፣ የማረጋገጫ ቼኮች ይጎድላሉ ፣ ወዘተ)። ቀደም ሲል የተጠቀሰው የNVDIA ጥናት በኮድ ውስጥ 4× ፈጣን የተጋላጭነት ማወቂያን ለማግኘት AIን ደህንነቱ የተጠበቀ የኮድ ትንተና የመጠቀም ምሳሌ ነው ( 6 Use Cases for Generative AI in Cybersecurity [+ ምሳሌዎች] )

አስተማማኝ ውቅሮችን እና ስክሪፕቶችን ለመፍጠር ይረዳል ። ለምሳሌ፣ አንድ ኩባንያ ደህንነቱ የተጠበቀ የደመና መሠረተ ልማት ማሰማራት ከፈለገ፣ አንድ መሐንዲስ የውቅረት ስክሪፕቶችን (Infrastructure as Code) ከደህንነት ቁጥጥሮች ጋር (እንደ ትክክለኛው የአውታረ መረብ ክፍል፣ አነስተኛ ልዩ መብት IAM ሚናዎች) መጋገር እንዲፈጥርለት AI ሊጠይቀው ይችላል። AI፣ በሺዎች በሚቆጠሩ እንደዚህ ባሉ ውቅሮች ላይ የሰለጠነው፣ መሐንዲሱ ከዚያም በጥሩ ሁኔታ የሚቃኙበትን የመነሻ መስመር ማዘጋጀት ይችላል። ይህ ደህንነቱ የተጠበቀ የስርዓቶችን ማዋቀር ያፋጥናል እና የተሳሳተ ውቅር ስህተቶችን ይቀንሳል - የተለመደ የደመና ደህንነት ክስተቶች ምንጭ።

አንዳንድ ድርጅቶች ደህንነታቸው የተጠበቁ የኮድ አሰጣጥ ንድፎችን የእውቀት መሰረት ለመጠበቅ አመንጪ AIን እየጠቀሙ ነው። አንድ ገንቢ አንድን ባህሪ ደህንነቱ በተጠበቀ ሁኔታ እንዴት መተግበር እንዳለበት ካላወቀ፣ ከኩባንያው ካለፉት ፕሮጀክቶች እና የደህንነት መመሪያዎች የተማረ ውስጣዊ AI መጠየቅ ይችላሉ። AI የሚመከር አቀራረብን ወይም ከሁለቱም የተግባር መስፈርቶች እና የኩባንያው የደህንነት መመዘኛዎች ጋር የሚስማማ የኮድ ቅንጣቢ ሊመልስ ይችላል። Secureframe's Questionnaire Automation ባሉ መሳሪያዎች ጥቅም ላይ ውሏል ፣ እሱም ከኩባንያው ፖሊሲዎች እና ያለፉ መፍትሄዎች ተከታታይ እና ትክክለኛ ምላሾችን ለማረጋገጥ (በዋናነት ደህንነቱ የተጠበቀ ሰነዶችን ማመንጨት) ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ-ዓለም ምሳሌዎች )። ፅንሰ-ሀሳቡ ወደ ኮድ መስጠት ይተረጎማል፡ አንድን ነገር ከዚህ በፊት እንዴት ደህንነቱ በተጠበቀ ሁኔታ እንደተገበሩ “ያስታውሳቸዋል” እና እንደገና በዚያ መንገድ እንዲያደርጉት ይመራዎታል።

በማጠቃለያው፣ አመንጪ AI ደህንነቱ የተጠበቀ የኮድ ድጋፍን የበለጠ ተደራሽ በማድረግ ። ብዙ ብጁ ሶፍትዌሮችን የሚያመርቱ ኢንዱስትሪዎች - ቴክ፣ ፋይናንሺያል፣ መከላከያ፣ ወዘተ - ኮድ ማውጣትን ማፋጠን ብቻ ሳይሆን ሁልጊዜም ንቁ የሆነ የደህንነት ገምጋሚ ​​ሆነው AI ፓይለቶች በማግኘታቸው ተጠቃሚ ይሆናሉ። እነዚህ የ AI መሳሪያዎች በአግባቡ ሲተዳደሩ አዳዲስ ተጋላጭነቶችን ማስተዋወቅን ይቀንሳሉ እና የልማት ቡድኖች ምርጥ ተሞክሮዎችን እንዲከተሉ ያግዛሉ፣ ምንም እንኳን ቡድኑ በየደረጃው የሚሳተፍ የደህንነት ባለሙያ ባይኖረውም። ውጤቱ ከመጀመሪያው ቀን ጀምሮ ለሚሰነዘሩ ጥቃቶች የበለጠ ጠንካራ የሆነ ሶፍትዌር ነው።

የክስተት ምላሽ ድጋፍ

የሳይበር ደህንነት ክስተት ሲከሰት - የማልዌር ወረርሽኝ፣ የመረጃ ጥሰት ወይም የስርዓት ጥቃት ማቋረጥ - ጊዜው ወሳኝ ነው። የአደጋ ምላሽ (IR) ቡድኖችን በፍጥነት ለመያዝ እና ለማረም እና ተጨማሪ መረጃ በእጃቸው ጥቅም ላይ እየዋለ ነው ሀሳቡ AI በአደጋ ጊዜ አንዳንድ የምርመራ እና የሰነድ ሸክሞችን መሸከም እና አንዳንድ የምላሽ እርምጃዎችን ሊጠቁም ወይም በራስ-ሰር ሊያደርግ ይችላል።

በ IR ውስጥ የ AI ቁልፍ ሚና የእውነተኛ ጊዜ ትንተና እና ማጠቃለያ ። በክስተቱ መካከል፣ ምላሽ ሰጪዎች እንደ “አጥቂው እንዴት ገባ?” ፣ “የትኞቹ ስርዓቶች ተጎድተዋል?” እና "ምን ውሂብ ሊጣስ ይችላል?" . Generative AI ከተጎዱ ስርዓቶች የምዝግብ ማስታወሻዎችን፣ ማንቂያዎችን እና የፎረንሲክ መረጃዎችን መተንተን እና በፍጥነት ግንዛቤዎችን መስጠት ይችላል። ለምሳሌ፣ የማይክሮሶፍት ሴኩሪቲ ኮፒሎት ለአደጋ ምላሽ ሰጭ የተለያዩ ማስረጃዎችን (ፋይሎች፣ ዩአርኤሎች፣ የክስተት ምዝግብ ማስታወሻዎች) እንዲመገብ እና የጊዜ መስመር ወይም ማጠቃለያ እንዲጠይቅ ይፈቅዳል ( የማይክሮሶፍት ሴኩሪቲ ኮፒሎት የሳይበር ደህንነት አዲስ የ GPT-4 AI ረዳት | The Verge )። AI እንዲህ የሚል ምላሽ ሊሰጥ ይችላል፡- “ጥሰቱ የጀመረው በ10፡53 GMT ላይ ማልዌር ኤክስ በያዘ ለተጠቃሚው ጆንዶ በተላከ የማስገር ኢሜይል ነው። አንዴ ከተፈጸመ በኋላ፣ ማልዌር ከሁለት ቀናት በኋላ ወደ ጎን ወደ ፋይናንሺያል አገልጋይ ለመዘዋወር፣ መረጃ ወደ ሚሰበስብበት የጀርባ በር ፈጠረ። ይህንን ወጥነት ያለው ምስል ከሰዓታት ይልቅ በደቂቃ ውስጥ ማግኘቱ ቡድኑ በመረጃ ላይ የተመሰረተ ውሳኔዎችን እንዲወስድ (እንደ የትኞቹ ስርዓቶች እንደሚገለሉ) በጣም ፈጣን ያደርገዋል።

አመንጪ AI እንዲሁ የመያዣ እና የማስተካከያ እርምጃዎችን ሊጠቁም ። ለምሳሌ፣ አንድ የመጨረሻ ነጥብ በራንሰምዌር ከተበከለ፣ የ AI መሣሪያ ያንን ማሽን ለመለየት፣ የተወሰኑ መለያዎችን ለማሰናከል እና በፋየርዎል ላይ የታወቁ ተንኮል አዘል አይፒዎችን ለማገድ አንድ ስክሪፕት ወይም መመሪያዎችን ሊያመነጭ ይችላል። "በተፈጠረው ሁኔታ ላይ ተመስርተው ተገቢ እርምጃዎችን ወይም ስክሪፕቶችን ማመንጨት የሚችል" መሆኑን ገልጿል , የምላሽ የመጀመሪያ ደረጃዎችን በራስ ሰር በማስተካከል ( በሳይበር ደህንነት ውስጥ Generative AI ምንድን ነው? - Palo Alto Networks ). የደህንነት ቡድኑ በተጨናነቀበት ሁኔታ (በመቶዎች በሚቆጠሩ መሳሪያዎች ላይ የተንሰራፋ ጥቃት ይናገሩ)፣ AI እነዚህን እርምጃዎች አስቀድሞ በተፈቀደላቸው ሁኔታዎች ውስጥ በቀጥታ ሊፈጽም ይችላል፣ ይህም ሳይታክት እንደሚሰራ ጁኒየር ምላሽ ሰጪ ነው። ለምሳሌ፣ አንድ የ AI ወኪል ተበላሽተዋል ብሎ ያመነባቸውን ምስክርነቶችን በራስ ሰር ዳግም ማስጀመር ወይም ከክስተቱ መገለጫ ጋር የሚዛመዱ ተንኮል አዘል እንቅስቃሴዎችን የሚያሳዩ አስተናጋጆችን ማግለል ይችላል።

በአደጋ ምላሽ ወቅት፣ በቡድኑ ውስጥ እና ለባለድርሻ አካላት መግባባት አስፈላጊ ነው። በበረራ ላይ የአደጋ ማሻሻያ ሪፖርቶችን ወይም አጭር መግለጫዎችን በማዘጋጀት ሊረዳ ይችላል ። አንድ መሐንዲስ የኢሜል ማሻሻያ ለመጻፍ መላ መፈለጊያቸውን ከማቆም ይልቅ፣ “ለአስፈጻሚዎቹ ለማሳወቅ እስካሁን በዚህ ክስተት ምን እንደተፈጠረ ጠቅለል አድርጉ” በማለት AIን ሊጠይቁ ይችላሉ። AI፣ የአደጋውን መረጃ ከወሰደ በኋላ አጭር ማጠቃለያ ሊያቀርብ ይችላል፡- “ከምሽቱ 3 ሰዓት ጀምሮ አጥቂዎች 2 የተጠቃሚ መለያዎችን እና 5 አገልጋዮችን ደርሰዋል። የተጎዳው መረጃ የደንበኛ መዝገቦችን በመረጃ ቋት ውስጥ ያካትታል X. የመያዣ እርምጃዎች፡ የተበላሹ አካውንቶች የቪፒኤን መዳረሻ ተሰርዟል እና ሰርቨሮች ተገለሉ። ቀጣይ እርምጃዎች፡ ማንኛውንም የመቆየት ዘዴዎችን በመቃኘት ላይ። ከዚያም ምላሽ ሰጪው ይህንን በፍጥነት በማጣራት ወይም በማስተካከል መላክ ይችላል፣ ይህም ባለድርሻ አካላት ከትክክለኛና እስከ ደቂቃው የሚደርስ መረጃ በማግኘት እንዲጠበቁ ማድረግ።

አቧራው ከረጋ በኋላ፣ በተለምዶ የሚዘጋጀው ዝርዝር ክስተት ሪፖርት እና ለመጠናቀር የተማሩ ትምህርቶች አሉ። ይህ የ AI ድጋፍ የሚያበራበት ሌላ ቦታ ነው. የስር መንስኤን፣ የዘመን አቆጣጠርን፣ ተፅእኖን እና ምክሮችን የሚሸፍን ሪፖርት ማመንጨት ይችላል ለምሳሌ IBM ጀነሬቲቭ AIን በማዋሃድ "ቀላል የደህንነት ጉዳዮችን እና ከባለድርሻ አካላት ጋር ሊጋሩ የሚችሉ ክስተቶችን" አንድ ቁልፍን በመጫን ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 እውነተኛ የአለም ምሳሌዎች )። ከድርጊት በኋላ ሪፖርት ማድረግን በማሳለጥ፣ ድርጅቶች ማሻሻያዎችን በፍጥነት መተግበር እና እንዲሁም ለተገዢነት ዓላማዎች የተሻሉ ሰነዶች ሊኖራቸው ይችላል።

አንድ ፈጠራ ወደፊት የሚመለከት አጠቃቀም በ AI-ተኮር የክስተት ማስመሰያዎች ። አንድ ሰው የእሳት አደጋ መሰርሰሪያን እንዴት እንደሚያካሂድ ተመሳሳይ፣ አንዳንድ ኩባንያዎች “ምን ከሆነ” የአደጋ ሁኔታዎችን ለማካሄድ አመንጪ AI እየተጠቀሙ ነው። ኤአይኤው ከአውታረ መረቡ አቀማመጥ አንፃር አንድ ራንሰምዌር እንዴት እንደሚሰራጭ ወይም የውስጥ አዋቂ እንዴት መረጃን እንደሚያሳድግ እና የአሁኑን የምላሽ ዕቅዶች ውጤታማነት ሊያስመዘግብ ይችላል። ይህ ቡድኖች አንድ እውነተኛ ክስተት ከመከሰቱ በፊት የመጫወቻ መጽሐፍትን ለማዘጋጀት እና ለማጣራት ይረዳል። ዝግጁነትዎን ያለማቋረጥ የሚፈትሽ ሁሌም የሚያሻሽል የአደጋ ምላሽ አማካሪ እንደማግኘት ነው።

እንደ ፋይናንስ ወይም ጤና አጠባበቅ ባሉ ከፍተኛ ደረጃ ላይ ባሉ ኢንዱስትሪዎች ውስጥ፣ የአደጋ ጊዜ ወይም የውሂብ መጥፋት በተለይ ውድ በሆነባቸው፣ እነዚህ በ AI የሚመሩ የ IR ችሎታዎች በጣም ማራኪ ናቸው። የሳይበር ችግር ያጋጠመው ሆስፒታል የረዥም ጊዜ የስርአት መቋረጥን ሊከፍል አይችልም - በፍጥነት ለመያዝ የሚረዳ AI ቃል በቃል ህይወት አድን ሊሆን ይችላል። በተመሳሳይ ሁኔታ አንድ የፋይናንስ ተቋም በ 3 AM ላይ የተጠረጠረውን የማጭበርበር ጣልቃ ገብነት የመጀመሪያ ደረጃ ለመቆጣጠር AI ን ሊጠቀም ይችላል, ስለዚህም በጥሪው ላይ ሰዎች በመስመር ላይ በሚሆኑበት ጊዜ, ብዙ መሰረታዊ ስራዎች (የተጎዱ ሂሳቦችን ማቋረጥ, ግብይቶችን ማገድ, ወዘተ) ቀድሞውኑ ተከናውኗል. የአደጋ ምላሽ ቡድኖችን በጄነሬቲቭ AI በመጨመር ድርጅቶች የምላሽ ጊዜን በእጅጉ ሊቀንሱ እና የአያያዝ አጠባበቅን ማሻሻል እና በመጨረሻም በሳይበር አደጋዎች ላይ የሚደርሰውን ጉዳት መቀነስ ይችላሉ።

የባህሪ ትንታኔ እና ያልተለመደ ማወቂያ

ብዙ የሳይበር ጥቃቶች አንድ ነገር "ከመደበኛ" ባህሪ ሲያፈነግጥ - የተጠቃሚ መለያም ይሁን ያልተለመደ መጠን ያለው ውሂብ ሲያወርድ ወይም የአውታረ መረብ መሳሪያ ከማያውቀው አስተናጋጅ ጋር ሲገናኝ በማየት ሊያዙ ይችላሉ። ለባህሪ ትንተና እና ያልተለመዱ ነገሮችን ለመለየት የላቁ ቴክኒኮችን ያቀርባል የተጠቃሚዎችን እና ስርዓቶችን መደበኛ ንድፎችን ይማራል እና የሆነ ነገር በሚመስል ጊዜ ይጠቁሙ።

ተለምዷዊ ያልተለመዱ ነገሮችን ማግኘቱ ብዙ ጊዜ እስታቲስቲካዊ ጣራዎችን ወይም ቀላል የማሽን ትምህርትን በተወሰኑ መለኪያዎች (የሲፒዩ አጠቃቀም ስፒሎች፣ ባልተለመደ ሰዓት መግባት፣ ወዘተ) ይጠቀማል። ጄነሬቲቭ AI የበለጠ የተደነቁ የባህሪ መገለጫዎችን በመፍጠር ይህንን የበለጠ ሊወስድ ይችላል። ለምሳሌ፣ የ AI ሞዴል የሰራተኛውን መግቢያዎች፣ የፋይል መዳረሻ ቅጦችን እና የኢሜይል ልማዶችን በጊዜ ሂደት ሊያስገባ እና የተጠቃሚውን “መደበኛ” ሁለገብ ግንዛቤ መፍጠር ይችላል። ያ መለያ በኋላ ከመደበኛው ውጭ የሆነ ነገር ካደረገ (እንደ ከአዲስ ሀገር መግባት እና እኩለ ሌሊት ላይ የ HR ፋይሎችን ማግኘት) ፣ AI በአንድ ሜትሪክ ላይ ብቻ ሳይሆን እንደ አጠቃላይ የተጠቃሚውን መገለጫ የማይመጥን የባህሪ ስርዓት መዛባትን ይገነዘባል። በቴክኒካዊ አገላለጽ፣ አመንጪ ሞዴሎች (እንደ autoencoders ወይም ተከታታይ ሞዴሎች) “የተለመደ” ምን እንደሚመስል ሞዴል ማድረግ እና ከዚያ የሚጠበቀውን የባህሪ ክልል መፍጠር ይችላሉ። እውነታው ከዚያ ክልል ውጭ ሲወድቅ፣ እንደ ያልተለመደ ምልክት ነው ( Generative AI በሳይበር ደህንነት ውስጥ ምንድን ነው? - Palo Alto Networks )።

አንድ ተግባራዊ ትግበራ በኔትወርክ ትራፊክ ቁጥጥር . እ.ኤ.አ. በ 2024 በተደረገ ጥናት መሠረት 54% የአሜሪካ ድርጅቶች የአውታረ መረብ ትራፊክን መከታተል ለ AI በሳይበር ደህንነት ( ሰሜን አሜሪካ: ከፍተኛ AI አጠቃቀም በሳይበር ደህንነት ዓለም አቀፍ 2024 ) አድርገው ጠቅሰዋል። Generative AI የኢንተርፕራይዝ ኔትዎርክ መደበኛ የግንኙነት ዘይቤዎችን መማር ይችላል - የትኞቹ ሰርቨሮች በተለምዶ እርስ በርሳቸው እንደሚነጋገሩ፣ ምን ያህል የውሂብ መጠን በስራ ሰዓት ይንቀሳቀሳሉ እና በአንድ ሌሊት ይንቀሳቀሳሉ ፣ ወዘተ. አንድ አጥቂ መረጃን ከአገልጋዩ ላይ ማሰራጨት ከጀመረ ፣ እንዳይታወቅም በዝግታ ፣ AI ላይ የተመሠረተ ስርዓት “አገልጋይ A በጭራሽ 500 ሜባ መረጃ በ 2 AM ላይ ወደ ማሳወቂያ አይፒ አይልክም” እና ሊያውቅ ይችላል። ምክንያቱም AI የማይንቀሳቀሱ ህጎችን ብቻ ሳይሆን እየተሻሻለ የመጣ የአውታረ መረብ ባህሪ ሞዴል ስለሆነ፣ የማይንቀሳቀሱ ህጎች (እንደ “መረጃ ከሆነ ማንቂያ > X ሜባ”) ሊያመልጡ ወይም በስህተት ሊጠቁሙ የሚችሉ ስውር ያልተለመዱ ነገሮችን ሊይዝ ይችላል። ይህ የመላመድ ተፈጥሮ በ AI የሚነዳ ያልተለመደ ማወቂያን እንደ የባንክ ግብይት ኔትወርኮች፣ የደመና መሠረተ ልማት፣ ወይም IoT መሣሪያ መርከቦች ባሉ አካባቢዎች ላይ ጠንካራ የሚያደርገው ለመደበኛ እና ያልተለመደ ቋሚ ደንቦችን መግለጽ እጅግ በጣም የተወሳሰበ ነው።

በተጠቃሚ ባህሪ ትንታኔ (UBA) እገዛ እያደረገ ነው ፣ ይህም የውስጥ ዛቻዎችን ወይም የተጠለፉ መለያዎችን ለመለየት ቁልፍ ነው። የእያንዳንዱን ተጠቃሚ ወይም አካል መነሻ መስመር በማመንጨት AI እንደ ምስክርነት አላግባብ መጠቀም ያሉ ነገሮችን መለየት ይችላል። ለምሳሌ፣ ቦብ ከሂሳብ አያያዝ በድንገት የደንበኞችን ዳታቤዝ መጠየቅ ከጀመረ (ከዚህ በፊት ያላደረገው ነገር)፣ የቦብ ባህሪ የ AI ሞዴል ይህን ያልተለመደ እንደሆነ ይጠቁማል። ምናልባት ማልዌር ላይሆን ይችላል - የቦብ ምስክርነቶች በአጥቂ የተሰረቀ እና የተጠቀመበት ወይም ቦብ በማይገባው ቦታ የመመርመር ጉዳይ ሊሆን ይችላል። ያም ሆነ ይህ፣ የደህንነት ቡድኑ ለማጣራት መሪ ያገኛል። እንደነዚህ ያሉት በ AI የሚንቀሳቀሱ የ UBA ስርዓቶች በተለያዩ የደህንነት ምርቶች ውስጥ ይገኛሉ, እና የጄኔሬቲቭ ሞዴሊንግ ቴክኒኮች ትክክለኛነትን ከፍ በማድረግ እና አውድ በማሰብ የውሸት ማንቂያዎችን እየቀነሱ ነው (ምናልባት ቦብ በልዩ ፕሮጀክት ላይ ነው, ወዘተ, AI አንዳንድ ጊዜ ከሌላ መረጃ ሊረዳ ይችላል).

በማንነት እና በመዳረሻ አስተዳደር ውስጥ፣ ጥልቅ ሀሰተኛ ፍለጋ እያደገ ፍላጎት ነው - አመንጪ AI ሰው ሰራሽ ድምጾችን እና የባዮሜትሪክ ደህንነትን የሚያታልሉ ቪዲዮዎችን መፍጠር ይችላል። የሚገርመው፣ አመንጪ ኤአይ (ኤአይኤ) እንዲሁ ለሰው ልጆች ሊገነዘቡት የሚከብዱ ስውር ቅርሶችን በድምጽ ወይም በምስል በመተንተን እነዚህን ጥልቅ ሐሰቶች ለማወቅ ይረዳል። እውነተኛ ተጠቃሚዎችን ከ AI ከተፈጠሩ ጥልቅ ሀሰቶች ለመለየት ባዮሜትሪክ ስርዓቶቻቸውን ለማሰልጠን ስፍር ቁጥር የሌላቸውን የፊት ገጽታዎችን እና ሁኔታዎችን ለማስመሰል አመንጪ AIን የተጠቀመ ከAccenture ጋር አንድ ምሳሌ አይተናል። ከአምስት ዓመታት በላይ፣ ይህ አካሄድ Accenture የይለፍ ቃሎችን ለ90% ስርዓቱ እንዲያጠፋ (ወደ ባዮሜትሪክስ እና ሌሎች ምክንያቶች) እና ጥቃቶችን በ60% እንዲቀንስ ረድቶታል ( 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። በመሰረቱ፣ የባዮሜትሪክ ማረጋገጫን ለማጠናከር አመንጪ AIን ተጠቅመዋል፣ ይህም ከጄነሬቲቭ ጥቃቶች የመቋቋም አቅም እንዲኖረው አድርጎታል (የ AI መዋጋት ታላቅ ምሳሌ)። የዚህ ዓይነቱ የባህሪ ሞዴሊንግ - በዚህ ሁኔታ በሰው ፊት እና በአይ-የተሰራ ሰው መካከል ያለውን ልዩነት ማወቅ - በማረጋገጫ በ AI ላይ የበለጠ የምንታመንበት ጊዜ ወሳኝ ነው።

በጄኔሬቲቭ AI የተጎላበተ ያልተለመደ ማግኘቱ በሁሉም ኢንዱስትሪዎች ውስጥ ተግባራዊ ይሆናል፡ በጤና እንክብካቤ፣ ለጠለፋ ምልክቶች የህክምና መሳሪያ ባህሪን መከታተል፣ በፋይናንስ ውስጥ, ማጭበርበርን ወይም አልጎሪዝምን ሊያመለክቱ የሚችሉ መደበኛ ያልሆኑ ቅጦች የግብይት ስርዓቶችን መመልከት; በሃይል / መገልገያዎች ውስጥ, የቁጥጥር ስርዓት ምልክቶችን ለጠለፋ ምልክቶች መከበር. የወርድ (ሁሉንም የባህሪይ ገፅታዎች መመልከት) እና ጥልቀት (ውስብስብ ንድፎችን መረዳት) የሳይበር ክስተትን መርፌ-ውስጥ-ሀይስታክ ጠቋሚዎችን ለመለየት የሚያስችል ጠንካራ መሳሪያ ያደርገዋል። ዛቻዎች ይበልጥ ስርቆት እየሆኑ ሲሄዱ፣ በመደበኛ ስራዎች መካከል ተደብቀው፣ ይህ በትክክል “የተለመደ” የመለየት ችሎታ እና የሆነ ነገር ሲጠፋ መጮህ አስፈላጊ ይሆናል። ጄኔሬቲቭ AI ስለዚህ ደከመኝ ሰለቸኝ ሳይል ሴንሪ ሆኖ ያገለግላል፣ ሁልጊዜም የመደበኛነት ፍቺውን ይማራል እና ያዘምናል ከአካባቢው ለውጦች ጋር ለመራመድ፣ እና የደህንነት ቡድኖችን በቅርብ መመርመር የሚገባቸውን ያልተለመዱ ነገሮችን ያሳውቃል።

በሳይበር ደህንነት ውስጥ የጄነሬቲቭ AI እድሎች እና ጥቅሞች

በሳይበር ደህንነት ውስጥ የጄነሬቲቭ AI መተግበሪያ እነዚህን መሳሪያዎች ለመቀበል ፈቃደኛ ለሆኑ ድርጅቶች እድሎችን እና ጥቅሞችን ከዚህ በታች፣ አመንጪ AI ለሳይበር ደህንነት ፕሮግራሞች አስገዳጅ ተጨማሪ የሚያደርጉትን ቁልፍ ጥቅሞች ጠቅለል አድርገን እናቀርባለን።

• ፈጣን ስጋትን ማወቅ እና ምላሽ ፡ Generative AI ሲስተሞች እጅግ በጣም ብዙ የሆኑ መረጃዎችን በቅጽበት መተንተን እና ዛቻዎችን ከሰው ልጅ ትንተና በበለጠ ፍጥነት ማወቅ ይችላሉ። ይህ የፍጥነት ጥቅም ቀደም ብሎ ጥቃቶችን መለየት እና ፈጣን የአደጋ መከላከል ማለት ነው። በተግባር፣ በኤአይአይ የሚመራ የደህንነት ክትትል ሰዎችን ለማገናኘት ብዙ ጊዜ የሚወስድባቸውን ስጋቶች ሊይዝ ይችላል። ለአደጋዎች በፍጥነት ምላሽ በመስጠት (ወይም በራስ ገዝ የመጀመሪያ ምላሾችን በመፈጸም) ድርጅቶች በኔትወርካቸው ውስጥ ያሉትን አጥቂዎች የሚቆዩበትን ጊዜ በሚያስደንቅ ሁኔታ በመቀነስ ጉዳቱን መቀነስ ይችላሉ።

• የተሻሻለ ትክክለኛነት እና የዛቻ ሽፋን ፡ ከአዳዲስ መረጃዎች ያለማቋረጥ ስለሚማሩ፣ አመንጪ ሞዴሎች ከተፈጠሩ ስጋቶች ጋር መላመድ እና የተንኮል አዘል እንቅስቃሴ ምልክቶችን ሊያገኙ ይችላሉ። ይህ ከስታቲስቲክ ህጎች ጋር ሲነፃፀር ወደ የተሻሻለ የመለየት ትክክለኛነት (ያነሰ የውሸት አሉታዊ እና የውሸት አወንታዊ) ይመራል። ለምሳሌ፣ የአስጋሪ ኢሜይል ወይም የማልዌር ባህሪ ምልክቶችን የተማረ AI ከዚህ በፊት ታይተው የማያውቁ ልዩነቶችን መለየት ይችላል። ውጤቱም ሰፋ ያለ የአደጋ ዓይነቶች ሽፋን ነው - ልብ ወለድ ጥቃቶችን ጨምሮ - አጠቃላይ የደህንነት ሁኔታን ያጠናክራል። የደህንነት ቡድኖች እንዲሁም ከ AI ትንታኔ (ለምሳሌ የማልዌር ባህሪ ማብራሪያዎች)፣ የበለጠ ትክክለኛ እና የታለሙ መከላከያዎችን በማንቃት ( Generative AI in Cybersecurity ምንድን ነው? - Palo Alto Networks ) ዝርዝር ግንዛቤዎችን ያገኛሉ።

• ተደጋጋሚ ተግባራትን በራስ ሰር መስራት ፡ Generative AI የዕለት ተዕለት ተግባርን፣ ጉልበትን የሚጠይቁ የደህንነት ስራዎችን በራስ ሰር በማዘጋጀት የላቀ ነው - ምዝግብ ማስታወሻዎችን ከማጣመር እና ሪፖርቶችን ከማሰባሰብ እስከ የአደጋ ምላሽ ስክሪፕቶች መጻፍ ድረስ። ይህ አውቶማቲክ በሰው ተንታኞች ላይ ያለውን ሸክም ይቀንሳል , በከፍተኛ ደረጃ ስትራቴጂ እና ውስብስብ ውሳኔ አሰጣጥ ላይ እንዲያተኩሩ ነፃ ያደርጋቸዋል ( በሳይበር ደህንነት ውስጥ Generative AI ምንድን ነው? - Palo Alto Networks ). እንደ የተጋላጭነት መቃኘት፣ የውቅረት ኦዲት፣ የተጠቃሚ እንቅስቃሴ ትንተና እና ተገዢነት ሪፖርት ማድረግ ያሉ ጠቃሚ ግን አስፈላጊ ስራዎች በ AI ሊያዙ ይችላሉ (ወይም ቢያንስ በመጀመሪያ የተቀረጸ)። እነዚህን ስራዎች በማሽን ፍጥነት በማስተናገድ, AI ቅልጥፍናን ከማሻሻል በተጨማሪ የሰዎችን ስህተት ይቀንሳል (በጥሰቶች ውስጥ ጉልህ የሆነ ምክንያት).

• አስቀድሞ መከላከል እና ማስመሰል ፡ Generative AI ድርጅቶችን ከአጸፋዊ ወደ ንቁ ደህንነት እንዲሸጋገሩ ያስችላቸዋል። በገሃዱ አለም ከመከሰታቸው በፊት አስቀድሞ መገመት እና ለዛቻ መዘጋጀት ይችላሉ የደህንነት ቡድኖች የሳይበር ጥቃቶችን (የአስጋሪ ዘመቻዎች፣ የማልዌር ወረርሽኞች፣ DDoS፣ ወዘተ) በአስተማማኝ አከባቢዎች ምላሾቻቸውን ለመፈተሽ እና ማንኛውንም ድክመቶች ለማስመሰል ይችላሉ። ይህ ያልተቋረጠ ስልጠና፣ ብዙውን ጊዜ በሰዎች ጥረት ብቻ በደንብ ለመስራት የማይቻል ሲሆን መከላከያዎችን በሰላማዊ እና ወቅታዊ ያደርገዋል። እሱ ከሳይበር “የእሳት መሰርሰሪያ” ጋር ተመሳሳይ ነው - AI ብዙ መላምታዊ ዛቻዎችን በመከላከያዎ ላይ ሊጥል ስለሚችል እርስዎ እንዲለማመዱ እና እንዲሻሻል።

• የሰው ልምድን መጨመር (AI እንደ ሃይል ማባዛት) ፡ Generative AI እንደ ደከመኝ ሰለቸኝ ሳይሉ ጀማሪ ተንታኝ፣ አማካሪ እና ረዳት ሆኖ ይሰራል። ልምድ የሌላቸውን የቡድን አባላት መመሪያ እና ምክሮችን በተለምዶ ልምድ ካካበቱ ባለሙያዎች ሊሰጥ ይችላል፣ ይህም በቡድኑ ውስጥ ያሉ ባለሙያዎችን በብቃት ዲሞክራሲያዊ ማድረግ 6 Use Cases for Generative AI in Cybersecurity [+ Examples] )። ይህ በተለይ በሳይበር ደህንነት ውስጥ ካለው የችሎታ እጥረት አንፃር በጣም ጠቃሚ ነው - AI ትናንሽ ቡድኖች በትንሽ ነገር የበለጠ እንዲሰሩ ይረዳል። ልምድ ያካበቱ ተንታኞች በአይአይ ጩኸት ስራን በመያዝ እና ግልጽ ያልሆኑ ግንዛቤዎችን በማሳየት ይጠቀማሉ። አጠቃላይ ውጤቱ እጅግ በጣም ውጤታማ እና አቅም ያለው የደህንነት ቡድን ነው, AI የእያንዳንዱን ሰው አባል ተጽእኖ በማጉላት ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል ).

• የተሻሻለ የውሳኔ ድጋፍ እና ሪፖርት ማድረግ ፡ ቴክኒካዊ መረጃዎችን ወደ ተፈጥሯዊ ቋንቋ ግንዛቤዎች በመተርጎም፣ አመንጪ AI ግንኙነትን እና ውሳኔ አሰጣጥን ያሻሽላል። የደህንነት መሪዎች በ AI በመነጩ ማጠቃለያዎች ለጉዳዮች የበለጠ ግልፅ ታይነትን ያገኛሉ እና ጥሬ መረጃን መተንተን ሳያስፈልጋቸው በመረጃ ላይ የተመሰረተ ስልታዊ ውሳኔዎችን ሊወስኑ ይችላሉ። በተመሳሳይ መልኩ, ተሻጋሪ ግንኙነት (ለአስፈፃሚዎች, የታዛዥነት ኃላፊዎች, ወዘተ.) AI በቀላሉ ለመረዳት ቀላል የሆኑ የደህንነት አቀማመጥ እና ክስተቶችን ሪፖርቶችን ሲያዘጋጅ ይሻሻላል ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች ). ይህ በአመራር ደረጃ በፀጥታ ጉዳዮች ላይ መተማመንን እና አሰላለፍ ብቻ ሳይሆን አደጋዎችን እና በ AI የተገኙ ክፍተቶችን በግልፅ በማስቀመጥ ኢንቨስትመንቶችን እና ለውጦችን ለማረጋገጥ ይረዳል።

በጥምረት፣ እነዚህ ጥቅሞች ማለት በሳይበር ደህንነት ውስጥ አመንጪ AIን የሚጠቀሙ ድርጅቶች ዝቅተኛ የስራ ማስኬጃ ወጪዎች ጋር ጠንካራ የደህንነት አቋም ሊያገኙ ይችላሉ ማለት ነው። ከዚህ ቀደም ለአስደናቂ ዛቻ ምላሽ መስጠት፣ ክትትል ያልተደረገባቸውን ክፍተቶች መሸፈን እና በ AI-የሚነዱ የግብረመልስ ምልልሶች ያለማቋረጥ ማሻሻል ይችላሉ። የዘመናዊ ጥቃቶችን ፍጥነት፣ ሚዛን እና ውስብስብነት በማዛመድ ከጠላቶች ለመቅደም እድል ይሰጣል አንድ ጥናት እንዳመለከተው፣ ከግማሽ በላይ የሚሆኑት የቢዝነስ እና የሳይበር መሪዎች ፈጣን ስጋትን ፈልጎ ማግኘት እና ትክክለኛነትን በጄኔሬቲቭ AI ( [PDF] Global Cybersecurity Outlook 2025 | World Economic Forum ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ) - የእነዚህ ቴክኖሎጂዎች ጥቅሞች ዙሪያ ያለውን ብሩህ ተስፋ የሚያሳይ ነው።

በሳይበር ደህንነት ውስጥ Generative AI የመጠቀም አደጋዎች እና ተግዳሮቶች

እድሎቹ ጠቃሚ ቢሆኑም፣ በሳይበር ደህንነት ውስጥ ለሚያጋጥሟቸው አደጋዎች እና ተግዳሮቶች ። አይአይን በጭፍን ማመን ወይም አላግባብ መጠቀም አዳዲስ ተጋላጭነቶችን ሊያስተዋውቅ ይችላል። ከዚህ በታች፣ ዋና ዋና ስጋቶችን እና ወጥመዶችን እናቀርባለን፣ ከእያንዳንዳቸው አውድ ጋር፡-

• በሳይበር ወንጀለኞች የተጋላጭነት አጠቃቀም ፡ ተከላካዮችን የሚረዳቸው ተመሳሳይ የማመንጨት አቅሞች አጥቂዎችን ሊያበረታቱ ይችላሉ። አስጊ ተዋናዮች ቀድሞውኑ የበለጠ አሳማኝ የማስገር ኢሜይሎችን ለመስራት፣ የውሸት ግለሰቦችን እና ጥልቅ ሀሰተኛ ቪዲዮዎችን ለማህበራዊ ምህንድስና ለመስራት፣ ፖሊሞፈርፊክ ማልዌርን በማዳበር እና እንዳይታወቅ ለማድረግ በየጊዜው የሚለዋወጠውን ማልዌር ለማዳበር እና የጠለፋ ገጽታዎችን ( Generative AI በሳይበር ደህንነት ውስጥ ምንድነው? - Palo Alto Networks ) ቀድሞውንም ቢሆን Generative AI እየተጠቀሙ ነው። ወደ ግማሽ የሚጠጉ (46%) የሳይበር ደህንነት መሪዎች አመንጪ AI የበለጠ የላቀ የጠላት ጥቃቶችን ያስከትላል ( የጄኔሬቲቭ AI ደህንነት: አዝማሚያዎች, ማስፈራሪያዎች እና የመቀነስ ስትራቴጂዎች ) ያሳስባቸዋል. ይህ “AI የጦር እሽቅድምድም” ማለት ተከላካዮች AIን ሲቀበሉ አጥቂዎች ከኋላ አይሆኑም (በእርግጥ፣ ቁጥጥር ያልተደረገባቸው የኤአይአይ መሳሪያዎችን በመጠቀም በአንዳንድ አካባቢዎች ሊቀድሙ ይችላሉ)። ድርጅቶች ለ AI-የተሻሻሉ ማስፈራሪያዎች ተደጋግመው መዘጋጀት አለባቸው, ውስብስብ, እና ለመፈለግ አስቸጋሪ.

• የ AI ቅዠቶች እና ትክክለኛ አለመሆን አሳማኝ ነገር ግን የተሳሳተ ወይም አሳሳች ውጤቶችን ሊያመጡ ይችላሉ - ቅዠት በመባል የሚታወቀው ክስተት። በደህንነት አውድ ውስጥ፣ AI አንድን ክስተት ተንትኖ በስህተት የተወሰነ ተጋላጭነት መንስኤ ነው ብሎ መደምደም ወይም ጥቃትን መያዝ ያልቻለው የተሳሳተ የማሻሻያ ስክሪፕት ሊያመጣ ይችላል። እነዚህ ስህተቶች በትክክለኛ ዋጋ ከተወሰዱ አደገኛ ሊሆኑ ይችላሉ. ኤንቲቲ ዳታ እንዳስጠነቀቀው፣ “የጄነሬቲቭ AI እውነተኛ ያልሆነ ይዘትን በአሳማኝ ሁኔታ ሊያወጣ ይችላል፣ እና ይህ ክስተት ቅዠት ተብሎ ይጠራል… በአሁኑ ጊዜ እነሱን ሙሉ በሙሉ ለማስወገድ ከባድ ነው” ( የደህንነት ስጋት ኦፍ ጄኔሬቲቭ AI እና Countermeasures፣ እና በሳይበር ደህንነት ላይ ያለው ተጽእኖ | NTT DATA ቡድን )። ያለ ማረጋገጫ በ AI ላይ ከመጠን በላይ መታመን ወደ የተሳሳቱ ጥረቶች ወይም የተሳሳተ የደህንነት ስሜት ሊመራ ይችላል። ለምሳሌ፣ አንድ AI ወሳኝ ስርዓት በማይሆንበት ጊዜ ደህንነቱ የተጠበቀ እንደሆነ በውሸት ሊጠቁም ይችላል፣ ወይም በተቃራኒው በጭራሽ ያልተከሰተ ጥሰትን “በማግኘት” ሽብር ሊፈጥር ይችላል። ይህንን አደጋ ለመቅረፍ የኤአይአይ ውጤቶችን ጥብቅ ማረጋገጥ እና ሰዎችን ወሳኝ ውሳኔዎችን እንዲያደርጉ ማድረግ አስፈላጊ ነው።

• የውሸት አዎንታዊ እና አሉታዊ ነገሮች ፡ ከቅዠት ጋር በተገናኘ፣ አንድ AI ሞዴል በደንብ ያልሰለጠነ ወይም የተዋቀረ ከሆነ፣ ጥሩ እንቅስቃሴን እንደ ተንኮል አዘል (ውሸት አወንታዊ) ሪፖርት ሊያደርግ ወይም ይባስ ብሎ እውነተኛ ማስፈራሪያዎችን (ውሸት አሉታዊ ጎኖችን) ( Generative AI እንዴት በሳይበር ደህንነት ውስጥ መጠቀም ይቻላል )። ከመጠን በላይ የውሸት ማንቂያዎች የደህንነት ቡድኖችን ያጨናነቁ እና ወደ ማንቂያ ድካም ይመራሉ ( AI ቃል የተገባለትን የውጤታማነት ትርፍ መቀልበስ) ያመለጡ ምርመራዎች ድርጅቱን ያጋልጣሉ። አመንጪ ሞዴሎችን ለትክክለኛው ሚዛን ማስተካከል ፈታኝ ነው። እያንዳንዱ አካባቢ ልዩ ነው፣ እና AI ወዲያውኑ ከሳጥን ውጭ በጥሩ ሁኔታ ላይሰራ ይችላል። ቀጣይነት ያለው ትምህርትም ባለ ሁለት አፍ ጎራዴ ነው - AI ከተዛባ ግብረመልስ ወይም ከተቀየረ አካባቢ የሚማር ከሆነ ትክክለኛነቱ ሊለዋወጥ ይችላል። የደህንነት ቡድኖች የ AI አፈጻጸምን መከታተል እና ገደቦችን ማስተካከል ወይም ለሞዴሎቹ የማስተካከያ ግብረመልስ መስጠት አለባቸው። በከፍተኛ ሁኔታ ውስጥ ባሉ አውዶች (እንደ ወሳኝ መሠረተ ልማት ውስጥ ጣልቃ መግባትን እንደ መለየት) የ AI ጥቆማዎችን ከግጭት ይልቅ እንዲጣጣሙ እና እንዲሟሉ ለማድረግ ለተወሰነ ጊዜ ከነባር ስርዓቶች ጋር በትይዩ ማስኬድ ብልህነት ሊሆን ይችላል።

• የውሂብ ግላዊነት እና መፍሰስ ፡ አመንጪ AI ሲስተሞች ብዙ ጊዜ ለስልጠና እና ለስራ ብዙ መጠን ያለው መረጃ ያስፈልጋቸዋል። እነዚህ ሞዴሎች በደመና ላይ የተመረኮዙ ከሆኑ ወይም በትክክል ያልተሸፈኑ ከሆኑ ሚስጥራዊነት ያለው መረጃ ሊወጣ የሚችልበት አደጋ አለ። ተጠቃሚዎች ባለማወቅ የባለቤትነት ውሂብን ወይም የግል ውሂብን ወደ AI አገልግሎት ሊመግቡ ይችላሉ ( ChatGPT ሚስጥራዊ የሆነ የክስተት ሪፖርት እንዲያጠቃልል ይጠይቁ) እና ያ መረጃ የአምሳያው እውቀት አካል ሊሆን ይችላል። በእርግጥ፣ በቅርብ ጊዜ የተደረገ ጥናት 55% የሚሆነው ለጄነሬቲቭ AI መሳሪያዎች ግብአቶች ሚስጥራዊነት ያለው ወይም በግል ሊለይ የሚችል መረጃን እንደያዙ ፣ይህም በመረጃ መጥፋት ላይ አሳሳቢ ስጋት ፈጥሯል ( Generative AI Security: Trends, Threats & Mitigation Strategies )። በተጨማሪም፣ አንድ AI በውስጥ ውሂብ ላይ የሰለጠነ ከሆነ እና በተወሰኑ መንገዶች ከተጠየቀ፣ የዚያን ሚስጥራዊነት ያለው መረጃ ለሌላ ሰው ሊያወጣ ድርጅቶች ጥብቅ የመረጃ አያያዝ ፖሊሲዎችን መተግበር አለባቸው (ለምሳሌ በግቢው ላይ ወይም የግል AI ምሳሌዎችን ለስሜታዊ ነገሮች መጠቀም) እና ሰራተኞች ሚስጥራዊ መረጃን በይፋዊ AI መሳሪያዎች ላይ እንዳይለጥፉ ማስተማር አለባቸው። የግላዊነት ደንቦች (ጂዲፒአር, ወዘተ.) እንዲሁ ይሠራሉ - ያለአግባብ ፈቃድ ወይም ጥበቃ AIን ለማሰልጠን የግል መረጃን መጠቀም ከህጎች ጋር የሚጋጭ ሊሆን ይችላል.

• የሞዴል ደህንነት እና መጠቀሚያ ፡ የጄነሬቲቭ AI ሞዴሎች እራሳቸው ኢላማ ሊሆኑ ይችላሉ። የተሳሳቱ ንድፎችን እንዲማር ሞዴል መመረዝ ሊሞክሩ ይችላሉ ። ለምሳሌ፣ አንድ አጥቂ የኢንቴል መረጃን በዘዴ ሊመርዝ ስለሚችል AI የአጥቂውን ተንኮል አዘል ዌር እንደ ተንኮል ማወቅ አልቻለም። ሌላው ዘዴ ፈጣን መርፌ ወይም የውጤት ማጭበርበር , አጥቂው ወደ AI ግብዓቶችን የሚያወጣበት መንገድ በማግኘቱ እና ባልታሰበ መንገድ እንዲሠራ ያደርገዋል - ምናልባትም የደህንነት መከላከያ መንገዱን ችላ ለማለት ወይም የማይገባውን መረጃ (እንደ ውስጣዊ ጥያቄዎች ወይም ዳታ) ለማሳየት. ሞዴልን የማምለጥ አደጋ አለ ፡ አጥቂዎች AIን ለማታለል የተነደፉ ግብዓትን እየሰሩ ነው። ይህንን በተቃዋሚ ምሳሌዎች ውስጥ እናያለን - ትንሽ የተዛባ መረጃ ሰው እንደ መደበኛ የሚያየው ነገር ግን AI በተሳሳተ መንገድ ይመድባል። የ AI አቅርቦት ሰንሰለት ደህንነቱ የተጠበቀ መሆኑን ማረጋገጥ (የውሂብ ታማኝነት ፣ የሞዴል መዳረሻ ቁጥጥር ፣ የተቃዋሚ ጠንካራነት ሙከራ) እነዚህን መሳሪያዎች ሲጠቀሙ አዲስ ነገር ግን አስፈላጊ የሳይበር ደህንነት አካል ነው ( Generative AI በሳይበር ደህንነት ምንድን ነው? - Palo Alto Networks )።

• ከመጠን በላይ መታመን እና የክህሎት መሸርሸር ፡ ድርጅቶች በአይአይ ላይ ከመጠን በላይ ጥገኛ እንዲሆኑ እና የሰው ክህሎት እየመነመነ እንዲሄድ ሊያደርግ የሚችል ለስላሳ ስጋት አለ። ጀማሪ ተንታኞች የ AI ውጤቶችን በጭፍን የሚያምኑ ከሆነ፣ AI በማይገኝበት ጊዜ ወይም ሲሳሳት የሚያስፈልገውን ወሳኝ አስተሳሰብ እና ግንዛቤ ላያዳብሩ ይችላሉ። ሊወገድ የሚገባው ሁኔታ ጥሩ መሳሪያዎች ያሉት የደህንነት ቡድን ነው ነገር ግን እነዚያ መሳሪያዎች ከወደቁ እንዴት እንደሚሰሩ የማያውቅ (አብራሪዎች በአውቶፓይለት ላይ ከመጠን በላይ ጥገኛ ናቸው)። ያለ AI እገዛ መደበኛ የስልጠና ልምምዶች እና AI ረዳት እንጂ የማይሳሳት ንግግሮች አይደሉም የሚለውን አስተሳሰብ ማዳበር የሰውን ተንታኞች በሰላማዊ መንገድ ለመጠበቅ አስፈላጊ ናቸው። ሰዎች በተለይም ከፍተኛ ተጽዕኖ ላለባቸው ፍርዶች የመጨረሻ ውሳኔ ሰጪዎች ሆነው መቀጠል አለባቸው።

• የስነምግባር እና የመታዘዝ ተግዳሮቶች ፡ AI በሳይበር ደህንነት ውስጥ መጠቀም የስነምግባር ጥያቄዎችን ያስነሳል እና የቁጥጥር ተገዢነት ጉዳዮችን ያስነሳል። ለምሳሌ፣ የኤአይ ሲስተም ባልተለመደ ሁኔታ ሰራተኛውን እንደ ተንኮለኛ የውስጥ አዋቂ አድርጎ የሚያመለክት ከሆነ ያለአግባብ የዚያን ሰው ስም ወይም ስራ ይጎዳል። በ AI የተደረጉ ውሳኔዎች ግልጽ ያልሆኑ ሊሆኑ ይችላሉ (የ "ጥቁር ሣጥን" ችግር), አንዳንድ እርምጃዎች ለምን እንደተወሰዱ ለኦዲተሮች ወይም ተቆጣጣሪዎች ለማስረዳት አስቸጋሪ ያደርገዋል. በ AI የመነጨ ይዘት የበለጠ እየሰፋ ሲሄድ፣ ግልጽነትን ማረጋገጥ እና ተጠያቂነትን ማስቀጠል ወሳኝ ነው። ተቆጣጣሪዎች AIን መመርመር ጀምረዋል - ለምሳሌ የአውሮፓ ህብረት AI ህግ “ከፍተኛ አደጋ ያለባቸው” AI ስርዓቶች ላይ መስፈርቶችን ይጥላል እና የሳይበር ደህንነት AI በዚያ ምድብ ውስጥ ሊወድቅ ይችላል። ኩባንያዎች ጄነሬቲቭ AIን በሃላፊነት ለመጠቀም እነዚህን ደንቦች ማሰስ እና እንደ NIST AI ስጋት አስተዳደር ማዕቀፍ ያሉ መመዘኛዎችን ማክበር አለባቸው ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )። ተገዢነት ወደ ፍቃድ አሰጣጥም ይዘልቃል፡- ክፍት ምንጭን ወይም የሶስተኛ ወገን ሞዴሎችን መጠቀም የተወሰኑ አጠቃቀሞችን የሚገድቡ ወይም የማጋራት ማሻሻያዎችን የሚጠይቁ ቃላት ሊኖራቸው ይችላል።

በማጠቃለያው ጄኔሬቲቭ AI የብር ጥይት አይደለም - በጥንቃቄ ካልተተገበረ, ሌሎችን በሚፈታበት ጊዜ እንኳን አዳዲስ ድክመቶችን ማስተዋወቅ ይችላል. እ.ኤ.አ. በ 2024 የተደረገ የአለም ኢኮኖሚክ ፎረም ጥናት ~ 47% ድርጅቶች በአጥቂዎች የጄኔሬቲቭ AI እድገትን እንደ ዋና አሳሳቢነት ይጠቅሳሉ ፣ ይህም “የጄኔሬቲቭ AI በጣም አሳሳቢ የሆነውን በሳይበር ደህንነት ( [PDF] Global Cybersecurity Outlook 2025 | የዓለም ኢኮኖሚክ ፎረም ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ) ስለዚህ ድርጅቶች ሚዛኑን የጠበቀ አካሄድ መከተል አለባቸው፡ የ AI ጥቅማጥቅሞችን መጠቀም እነዚህን አደጋዎች በአስተዳደር፣ በሙከራ እና በሰዎች ቁጥጥር በጥብቅ እየተቆጣጠሩ ነው። ያንን ሚዛን በተግባር እንዴት ማሳካት እንደሚቻል በቀጣይ እንነጋገራለን።

የወደፊት እይታ፡ የጄኔሬቲቭ AI በሳይበር ደህንነት ውስጥ እያደገ ያለው ሚና

ወደ ፊት ስንመለከት፣ አመንጪ AI የሳይበር ደህንነት ስትራቴጂ ዋና አካል ለመሆን ተዘጋጅቷል - እና እንደዚሁም፣ የሳይበር ተቃዋሚዎች መጠቀማቸውን ይቀጥላል። የድመት እና የመዳፊት ተለዋዋጭ ፍጥነት ይጨምራል, በአጥሩ በሁለቱም በኩል AI. በሚቀጥሉት ዓመታት AI እንዴት የሳይበር ደህንነትን ሊፈጥር እንደሚችል አንዳንድ ወደፊት የሚመለከቱ ግንዛቤዎች አሉ።

• AI-Augmented Cyber ​​Defence መደበኛ ይሆናል ፡ በ2025 እና ከዚያም በላይ፣ ከመካከለኛ እስከ ትላልቅ ድርጅቶች በ AI የሚነዱ መሳሪያዎችን በደህንነት ስራዎቻቸው ውስጥ እንደሚያካትቱ መጠበቅ እንችላለን። ጸረ-ቫይረስ እና ፋየርዎል ዛሬ ደረጃቸውን የጠበቁ እንደሆኑ ሁሉ፣ AI ፓይለቶች እና ያልተለመዱ ማወቂያ ስርዓቶች የደህንነት አርክቴክቸር መሰረታዊ አካላት ሊሆኑ ይችላሉ። እነዚህ መሳሪያዎች የበለጠ ልዩ ሊሆኑ ይችላሉ - ለምሳሌ ፣የተለያዩ የኤአይአይ ሞዴሎች በጥሩ ሁኔታ የተስተካከሉ የደመና ደህንነት ፣ለአይኦቲ መሳሪያ ቁጥጥር ፣ለመተግበሪያ ኮድ ደህንነት እና የመሳሰሉት ሁሉም በጋራ የሚሰሩ ናቸው። አንድ ትንበያ እንዳስቀመጠው፣ “በ2025፣ ጄኔሬቲቭ AI ከሳይበር ደህንነት ጋር ተያያዥነት ይኖረዋል፣ ድርጅቶች የተራቀቁ እና እየተሻሻሉ ካሉ ስጋቶች በንቃት እንዲከላከሉ ያስችላቸዋል” ( How Can Generative AI be Used in Cybersecurity )። AI ቅጽበታዊ ስጋትን ፈልጎ ማግኘትን ያሻሽላል፣ ብዙ የምላሽ እርምጃዎችን በራስ ሰር ያዘጋጃል፣ እና የደህንነት ቡድኖች በእጅ ሊያዙ ከሚችሉት እጅግ በጣም ብዙ መጠን ያለው ውሂብ እንዲያስተዳድሩ ያግዛል።

• ቀጣይነት ያለው ትምህርት እና መላመድ በመማር የተሻለ ይሆናሉ ፣የእውቀታቸውን መሰረት በቅርብ ጊዜ። ይህ ወደ እውነተኛ መላመድ መከላከያዎች ሊመራ ይችላል - ጠዋት ላይ ሌላ ኩባንያ ሲመታ ስለ አዲስ የማስገር ዘመቻ የሚያውቅ AI እና ከሰአት በኋላ የኩባንያዎን የኢሜል ማጣሪያዎች በምላሹ አስተካክሎ ያስቡ። በክላውድ ላይ የተመሰረቱ የ AI ደህንነት አገልግሎቶች የዚህ አይነት የጋራ ትምህርትን ሊያመቻቹ ይችሉ ይሆናል፣ ከአንድ ድርጅት የማይታወቁ ግንዛቤዎች ሁሉንም ተመዝጋቢዎች የሚጠቅሙ (ከኢንቴል መጋራት ጋር ተመሳሳይ ነው ፣ ግን በራስ-ሰር)። ነገር ግን ይህ ሚስጥራዊነት ያለው መረጃን ላለማጋራት እና አጥቂዎች መጥፎ መረጃን ወደተጋሩ ሞዴሎች እንዳይመግቡ ለመከላከል በጥንቃቄ መያዝን ይጠይቃል።

• የ AI እና የሳይበር ደህንነት ተሰጥኦ ውህደት ፡ የሳይበር ደህንነት ባለሙያዎች የክህሎት ስብስብ በ AI እና በዳታ ሳይንስ ውስጥ ያለውን ብቃት ለማካተት ይሻሻላል። የዛሬዎቹ ተንታኞች የመጠይቅ ቋንቋዎችን እና ስክሪፕቶችን እንደሚማሩ ሁሉ፣ የነገ ተንታኞችም AI ሞዴሎችን በመደበኛነት ማስተካከል ወይም AI እንዲፈጽም “መጫወቻ መጽሃፎችን” ሊጽፉ ይችላሉ። “AI Security Trainer” ወይም “Cybersecurity AI Engineer” ያሉ አዳዲስ ሚናዎችን እናያለን - AI መሳሪያዎችን ከድርጅት ፍላጎቶች ጋር በማላመድ ፣ አፈፃፀማቸውን በማረጋገጥ እና ደህንነቱ በተጠበቀ ሁኔታ እንዲሰሩ ለማድረግ ልዩ ችሎታ ያላቸው ሰዎች። በጎን በኩል፣ የሳይበር ደህንነት ጉዳዮች በ AI እድገት ላይ ተጽዕኖ ያሳድራሉ። AI ሲስተሞች የሚገነቡት ከመሬት ተነስተው በደህንነት ባህሪያት (በአስተማማኝ የስነ-ህንፃ ጥበብ፣ የዳሰሳ ጥናት፣ የ AI ውሳኔዎች የኦዲት ምዝግብ ማስታወሻዎች፣ ወዘተ) እና የታመነ AI (ፍትሃዊ ፣ ሊብራራ የሚችል ፣ ጠንካራ እና ደህንነቱ የተጠበቀ) በደህንነት-ወሳኝ አውዶች ውስጥ መሰማራትን ይመራሉ ።

• ይበልጥ የተራቀቁ AI-Powered ጥቃቶች ፡ እንደ አለመታደል ሆኖ፣ የአደጋው መልክዓ ምድሮችም በ AI ይሻሻላሉ። የዜሮ ቀን ተጋላጭነቶችን ለማግኘት፣ በጣም የተነጣጠሩ ጦር ማስገርን ለመስራት (ለምሳሌ AI scraping social media ፍፁም የተበጀ ማጥመጃ ለመፍጠር) እና የባዮሜትሪክ ማረጋገጫን ለማለፍ ወይም ማጭበርበርን ለማለፍ አሳማኝ የውሸት ድምጾች ወይም ቪዲዮዎችን ለመፍጠር AIን በተደጋጋሚ እንጠቀማለን። አውቶማቲክ የጠለፋ ኤጀንቶች በትንሹ በሰዎች ቁጥጥር ራሳቸውን ችለው ባለብዙ ደረጃ ጥቃቶችን (ስለላ፣ ብዝበዛ፣ የጎን እንቅስቃሴ፣ ወዘተ) ሊፈጽሙ ይችላሉ። ይህ ተከላካዮች በ AI ላይ እንዲተማመኑ ጫና ያደርጋል - በመሠረቱ አውቶሜሽን vs. አውቶሜሽን ። አንዳንድ ጥቃቶች በማሽን ፍጥነት ሊከሰቱ ይችላሉ፣ ልክ እንደ AI ቦቶች አንድ ሺህ አስጋሪ የኢሜል ማሰራጫዎች የትኛው ማጣሪያ እንዳለፈ ለማየት እንደሚሞክሩ። የሳይበር መከላከያዎች ለመቀጠል በተመሳሳይ ፍጥነት እና ተለዋዋጭነት መስራት አለባቸው ( Generative AI በሳይበር ደህንነት ውስጥ ምንድን ነው? - Palo Alto Networks )።

• ደንብ እና ስነምግባር AI በደህንነት ፡ AI በሳይበር ደህንነት ተግባራት ውስጥ ጠልቆ ሲገባ፣ እነዚህ AI ስርዓቶች በኃላፊነት ጥቅም ላይ መዋላቸውን ለማረጋገጥ የበለጠ ምርመራ እና ምናልባትም ደንብ ይኖራል። በደህንነት ውስጥ ለ AI የተወሰኑ ማዕቀፎችን እና ደረጃዎችን መጠበቅ እንችላለን። መንግስታት ለግልጽነት መመሪያዎችን ሊያወጡ ይችላሉ - ለምሳሌ፡ ወሳኝ የሆኑ የደህንነት ውሳኔዎች (እንደ ሰራተኛ ለተጠረጠረ ተንኮል አዘል ተግባር ማቋረጥ) ያለ ሰው ግምገማ በ AI ብቻ ሊደረጉ አይችሉም። እንዲሁም AI በአድሎአዊነት፣ በጥንካሬ እና በደህንነት የተገመገመ መሆኑን ለገዢዎች ለማረጋገጥ ለ AI የደህንነት ምርቶች የምስክር ወረቀቶች ሊኖሩ ይችላሉ። በተጨማሪም ፣ ዓለም አቀፍ ትብብር ከ AI ጋር በተያያዙ የሳይበር አደጋዎች ዙሪያ ሊያድግ ይችላል ። ለምሳሌ በአይ-የተፈጠሩ የሳይበር መሳሪያዎች ላይ በ AI የተፈጠረውን መረጃ ወይም ደንቦችን ስለመቆጣጠር ስምምነቶች።

• ከሰፊው AI እና የአይቲ ስነ-ምህዳር፡- Generative AI በሳይበር ደህንነት ውስጥ ከሌሎች AI ስርዓቶች እና የአይቲ አስተዳደር መሳሪያዎች ጋር ሊዋሃድ ይችላል። ለምሳሌ፣ የአውታረ መረብ ማመቻቸትን የሚያስተዳድር AI ከደህንነት AI ጋር አብሮ በመስራት ለውጦች ክፍተቶችን እንዳይከፍቱ ማረጋገጥ ይችላል። በ AI የሚመራ የንግድ ትንተና ያልተለመዱ ነገሮችን ለማዛመድ ከደህንነት AIs ጋር መረጃን ሊያጋራ ይችላል (እንደ በጥቃቱ ምክንያት ድንገተኛ የሽያጭ መቀነስ ከድር ጣቢያ ችግር ጋር)። በመሰረቱ፣ AI በሲሎ ውስጥ አይኖርም - ትልቅ የማሰብ ችሎታ ያለው የአንድ ድርጅት ስራዎች አካል ይሆናል። ይህ ለአጠቃላይ የአደጋ አስተዳደር እድሎችን ይከፍታል ይህም የተግባር መረጃ፣ የአደጋ መረጃ እና አካላዊ ደህንነት መረጃዎች በ AI ሊጣመሩ ስለ ድርጅታዊ ደህንነት አቀማመጥ የ360-ዲግሪ እይታ።

በረጅም ጊዜ ተስፋው አመንጪ AI ሚዛኑን ወደ ተከላካዮች ለማዘንበል ይረዳል። የዘመናዊ የአይቲ አከባቢዎችን ሚዛን እና ውስብስብነት በመያዝ፣ AI የሳይበር ቦታን የበለጠ ተከላካይ ሊያደርግ ይችላል። ሆኖም፣ ጉዞ ነው፣ እና እነዚህን ቴክኖሎጂዎች ስናጣራ እና በአግባቡ ማመንን ስንማር እያደጉ ያሉ ህመሞች ይኖራሉ። ኃላፊነት ባለው AI ጉዲፈቻ ላይ ኢንቨስት ያደረጉ ድርጅቶች የወደፊቱን ስጋቶች ለመዳሰስ በጣም የተሻሉ ሊሆኑ ይችላሉ።

የጋርትነር የቅርብ ጊዜ የሳይበር ደህንነት አዝማሚያዎች ሪፖርት እንዳመለከተው፣ “የጄኔሬቲቭ AI አጠቃቀም ጉዳዮች (እና አደጋዎች) ብቅ ማለት ለትራንስፎርሜሽን ጫና እየፈጠረ ነው” ( የሳይበር ደህንነት አዝማሚያዎች፡ በትራንስፎርሜሽን መቋቋም - ጋርትነር )። የሚለምዱ ሰዎች AIን እንደ ኃይለኛ አጋሮች ይጠቀማሉ; የዘገዩት በአይ-ስልጣን ባላንጣዎች ሊበልጡ ይችላሉ። የሚቀጥሉት ጥቂት ዓመታት AI እንዴት የሳይበርን የጦር ሜዳ እንደሚለውጥ ለመወሰን ወሳኝ ጊዜ ይሆናል።

በሳይበር ደህንነት ውስጥ ጀነሬቲቭ AIን ለማዳበር ተግባራዊ መንገዶች

ጀነሬቲቭ AIን በሳይበር ደህንነት ስትራቴጂያቸው እንዴት መጠቀም እንደሚችሉ ለሚገመግሙ ንግዶች፣ ኃላፊነት የሚሰማው እና ውጤታማ ጉዲፈቻን ለመምራት ተግባራዊ ምክሮች እና ምክሮች

1. በትምህርት እና ስልጠና ይጀምሩ ፡ የደህንነት ቡድንዎ (እና ሰፋ ያለ የአይቲ ሰራተኞች) አመንጪ AI ምን እንደሚሰራ እና እንደማይችል መረዳቱን ያረጋግጡ። በ AI የሚነዱ የደህንነት መሳሪያዎች መሰረታዊ ስልጠናዎችን ይስጡ እና በ AI የነቁ ስጋቶችን ለመሸፈን ለሁሉም ሰራተኞች የደህንነት ግንዛቤ ፕሮግራሞች ለምሳሌ፣ AI በጣም አሳማኝ የማስገር ማጭበርበሮችን እና ጥልቅ የውሸት ጥሪዎችን እንዴት ማመንጨት እንደሚችል ሰራተኞችን አስተምሯቸው። በተመሳሳይ ጊዜ ሰራተኞችን በስራቸው ውስጥ ደህንነቱ የተጠበቀ እና የተፈቀደውን የ AI መሳሪያዎችን አጠቃቀም ያሠለጥኑ። ጥሩ መረጃ ያላቸው ተጠቃሚዎች AIን በተሳሳተ መንገድ የመቆጣጠር ዕድላቸው አነስተኛ ነው ወይም AI-የተሻሻሉ ጥቃቶች ሰለባ የመውደቅ ዕድላቸው አነስተኛ ነው ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )።

2. ግልጽ AI የአጠቃቀም መመሪያዎችን ይግለጹ ፡ አመንጪ AIን እንደ ማንኛውም ኃይለኛ ቴክኖሎጂ ይያዙ - ከአስተዳደር ጋር። ማን AI መሳሪያዎችን መጠቀም እንደሚችል፣ የትኞቹ መሳሪያዎች ማዕቀብ እንደተጣለባቸው እና ለምን ዓላማዎች እንደሚጠቅሙ የሚገልጹ ፖሊሲዎችን ያዘጋጁ። ሚስጥራዊነት ያለው መረጃ አያያዝ ላይ መመሪያዎችን ያካትቱ (ለምሳሌ ሚስጥራዊ መረጃን ወደ ውጫዊ AI አገልግሎቶች አለመመገብ )። እንደ ምሳሌ፣ የደህንነት ቡድን አባላት ብቻ ለክስተቶች ምላሽ የውስጥ AI ረዳትን እንዲጠቀሙ መፍቀድ ይችላሉ፣ እና ግብይት ለይዘት የተረጋገጠ AIን ሊጠቀም ይችላል - ሁሉም የተገደበ ነው። AI ን በአይቲ ፖሊሲያቸው ላይ በግልፅ እየገለጹ ነው፣ እና መሪ ደረጃዎች አካላት ደህንነቱ የተጠበቀ የአጠቃቀም ፖሊሲዎችን ያበረታታሉ ። እነዚህን ደንቦች እና ከኋላቸው ያለውን ምክንያት ለሁሉም ሰራተኞች ማሳወቅዎን ያረጋግጡ።

3. “Shadow AI”ን ይቀንሱ እና አጠቃቀምን ይቆጣጠሩ ፡ ከአይቲ ጥላ ጋር በሚመሳሰል መልኩ “shadow AI” የሚነሳው ሰራተኞቹ ያለ IT እውቀት AI መሳሪያዎችን ወይም አገልግሎቶችን መጠቀም ሲጀምሩ ነው (ለምሳሌ ያልተፈቀደ የ AI ኮድ ረዳት የሚጠቀም ገንቢ)። ይህ የማይታዩ አደጋዎችን ሊያስከትል ይችላል. ያልተፈቀደ የኤአይአይ አጠቃቀምን ለመለየት እና ለመቆጣጠር እርምጃዎችን ይተግብሩ ። የአውታረ መረብ ክትትል ከታዋቂ የኤ.አይ.አይ. ኤ.ፒ.አይ.ዎች ጋር ግንኙነቶችን ሊያመለክት ይችላል፣ እና የዳሰሳ ጥናቶች ወይም የመሳሪያ ኦዲቶች ሰራተኞች ምን እየተጠቀሙ እንደሆኑ ማወቅ ይችላሉ። የጸደቁ አማራጮችን ያቅርቡ ጥሩ ዓላማ ያላቸው ሰራተኞች ተንኮለኛ ለመሆን እንዳይፈተኑ (ለምሳሌ ሰዎች ጠቃሚ ሆኖ ካገኙት ይፋዊ የቻትጂፒቲ ኢንተርፕራይዝ መለያ ያቅርቡ)። የ AI አጠቃቀምን ወደ ብርሃን በማምጣት፣ የደህንነት ቡድኖች አደጋውን መገምገም እና ማስተዳደር ይችላሉ። ክትትልም ቁልፍ ነው - ሎግ AI መሳሪያ እንቅስቃሴዎች እና ውጤቶች በተቻለ መጠን, ስለዚህ AI ተጽዕኖ ውሳኔዎች ላይ የኦዲት መንገድ አለ ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች ).

4. AI በመከላከያ ይጠቀሙ – ከኋላ አትውደቁ ፡ አጥቂዎች AI እንደሚጠቀሙ ይወቁ፣ ስለዚህ የእርስዎ መከላከያም አለበት። ጄኔሬቲቭ AI ወዲያውኑ የእርስዎን የደህንነት ስራዎች (ምናልባትም የማንቂያ መለያ ወይም አውቶሜትድ የምዝግብ ማስታወሻ ትንተና) ሊረዳ የሚችልባቸውን ጥቂት ከፍተኛ ተጽዕኖ ያላቸውን አካባቢዎች ይለዩ እና የሙከራ ፕሮጀክቶችን ያስኬዱ። በፍጥነት የሚንቀሳቀሱ ስጋቶችን ለመከላከል መከላከያዎን በ AI ፍጥነት እና ሚዛን ይጨምሩ Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )። የማልዌር ሪፖርቶችን ለማጠቃለል ወይም የአደጋ መጠይቆችን ለማመንጨት እንደ AI መጠቀም ቀላል የሆኑ ውህደቶች እንኳን ተንታኞችን ሰዓታት ይቆጥባሉ። በትንሹ ይጀምሩ፣ ውጤቱን ይገምግሙ እና ይድገሙት። ስኬቶች ለሰፊ AI ጉዲፈቻ ጉዳዩን ይገነባሉ። ግቡ AIን እንደ ሃይል ማባዛት መጠቀም ነው - ለምሳሌ፣ የማስገር ጥቃቶች የእገዛ ዴስክዎን ከአቅም በላይ ከሆኑ፣ ያንን ድምጽ በንቃት ለመቀነስ የ AI ኢሜይል ክላሲፋየር ያሰማሩ።

5. በአስተማማኝ እና በስነ ምግባራዊ AI ልምዶች ላይ ኢንቨስት ያድርጉ ፡ አመንጪ AIን ሲተገብሩ ደህንነቱ የተጠበቀ የእድገት እና የማሰማራት ልምዶችን ይከተሉ። መረጃን ለመቆጣጠር ግላዊ ወይም በራስ የሚስተናገዱ ሞዴሎችን ተጠቀም የሶስተኛ ወገን AI አገልግሎቶችን የሚጠቀሙ ከሆነ ደህንነታቸውን እና የግላዊነት እርምጃዎቻቸውን (ምስጠራ፣ የውሂብ ማቆያ ፖሊሲዎች፣ ወዘተ) ይከልሱ። በእርስዎ AI መሳሪያዎች ውስጥ እንደ አድልዎ፣ ገላጭነት እና ጥንካሬ ያሉ ነገሮችን ስልታዊ በሆነ መንገድ ለመፍታት የ AI ስጋት አስተዳደር ማዕቀፎችን (እንደ NIST's AI Risk Management Framework ወይም ISO/IEC መመሪያ) ያካትቱ ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል? 10 የእውነተኛ ዓለም ምሳሌዎች )። እንዲሁም የሞዴል ማሻሻያዎችን/ጥገናዎችን እንደ የጥገና አካል ያቅዱ - AI ሞዴሎች እንዲሁ “ተጋላጭነት” ሊኖራቸው ይችላል (ለምሳሌ መንሸራተት ከጀመሩ ወይም በአምሳያው ላይ አዲስ የጠላት ጥቃት ከተገኘ) እንደገና ማሰልጠን ሊያስፈልጋቸው ይችላል። ደህንነትን እና ስነምግባርን ወደ AI አጠቃቀምዎ በመጋገር በውጤቶቹ ላይ እምነት ይገነባሉ እና ብቅ ያሉትን ህጎች መከበራቸውን ያረጋግጣሉ።

6. ሰዎችን በሳይበር ደህንነት ውስጥ የሰውን ውሳኔ ለማገዝ፣ ሙሉ በሙሉ ለመተካት አይአይን ይጠቀሙ። የሰዎች ማረጋገጫ የሚፈለግባቸውን የውሳኔ ነጥቦች ይወስኑ (ለምሳሌ፣ አንድ AI የአደጋ ዘገባን ሊያዘጋጅ ይችላል፣ ነገር ግን ተንታኝ ከማሰራጨቱ በፊት ይገመግመዋል፣ ወይም AI የተጠቃሚ መለያን ማገድን ሊጠቁም ይችላል፣ ነገር ግን ሰው ድርጊቱን ያጸድቃል)። ይህ የ AI ስህተቶች እንዳይመረመሩ ብቻ ሳይሆን ቡድንዎ ከ AI እና በተቃራኒው እንዲማር ይረዳል. የትብብር የስራ ሂደትን ያበረታቱ፡ ተንታኞች የኤአይአይ ውጤቶችን በመጠየቅ እና የንፅህና ፍተሻዎችን በማካሄድ ምቾት ሊሰማቸው ይገባል። በጊዜ ሂደት፣ ይህ ንግግር ሁለቱንም AI (በአስተያየት) እና የተንታኞችን ችሎታ ሊያሻሽል ይችላል። በመሠረቱ, AI እና የሰው ጥንካሬዎች እርስ በርስ እንዲደጋገፉ ሂደቶችዎን ይንደፉ - AI ድምጽን እና ፍጥነትን ይቆጣጠራል, ሰዎች አሻሚ እና የመጨረሻ ውሳኔዎችን ይይዛሉ.

7. ለካ፣ ተቆጣጠር እና አስተካክል ፡ በመጨረሻም፣ የእርስዎን ጄኔሬቲቭ AI መሳሪያዎች እንደ የደህንነትህ ስነ-ምህዳር ህይወት አካል አድርገው ይያዙ። አፈጻጸማቸውን ያለማቋረጥ - የአደጋ ምላሽ ጊዜዎችን እየቀነሱ ነው? ማስፈራሪያዎችን ቀደም ብለው ይይዛሉ? የውሸት አወንታዊ ተመን እንዴት በመታየት ላይ ነው? ከቡድኑ አስተያየት ይጠይቁ፡ የ AI ምክሮች ጠቃሚ ናቸው ወይስ ጫጫታ እየፈጠረ ነው? ሞዴሎችን ለማጣራት፣ የስልጠና መረጃን ለማዘመን ወይም AI እንዴት እንደሚዋሃድ ለማስተካከል እነዚህን መለኪያዎች ይጠቀሙ። የሳይበር ማስፈራሪያዎች እና የንግድ ፍላጎቶች በዝግመተ ለውጥ፣ እና የእርስዎ AI ሞዴሎች ውጤታማ ሆነው እንዲቆዩ በየጊዜው መዘመን ወይም እንደገና ማሰልጠን አለባቸው። ለሞዴል አስተዳደር እቅድ ይኑርዎት፣ ለመንከባከብ ኃላፊነት ያለው ማን እና በምን ያህል ጊዜ እንደሚገመገም ጨምሮ። የ AI የህይወት ኡደትን በንቃት በመምራት፣ ተጠያቂነት ሳይሆን ሃብት ሆኖ እንደሚቀጥል ያረጋግጣሉ።

በማጠቃለያው፣ ጄኔሬቲቭ AI የሳይበር ደህንነት ችሎታዎችን በእጅጉ ሊያሳድግ ይችላል፣ነገር ግን የተሳካ ጉዲፈቻ አሳቢነት ያለው እቅድ እና ቀጣይነት ያለው ክትትል ይጠይቃል። ህዝባቸውን የሚያስተምሩ፣ ግልጽ መመሪያዎችን የሚያወጡ እና AIን ሚዛናዊ በሆነ አስተማማኝ መንገድ የሚያዋህዱ ንግዶች ፈጣንና ብልህ የማስፈራሪያ አስተዳደር ሽልማቶችን ያገኛሉ። እነዚያ የመውሰጃ መንገዶች ፍኖተ ካርታ ይሰጣሉ፡ የሰውን እውቀት ከ AI አውቶሜሽን ጋር በማጣመር፣ የአስተዳደር መሰረቱን ይሸፍናል፣ እና ሁለቱም የ AI ቴክኖሎጂ እና የአደጋው ገጽታ በዝግመተ ለውጥ ሲመጡ ቅልጥፍናን ይጠብቃሉ።

እነዚህን ተግባራዊ እርምጃዎች በመውሰድ፣ ድርጅቶች “በሳይበር ደህንነት ውስጥ አመንጪ AI እንዴት ጥቅም ላይ ሊውል ይችላል?” የሚለውን - በንድፈ-ሀሳብ ብቻ ሳይሆን በእለት ተእለት ልምምድ - እና በዚህም እየጨመረ በዲጂታል እና በ AI-የሚመራ አለም ውስጥ መከላከያቸውን ያጠናክራሉ. ( Generative AI በሳይበር ደህንነት ውስጥ እንዴት ጥቅም ላይ ሊውል ይችላል )

ከዚህ በኋላ ማንበብ ሊፈልጓቸው የሚችሏቸው ነጭ ወረቀቶች፡-

🔗 AI የማይተካቸው ስራዎች እና AI ምን አይነት ስራዎችን ይተካዋል?
የትኞቹ ሚናዎች ከአውቶሜሽን ደህንነታቸው የተጠበቀ እና የትኞቹ እንደሌሉ የአለምአቀፍ እይታን ያስሱ።

🔗 AI የአክሲዮን ገበያውን መተንበይ ይችላል?
በ AI የገበያ እንቅስቃሴዎችን ለመተንበይ ባለው አቅም ዙሪያ ያሉትን ውስንነቶች፣ ግኝቶች እና አፈ ታሪኮች በጥልቀት መመልከት።

🔗 ጀነሬቲቭ AI ያለ ሰው ጣልቃ ገብነት ምን ሊደረግ ይችላል?
AI በተናጥል የት እንደሚሰራ እና የሰው ቁጥጥር አሁንም አስፈላጊ በሚሆንበት ቦታ ይረዱ።