ጄኔሬቲቭ አይአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ምንድን ነው?

አጭር መልስ፡- ጀነሬቲቭ ኤአይ የሚጠቀሙ ገንቢዎች ለሞዴሉ ውጤት ብቻ ሳይሆን ለመላው ስርዓት ተጠያቂ ናቸው። ኤአይ ውሳኔዎችን፣ ኮድን፣ ግላዊነትን ወይም የተጠቃሚ እምነትን በሚነካበት ጊዜ፣ ደህንነታቸው የተጠበቀ መተግበሪያዎችን መምረጥ፣ ውጤቶችን ማረጋገጥ፣ ውሂብን መጠበቅ፣ ጉዳትን መቀነስ እና ሰዎች ስህተቶችን መገምገም፣ መሻር እና ማረም መቻላቸውን ማረጋገጥ አለባቸው።

ቁልፍ ነጥቦች፡

ማረጋገጫ ፡- የተወለወሉ ውጤቶችን ምንጮች፣ ሙከራዎች ወይም የሰው ግምገማ እስኪያረጋግጡ ድረስ እንደ እምነት የማይጣልባቸው አድርገው ይቁጠሩት።

የውሂብ ጥበቃ ፡- የፈጣን ውሂብን ይቀንሱ፣ መለያዎችን ያስወግዱ፣ እና ምዝግብ ማስታወሻዎችን፣ የመዳረሻ መቆጣጠሪያዎችን እና ሻጮችን ደህንነቱ የተጠበቀ ያድርጉ።

ፍትሃዊነት ፡- የተዛባ አመለካከቶችን እና ያልተመጣጠኑ የውድቀት ቅጦችን ለማግኘት በስነ-ሕዝብ እና አውዶች መካከል ሙከራ ያድርጉ።

ግልጽነት ፡ የ AI አጠቃቀምን በግልጽ ይግለጹ፣ ገደቦቹን ያብራሩ እና የሰውን ግምገማ ወይም ማራኪነት ያቅርቡ።

ተጠያቂነት ፡- ከመጀመራቸው በፊት ለአገልግሎት፣ ለክስተቶች፣ ለክትትል እና ለድጋሚ ጥቅም ግልጽ የሆኑ ባለቤቶችን ይመድቡ።

ከዚህ ጽሑፍ በኋላ ሊያነቧቸው የሚችሏቸው ጽሑፎች፡

🔗 ለሶፍትዌር ገንቢዎች ምርጥ የAI መሳሪያዎች፡ በAI የሚሰሩ ከፍተኛ የኮድ ረዳቶች
ፈጣን እና ንፁህ የልማት የስራ ፍሰቶችን ለማግኘት ከፍተኛ የAI ኮድ አጋሮችን ያወዳድሩ።.

🔗 ምርታማነትን ለማሳደግ ለገንቢዎች 10 ምርጥ የ AI መሳሪያዎች
ለበለጠ ብልህ የኮድ እና ፍጥነት የገንቢ AI መሳሪያዎች ደረጃ የተሰጠው ዝርዝር።.

🔗 የአእምሮ ህዋሳት (AI) ለኅብረተሰቡ እና ለእምነት መጥፎ ሊሆን የሚችለው ለምንድን ነው?
የእውነተኛ ዓለም ጉዳቶችን ያብራራል፤ አድልዎ፣ ግላዊነት፣ ስራዎች እና የተሳሳተ መረጃ አደጋዎች።.

🔗 የአዕምሮ ህክምና ባለሙያዎች (AI) ከፍተኛ ደረጃ ላይ ባሉ ውሳኔዎች ውስጥ በጣም ርቀው ሄደዋል?
የአዕምሮ ህዋሳት (AI) መስመሮችን ሲያቋርጥ የሚገልጸው፡ ክትትል፣ ጥልቅ ውሸቶች፣ ማሳመን፣ ስምምነት አለመኖር።.

ሰዎች ከሚያስቡት በላይ የጄኔሬቲቭ አይአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ለምን አስፈላጊ ነው?

ብዙ የሶፍትዌር ስህተቶች ያበሳጫሉ። አንድ ቁልፍ ይሰበራል። አንድ ገጽ በዝግታ ይጫናል። የሆነ ነገር ይበላሻል እና ሁሉም ያቃስታል።.

የጄኔቲክ AI ችግሮች የተለያዩ ሊሆኑ ይችላሉ። ረቂቅ ሊሆኑ ይችላሉ።.

ሞዴል ስህተት እያለ በራስ መተማመን ሊመስል ይችላል። የNIST GenAI መገለጫ ያለ ግልጽ የማስጠንቀቂያ ምልክቶች አድልዎ ሊፈጥር ይችላል። የNIST GenAI መገለጫ በግዴለሽነት ጥቅም ላይ ከዋለ ሚስጥራዊ መረጃዎችን ሊያጋልጥ ይችላል። የOWASP ለLLM አፕሊኬሽኖች 10 ምርጥ የICO ጥያቄዎች ለጄኔሬተር AI። የሚሰራ ኮድ ሊያወጣ ይችላል - በተወሰነ አሳፋሪ መንገድ ምርት እስኪወድቅ ድረስ። የOWASP ለLLM አፕሊኬሽኖች 10 ምርጥ የOWASP ልክ እንደ እንቅልፍ የማያገኝ እና አልፎ አልፎ በሚያስደንቅ በራስ መተማመን እውነታዎችን የሚፈጥር በጣም ቀናተኛ ኢንተርን መቅጠር።

ለዚህም ነው ገንቢዎች ጀነሬቲቭ AIን የሚጠቀሙበት ኃላፊነት ከቀላል አተገባበር የበለጠ ትልቅ የሆነው። ገንቢዎች ከአሁን በኋላ የሎጂክ ስርዓቶችን መገንባት ብቻ አይደሉም። ደብዘዝ ያሉ ጠርዞች፣ ያልተጠበቁ ውጤቶች እና እውነተኛ ማህበራዊ ውጤቶች ያሏቸው ፕሮባቢሊቲ ስርዓቶችን እየገነቡ ነው። NIST AI RMF

ይህ ማለት ኃላፊነት የሚከተሉትን ያካትታል ማለት ነው፡

• NIST AI RMF ገደቦችን መረዳት

• የተጠቃሚ ግላዊነትን መጠበቅ የ ICO መመሪያ በ AI እና በውሂብ ጥበቃ ላይ

• ጎጂ ውጤቶችን መቀነስ የNIST GenAI መገለጫ

• እምነት ከመሰጠቱ በፊት ትክክለኛነትን ማረጋገጥ የNIST GenAI መገለጫ

• የሰውን ሚና ግልጽ ማድረግ የOECD AI መርሆዎች

• የ AI ውድቀት ሲከሰት የመውደቅ መንገዶችን መንደፍ የ OECD AI መርሆዎች የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች

• ስርዓቱን በግልጽ መዝግቦ ማስቀመጥ የ OECD AI መርሆዎች

እንዴት እንደሚሰራ ታውቃለህ - አንድ መሳሪያ አስማታዊ ስሜት ሲሰማው ሰዎች ጥያቄውን መጠራጠር ያቆማሉ። ገንቢዎች ያን ያህል ዘና ማለት አይችሉም።.

ጄኔሬቲቭ ኤአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ጥሩ ስሪት የሚያደርገው ምንድን ነው? 🛠️

ጥሩ የኃላፊነት ስሪት ውጤታማ አይደለም። ከታች ያለውን ማስተባበያ ማከል እና ሥነ ምግባር ብሎ መጥራት ብቻ አይደለም። በዲዛይን ምርጫዎች፣ በሙከራ ልምዶች እና በምርት ባህሪ ውስጥ ይታያል።.

የጄኔሬቲቭ አይአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ጠንካራ ስሪት ብዙውን ጊዜ ምን እንደሚመስል

• የNIST AI RMF አጠቃቀም

  • የ AI ስራ ላይ የሚውለው ለእውነተኛ ችግር ነው፣ ምርቱ ፋሽን ስለሚመስል ወደ ምርቱ አልተገፋም።.

• የሰው ቁጥጥር የ OECD AI መርሆዎች

  • ሰዎች ውጤቶችን መገምገም፣ ማስተካከል፣ መሻር ወይም ውድቅ ማድረግ ይችላሉ።.

• በዲዛይን የደህንነት NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች

  • የአደጋ መቆጣጠሪያዎች የተገነቡት ቀደም ብለው ነው፣ በኋላ ላይ በቴፕ የተለጠፉ አይደሉም።.

• ግልጽነት የOECD AI መርሆዎች የአውሮፓ ኮሚሽን የAI ህግ አጠቃላይ እይታ

  • ተጠቃሚዎች ይዘቱ በAI የተፈጠረ ወይም በAI የታገዘ መሆኑን ይረዳሉ።.

• የውሂብ እንክብካቤ ICO ስምንት ጥያቄዎች ለጄኔሬተር AI

  • ሚስጥራዊ መረጃ በጥንቃቄ ይስተናገዳል፣ እና ተደራሽነት ውስን ነው።.

• የፍትሃዊነት ፍተሻዎች የNIST GenAI መገለጫ ICO መመሪያ በAI እና በውሂብ ጥበቃ ላይ

  • ስርዓቱ አድልዎ፣ ያልተመጣጠነ አፈፃፀም እና ጎጂ ቅጦችን ይፈትሻል።.

• ቀጣይነት ያለው ክትትል የNIST AI RMF NCSC ደህንነቱ የተጠበቀ የAI መመሪያዎችን

  • ማስጀመሪያው የመጨረሻው መስመር አይደለም። ልክ እንደ መጀመሪያው ፉጨት ነው።.

ያ ብዙ የሚመስል ከሆነ... ነው። ነገር ግን በውሳኔዎች፣ በእምነት እና በባህሪ ደረጃ ላይ ተጽዕኖ ሊያሳድር ከሚችል ቴክኖሎጂ ጋር ሲሰሩ ይህ ስምምነት ነው። የOECD AI መርሆዎች

የንፅፅር ሰንጠረዥ - የገንቢዎች ዋና ኃላፊነት በጨረፍታ ጀነሬቲቭ አይአይን ይጠቀማሉ 📋

የኃላፊነት ቦታ	ማንን ይጎዳል	ዕለታዊ የገንቢ ልምምድ	ለምን አስፈላጊ ነው
ትክክለኛነት እና ማረጋገጫ	ተጠቃሚዎች፣ ቡድኖች፣ ደንበኞች	ውጤቶችን ይገምግሙ፣ የማረጋገጫ ንብርብሮችን ያክሉ፣ የጠርዝ መያዣዎችን ይሞክሩ	AI አቀላጥፎ አሁንም በጣም የተሳሳተ ሊሆን ይችላል - ይህም የNIST GenAI መገለጫ
የግላዊነት ጥበቃ	ተጠቃሚዎች፣ ደንበኞች፣ የውስጥ ሰራተኞች	ሚስጥራዊ የውሂብ አጠቃቀምን ይቀንሱ፣ ጥያቄዎችን ያጽዱ፣ ምዝግብ ማስታወሻዎችን ይቆጣጠሩ	የግል መረጃ አንዴ ከፈሰሰ በኋላ የጥርስ ሳሙናው ከቧንቧው ይወጣል 😬 የICO ስምንት ጥያቄዎች ለጄኔሬተር AI OWASP ለLLM አፕሊኬሽኖች ከፍተኛ 10 ጥያቄዎች
አድልዎ እና ፍትሃዊነት	ዝቅተኛ ውክልና ያላቸው ቡድኖች፣ ሁሉም ተጠቃሚዎች በእርግጥ	የኦዲት ውጤቶችን፣ የተለያዩ ግብዓቶችን መሞከር፣ መከላከያዎችን ማስተካከል	ጉዳት ሁልጊዜ ከፍተኛ አይደለም - አንዳንድ ጊዜ በ AI እና በውሂብ ጥበቃ ላይ የNIST GenAI መገለጫ
ደህንነት	የኩባንያ ስርዓቶች፣ ተጠቃሚዎች	የሞዴል መዳረሻን ይገድቡ፣ ፈጣን መርፌን ይከላከሉ፣ የአሸዋ ሳጥን አደገኛ እርምጃዎች	አንድ ብልህ ብዝበዛ እምነትን በፍጥነት ሊያበላሽ ይችላል OWASP ለኤልኤልኤም አፕሊኬሽኖች NCSC በAI እና በሳይበር ደህንነት ላይ
ግልጽነት	የመጨረሻ ተጠቃሚዎች፣ ተቆጣጣሪዎች፣ የድጋፍ ቡድኖች	የ AI ባህሪን በግልጽ ይሰይሙ፣ ገደቦችን ያብራሩ፣ የሰነድ አጠቃቀምን ያብራሩ	ሰዎች ማሽኑ የOECD AI መርሆዎች በAI የመነጨ ይዘትን ምልክት ማድረግ እና መለያ መስጠትን በተመለከተ የተግባር ደንቡን
ተጠያቂነት	የምርት ባለቤቶች፣ ህጋዊ፣ የገንቢ ቡድኖች	ባለቤትነትን፣ የክስተት አያያዝን፣ የክስተት መንገዶችን ይግለጹ	“የሰው ሰራሽ የማሰብ ችሎታ (AI) ያደረገው” የአዋቂዎች መልስ አይደለም የOECD AI መርሆዎች
አስተማማኝነት	ምርቱን የሚነኩ ሁሉ	ውድቀቶችን ይከታተሉ፣ የአስተማማኝነት ገደቦችን ያዘጋጁ፣ የመውደቅ ሎጂክን ይፍጠሩ	ሞዴሎች ይንሸራተታሉ፣ ባልተጠበቁ መንገዶች ይወድቃሉ፣ እና ከጊዜ ወደ ጊዜ ድራማዊ ትንሽ ክፍል አላቸው NIST AI RMF NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች
የተጠቃሚ ደህንነት	በተለይ ተጋላጭ ተጠቃሚዎች	የተንኮለኛ ዲዛይን ያስወግዱ፣ ጎጂ ውጤቶችን ይገድቡ፣ ከፍተኛ አደጋ ያላቸውን የአጠቃቀም ጉዳዮች ይገምግሙ	አንድ ነገር ሊፈጠር ስለሚችል ብቻ የOECD AI መርሆዎች NIST AI RMF

ትንሽ ያልተመጣጠነ ጠረጴዛ፣ በእርግጥ፣ ግን ያ ከርዕሰ ጉዳዩ ጋር ይጣጣማል። እውነተኛ ኃላፊነትም እኩል አይደለም።.

ኃላፊነት የሚጀምረው ከመጀመሪያው ጥያቄ በፊት ነው - ትክክለኛውን የአጠቃቀም ጉዳይ መምረጥ 🎯

ገንቢዎች ካላቸው ትላልቅ ኃላፊነቶች አንዱ ጀነሬተር ኤአይ ጨርሶ ጥቅም ላይ መዋል እንዳለበት ። NIST AI RMF

ይህ ግልጽ ይመስላል፣ ግን ሁልጊዜ ይዘለላል። ቡድኖች አንድ ሞዴል አይተው ይደሰታሉ፣ እና በህጎች፣ በፍለጋ ወይም በተለመደው የሶፍትዌር ሎጂክ በተሻለ ሁኔታ ሊስተናገድ በሚችል የስራ ፍሰት ውስጥ ማስገባት ይጀምራሉ። እያንዳንዱ ችግር የቋንቋ ሞዴል አያስፈልገውም። አንዳንድ ችግሮች የውሂብ ጎታ እና ጸጥ ያለ ከሰዓት ያስፈልጋቸዋል።.

ከመገንባትዎ በፊት ገንቢዎች የሚከተሉትን መጠየቅ አለባቸው፦

• ስራው ክፍት ነው ወይስ የተወሰነ ነው?

• የተሳሳተ ውጤት ጉዳት ሊያስከትል ይችላል?

• ተጠቃሚዎች ፈጠራ፣ ትንበያ፣ ማጠቃለያ፣ አውቶሜሽን ያስፈልጋቸዋል - ወይስ ፍጥነት ብቻ?

• ሰዎች በውጤቱ ላይ ከልክ በላይ እምነት ይጥላሉ? የNIST GenAI መገለጫ

• አንድ ሰው ውጤቶችን በተጨባጭ መገምገም ይችላል? የOECD AI መርሆዎች

• ሞዴሉ የተሳሳተ ሲሆን ምን ይከሰታል? የOECD AI መርሆዎች

ኃላፊነት የሚሰማው ገንቢ “ይህንን መገንባት እንችላለን?” ብሎ ብቻ አይጠይቅም፣ “ይህ በዚህ መንገድ መገንባት አለበት?” ብለው ይጠይቃሉ። NIST AI RMF

ያ ጥያቄ በራሱ ብዙ የሚያብረቀርቁ ከንቱ ነገሮችን ይከላከላል።.

ትክክለኛነት ኃላፊነት ነው፣ የጉርሻ ባህሪ አይደለም ✅

ግልጽ እንሁን - በጄኔቲክ AI ውስጥ ካሉት ትላልቅ ወጥመዶች አንዱ አንደበተ ርቱዕነትን ከእውነት ጋር ማዛባት ነው። ሞዴሎች ብዙውን ጊዜ የተወለወለ፣ የተዋቀረ እና ጥልቅ አሳማኝ የሚመስሉ መልሶችን ያመነጫሉ። ይዘቱ በራስ መተማመን የተሞላበት ከንቱ እስኪሆን ድረስ ይህ በጣም ደስ የሚል ነው። የNIST GenAI መገለጫ

ስለዚህ የጄኔሬቲቭ አይአይ (Generative AI) የሚጠቀሙ ገንቢዎች ኃላፊነት ለማረጋገጫ ግንባታ መገንባትን ያካትታል።

ያ ማለት፡

• የሚቻል ከሆነ የNIST GenAI መገለጫን

• የተፈጠሩ ይዘቶችን ከተረጋገጡ እውነታዎች መለየት የOECD AI መርሆዎች

• የመተማመን ገደቦችን በጥንቃቄ ማከል NIST AI RMF

• ለከፍተኛ ደረጃ ውጤቶች የግምገማ የስራ ፍሰቶችን መፍጠር የ OECD AI መርሆዎች

• ሞዴሉ በአስቸጋሪ ሁኔታዎች ውስጥ እንዳይሻሻል መከላከል የNIST GenAI መገለጫ

• ስርዓቱን ለመስበር ወይም ለማሳሳት የሚሞክሩ የሙከራ ጥያቄዎች OWASP ለ LLM አፕሊኬሽኖች 10 ምርጥ

ይህ በሚከተሉት ዘርፎች በጣም አስፈላጊ ነው-

• የጤና አጠባበቅ

• ፋይናንስ

• የህግ የስራ ፍሰቶች

• ትምህርት

• የደንበኛ ድጋፍ

• የድርጅት አውቶሜሽን

• የኮድ ማመንጨት

ለምሳሌ የተፈጠረ ኮድ የደህንነት ጉድለቶችን ወይም የሎጂክ ስህተቶችን እየደበቀ ንጹህ ሊመስል ይችላል። በጭፍን የሚገለብጥ ገንቢ ውጤታማ አይደለም - በቀላሉ አደጋን በሚያምር ቅርጸት ወደ ውጭ እያስገቡ ነው። OWASP ለLLM አፕሊኬሽኖች 10 ከፍተኛ NCSC በAI እና በሳይበር ደህንነት ላይ

ሞዴሉ ሊረዳ ይችላል። ገንቢው አሁንም ውጤቱን ይይዛል። የOECD AI መርሆዎች

የግላዊነት እና የውሂብ አስተዳደር ለድርድር የማይቀርቡ ናቸው 🔐

ነገሮች በፍጥነት ከባድ የሚሆኑበት ቦታ ይኸውና። የጄኔሬተር ኤአይ ሲስተሞች ብዙውን ጊዜ በጥያቄዎች፣ ምዝግብ ማስታወሻዎች፣ የአውድ መስኮቶች፣ የማህደረ ትውስታ ንብርብሮች፣ ትንታኔዎች እና የሶስተኛ ወገን መሠረተ ልማት ላይ የተመሰረቱ ናቸው። ይህም ስሱ መረጃዎች ተጠቃሚዎች ፈጽሞ ባልጠበቁት መንገድ እንዲፈስሱ፣ እንዲቀጥሉ ወይም እንደገና ጥቅም ላይ እንዲውሉ ብዙ እድሎችን ይፈጥራል። የICO ስምንት ጥያቄዎች ለጄኔሬተር ኤአይ OWASP ለLLM አፕሊኬሽኖች ከፍተኛ 10

ገንቢዎች የሚከተሉትን የመጠበቅ ኃላፊነት አለባቸው፦

• የግል መረጃ

• የፋይናንስ መዝገቦች

• የሕክምና ዝርዝሮች

• የኩባንያው ውስጣዊ መረጃ

• የንግድ ሚስጥሮች

• የማረጋገጫ ቶከኖች

• የደንበኛ ግንኙነቶች

ኃላፊነት የሚሰማቸው ልምዶች የሚከተሉትን ያካትታሉ:

• በ ICO ሞዴል ውስጥ ምን ውሂብ እንደሚገባ መቀነስ ስምንት ጥያቄዎችን ለጄኔሬተር AI

• መለያዎችን መደበቅ ወይም ማስወገድ የNIST GenAI መገለጫ

• በ AI እና በውሂብ ጥበቃ ላይ የምዝግብ ማስታወሻ ማቆየትን መገደብ

• ማን ጥያቄዎችን እና ውጤቶችን ማግኘት እንደሚችል መቆጣጠር የ OWASP ከፍተኛ 10 የ LLM አፕሊኬሽኖች

• የሻጭ ቅንብሮችን በጥንቃቄ መገምገም የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎችን

• ከፍተኛ አደጋ ያላቸውን የስራ ፍሰቶች መለየት የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎችን

• የ ICO ስምንት የጄኔሬተር AI ጥያቄዎችን ለተጠቃሚዎች እንዲታይ ማድረግ

ይህ "ስለሱ ማሰብ ረስተን ነበር" የሚለው ትንሽ ስህተት ያልሆነበት አንዱ ቦታ ነው። እምነት የሚሰብር ውድቀት ነው።.

እናም እምነት አንዴ ከተሰነጠቀ በኋላ እንደወደቀ ብርጭቆ ይሰራጫል። ምናልባት በጣም ጥሩው ዘይቤ አይደለም፣ ግን እርስዎ ይረዱታል።.

አድልዎ፣ ፍትሃዊነት እና ውክልና - ጸጥ ያሉ ኃላፊነቶች ⚖️

በጄኔሬቲቭ ኤአይ (AI) ውስጥ ያለው አድልዎ አልፎ አልፎ የካርቱን ተንኮለኛ አይደለም። ብዙውን ጊዜ ከዚያ የበለጠ ተንሸራታች ነው። አንድ ሞዴል ግልጽ ማንቂያዎችን ሳያስነሳ የተዛቡ የሥራ መግለጫዎችን፣ ያልተስተካከሉ የሽምግልና ውሳኔዎችን፣ የተዛቡ ምክሮችን ወይም በባህል ጠባብ ግምቶችን ሊያወጣ ይችላል። የNIST GenAI መገለጫ

ለዚህም ነው የገንቢዎች የጄኔሬቲቭ አይአይ (Generative AI) የሚጠቀሙት ኃላፊነት ንቁ የፍትሃዊነት ስራን የሚያካትተው።

ገንቢዎች የሚከተሉትን ማድረግ አለባቸው፦

• ከተለያዩ የስነሕዝብ መረጃዎች እና አውዶች የተገኙ የሙከራ ጥያቄዎች የNIST GenAI መገለጫ

• የNIST GenAI መገለጫ የተዛባ አመለካከቶችን እና ማግለልን በተመለከተ የግምገማ ውጤቶችን

• በግምገማ ወቅት የተለያዩ አመለካከቶችን ማካተት NIST AI RMF

• ያልተስተካከሉ የውድቀት ቅጦችን ይመልከቱ NIST GenAI መገለጫ

• አንድ የቋንቋ ዘይቤ ወይም የባህል ደንብ ለሁሉም ሰው እንደሚስማማ ከማሰብ ይቆጠቡ፤ ስለ AI እና የውሂብ ጥበቃ የICO መመሪያ

• ጎጂ ውጤት ለማግኘት የሪፖርት ማድረጊያ ቻናሎችን ይፍጠሩ NIST AI RMF

አንድ ስርዓት በአጠቃላይ ጥሩ ሆኖ የሚሰራ ሊመስል ይችላል፣ አንዳንድ ተጠቃሚዎችን በተከታታይ ከሌሎች በበለጠ እያገለገለ። አማካይ አፈጻጸም በዳሽቦርድ ላይ ጥሩ ስለሚመስል ብቻ ይህ ተቀባይነት የለውም። ስለ AI እና የውሂብ ጥበቃ የ ICO መመሪያ NIST GenAI መገለጫ

አዎ፣ ፍትሃዊነት ከንፁህ የማረጋገጫ ዝርዝር የበለጠ ከባድ ነው። ፍርድ አለው። አውድ። ውዝግብ። የችግር መለኪያም ጭምር። ግን ያ ኃላፊነቱን አያስወግድም - ያረጋግጣል። ስለ AI እና የውሂብ ጥበቃ የICO መመሪያ

ደህንነት አሁን ፈጣን ዲዛይን፣ የምህንድስና ዘርፍ ነው 🧱

የጄኔሬተር ኤአይ ደህንነት የራሱ የሆነ ልዩ አውሬ ነው። ባህላዊ የመተግበሪያ ደህንነት አሁንም አስፈላጊ ነው፣ እርግጥ ነው፣ ነገር ግን የኤአይ ሲስተሞች ያልተለመዱ የጥቃት ቦታዎችን ይጨምራሉ፡ ፈጣን መርፌ፣ ቀጥተኛ ያልሆነ ፈጣን ማጭበርበሪያ፣ ደህንነቱ ያልተጠበቀ የመሳሪያ አጠቃቀም፣ በአውድ በኩል የውሂብ ማጣራት እና በራስ-ሰር የስራ ፍሰቶች አማካኝነት አላግባብ መጠቀም። OWASP ለኤልኤልኤም አፕሊኬሽኖች NCSC በኤአይ እና በሳይበር ደህንነት ላይ

ገንቢዎች ሙሉውን ስርዓት ለመጠበቅ ኃላፊነት አለባቸው፣ በይነገጹን ብቻ አይደለም። የNCSC ደህንነቱ የተጠበቀ የAI መመሪያዎች

እዚህ ያሉት ዋና ዋና ኃላፊነቶች የሚከተሉትን ያካትታሉ:

• የማይታመን ግብዓትን ማጽዳት ለኤልኤልኤም አፕሊኬሽኖች ከፍተኛ 10 የOWASP

• ሞዴሉ ለ LLM አፕሊኬሽኖች OWASP ከፍተኛ 10

• የፋይል እና የአውታረ መረብ መዳረሻን መገደብ የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች

• ፈቃዶችን በግልጽ መለየት የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎችን

• የክትትል አላግባብ መጠቀምን ቅጦችን መከታተል የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች

• ከፍተኛ ዋጋ የሚገድቡ ውድ ወይም አደገኛ እርምጃዎች OWASP

• የተቃዋሚ ጥያቄዎችን መሞከር ለ LLM አፕሊኬሽኖች ከፍተኛ 10 የ OWASP

• መመሪያዎች በሚጋጩበት ጊዜ ደህንነቱ የተጠበቀ ውድቀት መገንባት የ OECD AI መርሆዎች

አንድ የማይመች እውነት ተጠቃሚዎች - እና አጥቂዎች - ገንቢዎች ያልጠበቁትን ነገር ፈጽሞ ይሞክራሉ የሚለው ነው። አንዳንዶቹ ከማወቅ ጉጉት የተነሳ፣ አንዳንዶቹ ከክፋት የተነሳ፣ አንዳንዶቹ ደግሞ ከጠዋቱ 2 ሰዓት ላይ የተሳሳተውን ነገር ጠቅ ስላደረጉ ነው። ይከሰታል።.

ለጄኔቲክ AI ደህንነት እንደ ግድግዳ መገንባት አይደለም፤ ይልቁንም አንዳንድ ጊዜ በቃላት አወጣጥ የሚታለል በጣም አነጋጋሪ በር ጠባቂን ማስተዳደር ነው።.

ግልጽነት እና የተጠቃሚ ፍቃድ ከብልጭልጭ UX የበለጠ አስፈላጊ ናቸው 🗣️

ተጠቃሚዎች ከAI ጋር ሲገናኙ ማወቅ አለባቸው። የOECD AI መርሆዎች በAI የተፈጠረ ይዘትን ምልክት ማድረግ እና መለያ መስጠት ላይ የአሠራር ደንብ

በግልጽ አይደለም። በቃላት አልተቀበረም። በግልጽ።.

የጄኔሬቲቭ አይአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ዋና አካል ተጠቃሚዎች የሚከተሉትን እንዲገነዘቡ ማረጋገጥ ነው፦

• የ OECD AI መርሆዎች

• የ OECD AI መርሆዎች

• ውጤቶች በሰዎች ይገመገማሉ ወይ? የOECD AI መርሆዎች

• የእነሱ መረጃ እንዴት እንደሚካሄድ የICO ስምንት ጥያቄዎች ለጄኔሬተር AI

• ምን ያህል በራስ መተማመን ሊኖራቸው ይገባል NIST AI RMF

• ችግሮችን እንዴት ሪፖርት ማድረግ ወይም ውሳኔዎችን ይግባኝ ማለት እንደሚቻል የOECD AI መርሆዎች NIST AI RMF

ግልጽነት ተጠቃሚዎችን ማስፈራራት አይደለም። እነሱን ማክበር ነው።.

ጥሩ ግልጽነት የሚከተሉትን ሊያካትት ይችላል፦

• እንደ በAI የተፈጠረ ወይም በ AI የታገዘ የተግባር ደንብ ያሉ መለያዎች በAI የተፈጠረ ይዘት ላይ ምልክት ማድረግ እና መለያ መስጠት

• ግልጽ ቋንቋዊ ማብራሪያዎች OECD AI መርሆዎች

• የሚታዩ የአርትዖት ታሪኮች አስፈላጊ ሲሆኑ

• የ AI ባህሪያትን ለማጥፋት አማራጮች

• የ OECD AI መርሆዎች አስፈላጊ ሲሆኑ ለሰው ልጅ እድገት

• ለከፍተኛ አደጋ ለሚጋለጡ ተግባራት አጭር ማስጠንቀቂያዎች የአውሮፓ ኮሚሽን የ AI ሕግ አጠቃላይ እይታ

ብዙ የምርት ቡድኖች ሐቀኝነት ባህሪውን ብዙም አስማታዊ እንዳይመስል ያደርገዋል ብለው ይጨነቃሉ። ምናልባት። ግን የውሸት እርግጠኝነት የባሰ ነው። አደጋን የሚደብቅ ለስላሳ በይነገጽ በመሠረቱ የተወለወለ ግራ መጋባት ነው።.

ሞዴሉ "ቢወስንም" ገንቢዎች ተጠያቂ ሆነው ይቆያሉ 👀

ይህ ክፍል በጣም አስፈላጊ ነው። ኃላፊነት ለሞዴል ሻጩ፣ ለሞዴል ካርዱ፣ ለጥያቄ አብነት ወይም ለማሽን መማሪያ ምስጢራዊ ድባብ ሊሰጥ አይችልም። የOECD AI መርሆዎች NIST AI RMF

ገንቢዎች አሁንም ተጠያቂ ናቸው። የOECD AI መርሆዎች

ይህ ማለት በቡድኑ ውስጥ ያለ አንድ ሰው የሚከተሉትን ሊኖረው ይገባል ማለት ነው፡

• የሞዴል ምርጫ NIST AI RMF

• የሙከራ ደረጃዎች NIST GenAI መገለጫ

• የመልቀቂያ መስፈርቶች NIST GenAI መገለጫ

• የክስተት ምላሽ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች

• የተጠቃሚ ቅሬታ አያያዝ NIST AI RMF

• የ OECD AI መርሆዎች የሪል እስቴት ሂደቶች

• የክትትል ለውጥ OECD AI መርሆዎች

• ሰነድ OECD AI መርሆዎች

ለሚከተሉት ጥያቄዎች ግልጽ መልሶች ሊኖሩ ይገባል፡-

• የNIST GenAI መገለጫ ማሰማራትን የሚያፀድቀው ማነው?

• ጎጂ-ውጤት ክስተቶችን የሚገመግመው ማነው? የNIST GenAI መገለጫ

• ባህሪውን ማን ሊያሰናክል ይችላል? የOECD AI መርሆዎች

• የሪግሬሽን ሂደቶችን የሚከታተል ማነው? NIST AI RMF

• የሆነ ነገር ሲሰበር ከተጠቃሚዎች ጋር የሚገናኘው ማነው? የOECD AI መርሆዎች

ባለቤትነት ከሌለ፣ ኃላፊነት ወደ ጭጋግ ይለወጣል። ሁሉም ሰው ሌላ ሰው እየተቆጣጠረው እንደሆነ ያስባል... ከዚያም ማንም አያስተናግደውም።.

ያ ንድፍ ከAI የበለጠ ጥንታዊ ነው፣ እንደ እውነቱ ከሆነ። AI በቀላሉ የበለጠ አደገኛ ያደርገዋል።.

ኃላፊነት የሚሰማቸው ገንቢዎች የሚገነቡት ለፍጹምነት ሳይሆን ለማረም ነው 🔄

በዚህ ሁሉ ውስጥ ያለው ትንሽ ጠመዝማዛ ይኸውና፡ ኃላፊነት የሚሰማው የAI ልማት ስርዓቱ ፍጹም እንደሚሆን ማስመሰል አይደለም። በሆነ መንገድ እንደሚወድቅ መገመት እና በዚያ እውነታ ዙሪያ መንደፍ ነው። NIST AI RMF

ይህ ማለት የግንባታ ምርቶች የሚከተሉትን ያካትታሉ:

• ኦዲት ሊደረግ የሚችል የOECD AI መርሆዎች

  • ውሳኔዎችና ውጤቶች በኋላ ላይ ሊገመገሙ ይችላሉ

• ሊቆራረጡ የሚችሉ የOECD AI መርሆዎች

  • ሰዎች መጥፎ ባህሪን ማስቆም ወይም መሻር ይችላሉ

• ሊመለሱ የሚችሉ የ OECD AI መርሆዎች

  • የ AI ውፅዓት የተሳሳተ ሲሆን የውድቀት ችግር አለ

• ክትትል የሚደረግበት የ NCSC ደህንነቱ የተጠበቀ የ AI መመሪያዎች NIST AI RMF

  • ቡድኖች አደጋዎች ከመከሰታቸው በፊት ቅጦችን መለየት ይችላሉ

• ሊሻሻል የሚችል የNIST GenAI መገለጫ

  • የግብረመልስ ዑደቶች አሉ፣ እና አንድ ሰው ያነባል

ብስለት የሚመስለው ይህ ነው። የሚያብረቀርቁ ማሳያዎች አይደሉም። እስትንፋስ የሌለው የግብይት ቅጂ አይደለም። እውነተኛ ስርዓቶች፣ መከላከያዎች፣ ምዝግብ ማስታወሻዎች፣ ተጠያቂነት እና ማሽኑ ጠንቋይ እንዳልሆነ ለመቀበል የሚያስችል በቂ ትህትና አላቸው። የNCSC ደህንነቱ የተጠበቀ የAI መመሪያዎች የOECD AI መርሆዎች

ምክንያቱም አይደለም። መሳሪያ ነው። ኃይለኛ መሳሪያ ነው፣ አዎ። ግን አሁንም መሳሪያ ነው።.

ጄኔሬቲቭ ኤአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ላይ ማጠቃለያ ነጸብራቅ 🌍

የጄኔሬቲቭ አይአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ምንድን ነው ?

በጥንቃቄ መገንባት ነው። ስርዓቱ የት እንደሚረዳ እና የት እንደሚጎዳ መጠየቅ። ግላዊነትን ለመጠበቅ። አድልዎ መኖሩን ለመፈተሽ። ውጤቶችን ለማረጋገጥ። የስራ ፍሰቱን ደህንነት ለመጠበቅ። ከተጠቃሚዎች ጋር ግልጽ መሆን። ሰዎችን ትርጉም ባለው መልኩ መቆጣጠር። ነገሮች ሲበላሹ ተጠያቂ መሆን። NIST AI RMF OECD AI መርሆዎች

ያ ከባድ ሊመስል ይችላል - እና እንደዚያ ነው። ነገር ግን አሳቢነት የተሞላበት ልማትን ከቸልተኝነት አውቶሜሽን የሚለየው ይህ ነው።.

ጀነሬቲቭ ኤአይ የሚጠቀሙ ምርጥ ገንቢዎች ሞዴሉን ብዙ ብልሃቶችን እንዲያከናውን የሚያደርጉት አይደሉም። የእነዚህ ብልሃቶች ውጤቶችን የሚረዱ እና በዚሁ መሰረት የሚነድፉት እነሱ ናቸው። ፍጥነትን እንደሚያስፈልግ ያውቃሉ፣ ነገር ግን እምነት እውነተኛው ምርት ነው። በተለየ መልኩ፣ ያ የድሮው ሀሳብ አሁንም ይቀጥላል። NIST AI RMF

በመጨረሻም፣ ኃላፊነት ለፈጠራ እንቅፋት አይደለም። ፈጠራ ወደ ውድ፣ ግርግር ወደበዛበት እና የተወለወለ በይነገጽ እና በራስ የመተማመን ችግር እንዳይለወጥ የሚያደርገው ይህ ነው 😬✨

እና ምናልባት ያ በጣም ቀላሉ ስሪት ነው።.

በድፍረት፣ እርግጠኛ ሁን - ነገር ግን ሰዎች ሊጎዱ እንደሚችሉ ይገንቡ፣ ምክንያቱም እነሱ ተጽዕኖ ሊያሳድሩ ይችላሉ። የOECD AI መርሆዎች

ተደጋጋሚ ጥያቄዎች

በተግባር ጀነሬቲቭ AI የሚጠቀሙ ገንቢዎች ኃላፊነት ምንድን ነው?

የገንቢዎች ጀነሬቲቭ AI የሚጠቀሙበት ኃላፊነት ከማጓጓዣ ባህሪያት በፍጥነት በላይ ይዘልቃል። ትክክለኛውን የአጠቃቀም ሁኔታ መምረጥ፣ ውጤቶችን መሞከር፣ ግላዊነትን መጠበቅ፣ ጎጂ ባህሪን መቀነስ እና ስርዓቱ ለተጠቃሚዎች ለመረዳት ያስችላል። በተግባር ግን ገንቢዎች መሣሪያው ሲሳካ እንዴት እንደሚነደፍ፣ እንደሚከታተል፣ እንደሚስተካከል እና እንደሚተዳደር ኃላፊነቱን ይወስዳሉ።.

ጄኔሬቲቭ ኤአይ ከመደበኛ ሶፍትዌር የበለጠ የገንቢ ኃላፊነት ለምን ያስፈልገዋል?

ባህላዊ ሳንካዎች ብዙውን ጊዜ ግልጽ ናቸው፣ ነገር ግን የጄኔቲክ AI ውድቀቶች አሁንም የተሳሳቱ፣ አድልዎ ወይም አደገኛ ሲሆኑ የተወለወሉ ሊመስሉ ይችላሉ። ይህም ችግሮችን ለመለየት አስቸጋሪ እና ተጠቃሚዎች በስህተት እንዲታመኑ ቀላል ያደርጋቸዋል። ገንቢዎች ከፕሮባቢሊቲክ ስርዓቶች ጋር እየሰሩ ነው፣ ስለዚህ ኃላፊነት እርግጠኛ አለመሆንን መቆጣጠር፣ ጉዳትን መገደብ እና ከመነሳቱ በፊት ሊተነበዩ የማይችሉ ውጤቶችን ማዘጋጀትን ያካትታል።.

ገንቢዎች ጀነሬተር ኤአይ መጠቀም እንደሌለበት እንዴት ያውቃሉ?

የተለመደው የመነሻ ነጥብ ስራው በህጎች፣ በፍለጋ ወይም በመደበኛ የሶፍትዌር አመክንዮ ክፍት ነው ወይስ በተሻለ ሁኔታ ይስተናገዳል የሚለውን መጠየቅ ነው። ገንቢዎች የተሳሳተ መልስ ምን ያህል ጉዳት ሊያስከትል እንደሚችል እና አንድ ሰው ውጤቶቹን በተጨባጭ መገምገም ይችል እንደሆነ ማጤን አለባቸው። ኃላፊነት የሚሰማው አጠቃቀም አንዳንድ ጊዜ ማለት ጀነሬተር AIን ጨርሶ ላለመጠቀም መወሰን ማለት ነው።.

ገንቢዎች በጄኔሬቲቭ AI ስርዓቶች ውስጥ ቅዠቶችን እና የተሳሳቱ መልሶችን እንዴት መቀነስ ይችላሉ?

ትክክለኛነት በንድፍ ውስጥ መንደፍ አለበት እንጂ መገመት የለበትም። በብዙ የቧንቧ መስመሮች ውስጥ፣ ይህ ማለት በታመኑ ምንጮች ላይ የተመሰረቱ ውጤቶችን መፍጠር፣ የመነጩ ጽሑፎችን ከተረጋገጡ እውነታዎች መለየት እና ለከፍተኛ አደጋ ተጋላጭ ለሆኑ ተግባራት የግምገማ የስራ ፍሰቶችን መጠቀም ማለት ነው። ገንቢዎች ስርዓቱን ለማደናገር ወይም ለማሳሳት የታሰቡ ጥያቄዎችን በተለይም እንደ ኮድ፣ ድጋፍ፣ ፋይናንስ፣ ትምህርት እና የጤና አጠባበቅ ባሉ ዘርፎች መሞከር አለባቸው።.

ለግላዊነት እና ስሱ መረጃዎችን ለማግኘት ጀነሬተር ኤአይ የሚጠቀሙ ገንቢዎች ኃላፊነት ምንድን ነው?

የገንቢዎች ጀነሬቲቭ AI የሚጠቀሙበት ኃላፊነት ወደ ሞዴሉ የሚገባውን መረጃ መቀነስ እና ጥያቄዎችን፣ ምዝግብ ማስታወሻዎችን እና ውጤቶችን እንደ ስሜታዊነት ማስተናገድን ያካትታል። ገንቢዎች በተቻለ መጠን መለያዎችን ማስወገድ፣ ማቆየትን መገደብ፣ መዳረሻን መቆጣጠር እና የሻጭ ቅንብሮችን በጥንቃቄ መገምገም አለባቸው። ተጠቃሚዎች አደጋዎቹን በኋላ ላይ ከማግኘት ይልቅ ውሂባቸው እንዴት እንደሚስተናገድ መረዳት መቻል አለባቸው።.

ገንቢዎች በአምራች የ AI ውጤቶች ውስጥ አድልዎ እና ፍትሃዊነትን እንዴት መያዝ አለባቸው?

አድልዎ ማድረግ የሚጠይቀው ግምቶችን ሳይሆን ንቁ ግምገማን ነው። ተግባራዊ አቀራረብ በተለያዩ የስነ-ሕዝብ መረጃዎች፣ ቋንቋዎች እና አውዶች ላይ ጥያቄዎችን መሞከር፣ ከዚያም የተዛባ አመለካከቶችን፣ ማግለልን ወይም ያልተመጣጠነ የውድቀት ቅጦችን ውጤቶች መገምገም ነው። ገንቢዎች ተጠቃሚዎች ወይም ቡድኖች ጎጂ ባህሪያትን ሪፖርት የሚያደርጉበትን መንገድ መፍጠር አለባቸው፣ ምክንያቱም ስርዓቱ በአጠቃላይ ጠንካራ ሆኖ የተወሰኑ ቡድኖችን በተከታታይ ሊያጣ ይችላል።.

ገንቢዎች በጄኔቲክ AI ምን አይነት የደህንነት ስጋቶችን ማሰብ አለባቸው?

ጀነሬቲቭ ኤአይ (Generative AI) አዳዲስ የጥቃት ቦታዎችን ያስተዋውቃል፤ እነዚህም ፈጣን መርፌ፣ ደህንነቱ ያልተጠበቀ የመሳሪያ አጠቃቀም፣ በውሂብ በኩል የሚፈስ የውሂብ መፍሰስ እና አውቶማቲክ እርምጃዎችን አላግባብ መጠቀምን ያካትታሉ። ገንቢዎች ያልታመኑ ግብዓቶችን ማጽዳት፣ የመሳሪያ ፈቃዶችን መገደብ፣ የፋይል እና የአውታረ መረብ መዳረሻን መገደብ እና አላግባብ መጠቀምን መከታተል አለባቸው። ደህንነት በይነገጹ ላይ ብቻ ሳይሆን በሞዴሉ ዙሪያ ባለው ሙሉ የስራ ፍሰት ላይም ይሠራል።.

በጄኔቲክ AI ሲገነቡ ግልጽነት ለምን አስፈላጊ ነው?

ተጠቃሚዎች AI መቼ እንደሚሳተፍ፣ ምን ማድረግ እንደሚችል እና ገደቦቹ የት እንዳሉ በግልጽ ማወቅ አለባቸው። ጥሩ ግልጽነት እንደ AI የመነጨ ወይም AI የታገዘ መለያዎች፣ ቀላል ማብራሪያዎች እና ለሰው ልጅ ድጋፍ ግልጽ መንገዶችን ሊያካትት ይችላል። እንዲህ ዓይነቱ ግልጽነት ምርቱን አያዳክምም፤ ተጠቃሚዎች እምነትን እንዲለኩ እና የተሻሉ ውሳኔዎችን እንዲያደርጉ ይረዳል።.

የጄኔሬቲቭ AI ባህሪ ጉዳት ሲያደርስ ወይም የሆነ ችግር ሲያጋጥመው ተጠያቂ የሚሆነው ማነው?

ሞዴሉ መልሱን ቢያቀርብም እንኳን ገንቢዎች እና የምርት ቡድኖች ውጤቱን አሁንም ይይዛሉ። ይህ ማለት ለማሰማራት ማፅደቅ፣ ለክስተት አያያዝ፣ መልሶ መመለስ፣ ክትትል እና የተጠቃሚ ግንኙነት ግልጽ ኃላፊነት ሊኖር ይገባል ማለት ነው። “ሞዴሉ የወሰነው” በቂ አይደለም፣ ምክንያቱም ተጠያቂነት ስርዓቱን ከነደፉት እና ከጀመሩት ሰዎች ጋር መቆየት አለበት።.

ከተጀመረ በኋላ ኃላፊነት የሚሰማው የጄኔቲክ የአይቲ ልማት ምን ይመስላል?

ኃላፊነት የሚሰማው ልማት ከተለቀቀ በኋላ በክትትል፣ ግብረመልስ፣ ግምገማ እና እርማት ይቀጥላል። ጠንካራ ስርዓቶች ኦዲት ሊደረግባቸው የሚችሉ፣ ሊስተጓጎሉ የሚችሉ፣ ሊመለሱ የሚችሉ እና የ AI ውድቀት ሲከሰት የውድቀት መንገዶችን በመጠቀም የተነደፉ ናቸው። ግቡ ፍጹምነት አይደለም፤ እውነተኛ ችግሮች ሲታዩ ሊመረመር፣ ሊሻሻል እና ደህንነቱ በተጠበቀ ሁኔታ ሊስተካከል የሚችል ነገር መገንባት ነው።.

ማጣቀሻዎች

1. ብሔራዊ የደረጃዎች እና የቴክኖሎጂ ተቋም (NIST) - NIST GenAI መገለጫ - nvlpubs.nist.gov

2. OWASP - OWASP ለ LLM አፕሊኬሽኖች 10 ምርጥ - owasp.org

3. የኢንፎርሜሽን ኮሚሽነር ቢሮ (ICO) - የICO ስምንት ጥያቄዎች ለጄኔሬቲቭ AI - ico.org.uk

የቅርብ ጊዜውን የ AI ኦፊሴላዊ የ AI ረዳት መደብር ያግኙ

ስለ እኛ