AI Bias ምንድን ነው?

AI በሁሉም ቦታ - በጸጥታ እየደለደለ፣ እያስመዘገበ እና እየጠቆመ ነው። ያ ምቹ ነው… አንዳንድ ቡድኖችን ወደፊት እስኪያራምድ እና ሌሎችን ወደ ኋላ እስኪተው ድረስ። AI አድልዎ ምንድን ነው ብለው ካሰቡ ፣ ለምን በተሸለሙ ሞዴሎች ውስጥ እንኳን ይታያል ፣ እና ያለ ታንክ አፈፃፀም እንዴት እንደሚቀንስ ፣ ይህ መመሪያ ለእርስዎ ነው።

ከዚህ በኋላ ሊያነቧቸው የሚፈልጓቸው መጣጥፎች፡-

🔗 GPT ምን ማለት ነው?
የጂፒቲ ስም እና አመጣጥ ግልጽ-እንግሊዝኛ።

🔗 መተንበይ AI ምንድን ነው
ግምታዊ ሞዴሎች ከታሪካዊ እና ቀጥታ ውሂብ እንዴት እንደሚተነብዩ።

🔗 ክፍት ምንጭ AI ምንድን ነው?
ፍቺ፣ ቁልፍ ጥቅሞች፣ ተግዳሮቶች፣ ፍቃዶች እና የፕሮጀክት ምሳሌዎች።

🔗 AIን ወደ ንግድዎ እንዴት ማካተት እንደሚቻል
የደረጃ በደረጃ ፍኖተ ካርታ፣ መሳሪያዎች፣ የስራ ፍሰቶች እና የለውጥ አስተዳደር አስፈላጊ ነገሮች።

ፈጣን ትርጉም፡ AI Bias ምንድን ነው?

AI አድሎአዊነት ማለት የ AI ስርዓት ውጤቶች ስልታዊ በሆነ መንገድ የተወሰኑ ሰዎችን ወይም ቡድኖችን ሲደግፉ ወይም ሲጎዱ ነው። ብዙውን ጊዜ ሚዛናዊ ካልሆኑ መረጃዎች፣ ጠባብ የመለኪያ ምርጫዎች ወይም ስርዓቱ ከተገነባበት እና ጥቅም ላይ ከዋለበት ሰፊ አውድ የሚመነጭ ነው። አድልዎ ሁል ጊዜ ተንኮለኛ አይደለም፣ ነገር ግን ካልተስተካከለ ጉዳቱን በፍጥነት ሊያሳድግ ይችላል። [1]

አጋዥ ልዩነት ፡ አድልዎ በውሳኔ አሰጣጥ ላይ የተዛባ ነው፣ መድልዎ ስኪው በዓለም ላይ ሊያመጣ የሚችለው ጎጂ ውጤት ነው። ሁሉንም አድልዎ ማስወገድ አይችሉም፣ነገር ግን ፍትሃዊ ያልሆነ ውጤት እንዳይፈጥር ማስተዳደር አለብዎት። [2]

ለምን አድልዎ መረዳቱ የተሻለ ያደርግሃል 💡

እንግዳ መውሰድ ፣ ትክክል? ግን የ AI አድልዎ ምን እንደሆነ የሚከተሉትን ያደርግዎታል-

• በንድፍ የተሻለ - ደካማ ግምቶችን ቀደም ብለው ይመለከታሉ።

• በአስተዳደር የተሻለ - በእጅ ከማውለብለብ ይልቅ የንግድ ልውውጥን ትመዘግባለህ።

• በንግግሮች የተሻለ - ከመሪዎች፣ ከተቆጣጣሪዎች እና ከተጠቁ ሰዎች ጋር።

እንዲሁም፣ የፍትሃዊነት መለኪያዎችን እና ፖሊሲን ቋንቋ መማር በኋላ ጊዜ ይቆጥባል። እንደ እውነቱ ከሆነ፣ ከመንገድ ጉዞ በፊት ካርታ እንደመግዛት ነው-ፍጽምና የጎደለው ነገር ግን ከንዝረት በጣም የተሻለ። [2]

በዱር ውስጥ የሚያዩዋቸው የ AI አድልዎ ዓይነቶች

አድልዎ በ AI የህይወት ዑደት ውስጥ ይታያል። የተለመዱ የስርዓተ-ጥለት ቡድኖች በሚከተሉት ውስጥ ይካሄዳሉ፦

• የውሂብ ናሙና አድልዎ - አንዳንድ ቡድኖች ውክልና የላቸውም ወይም ጠፍተዋል።

• መለያ አድልዎ - ታሪካዊ መለያዎች ጭፍን ጥላቻን ወይም ጫጫታ የሰዎችን ፍርድ ያመለክታሉ።

• የመለኪያ አድሏዊ - እርስዎ በእውነት ዋጋ የሚሰጡትን የማይይዙ ተኪዎች።

• የግምገማ አድሏዊ - የፈተና ስብስቦች የተወሰኑ ሰዎችን ወይም አውዶችን ያመልጣሉ።

• የማሰማራት አድልዎ - ጥሩ የላብራቶሪ ሞዴል በተሳሳተ መቼት ውስጥ ጥቅም ላይ ይውላል.

• ስልታዊ እና ሰዋዊ አድሎአዊነት - ሰፋ ያሉ ማህበራዊ ቅጦች እና የቡድን ምርጫዎች ወደ ቴክኖሎጅ መግባት።

ጠቃሚ የአዕምሮ ሞዴል ከመመዘኛ አካላት ወደ ሰው፣ ቴክኒካል እና ስርአታዊ ምድቦች ያደላ እና የሞዴል ማስተካከያዎችን ብቻ ሳይሆን ማህበራዊ-ቴክኒካል [1]

በቧንቧ መስመር ውስጥ አድልዎ የሚሽከረከርበት 🔍

1. ችግርን መቅረጽ - ዒላማውን በጣም በጠባብ ይግለጹ እና ምርቱ ማገልገል ያለባቸውን ሰዎች አታካትቱ።

2. የመረጃ ምንጭ - ታሪካዊ መረጃዎች ብዙውን ጊዜ ያለፉትን ኢፍትሃዊነት ያመለክታሉ።

3. የባህሪ ምርጫዎች - ሚስጥራዊነት ያላቸው ባህሪያት ፕሮክሲዎች ሚስጥራዊነት ያላቸው ባህሪያትን እንደገና መፍጠር ይችላሉ።

4. ስልጠና - አላማዎች ፍትሃዊነትን ሳይሆን አማካይ ትክክለኛነትን ያሻሽላሉ.

5. በመሞከር ላይ - የያዙት ስብስብ ከተዛባ፣ የእርስዎ መለኪያዎችም እንዲሁ ናቸው።

6. ክትትል - በተጠቃሚዎች ወይም በዐውደ-ጽሑፍ ውስጥ ያሉ ለውጦች ጉዳዮችን እንደገና ሊያስተዋውቁ ይችላሉ።

ተቆጣጣሪዎች በዚህ የህይወት ዑደት ውስጥ ያሉ የፍትሃዊነት አደጋዎችን በመመዝገብ ላይ ያተኩራሉ፣ በአምሳያ ተስማሚ ጊዜ ላይ ብቻ አይደለም። ሁሉም-እጅ የአካል ብቃት እንቅስቃሴ ነው። [2]

በክበብ ውስጥ ሳንሄድ ፍትሃዊነትን እንዴት እንለካለን? 📏

ሁሉንም የሚገዛበት አንድ መለኪያ የለም። በእርስዎ የአጠቃቀም ጉዳይ እና ማስወገድ የሚፈልጓቸውን ጉዳቶች መሰረት ይምረጡ።

• የስነሕዝብ እኩልነት - የመምረጫ ዋጋዎች በቡድኖች ውስጥ ተመሳሳይ መሆን አለባቸው. ጥያቄዎችን ለመመደብ ጥሩ ነው, ነገር ግን ከትክክለኛነት ግቦች ጋር ሊጋጭ ይችላል. [3]

• እኩል ዕድሎች - እንደ የውሸት አወንታዊ እና እውነተኛ አወንታዊ የስህተት መጠኖች ተመሳሳይ መሆን አለባቸው። የስህተት ዋጋ በቡድን ሲለያይ ጠቃሚ ነው። [3]

• መለካት - ለተመሳሳይ ነጥብ ውጤቶች በቡድን እኩል መሆን አለባቸው። ውጤቶች የሰዎችን ውሳኔ በሚመሩበት ጊዜ ጠቃሚ ነው። [3]

Toolkits ይህንን ተግባራዊ የሚያደርጉት ክፍተቶችን፣ ቦታዎችን እና ዳሽቦርዶችን በማስላት መገመት እንዲችሉ ነው። [3]

በትክክል የሚሰራ አድልኦን ለመቀነስ ተግባራዊ መንገዶች 🛠️

ከአንድ የብር ጥይት ይልቅ የተደራረቡ ቅነሳዎችን ያስቡ

• የውሂብ ኦዲት እና ማበልፀግ - የሽፋን ክፍተቶችን መለየት ፣ ህጋዊ በሆነበት ቦታ ደህንነቱ የተጠበቀ መረጃ መሰብሰብ ፣ የሰነድ ናሙና።

• እንደገና ማመዛዘን እና እንደገና ማዋቀር - ስኪውትን ለመቀነስ የስልጠና ስርጭቱን ያስተካክሉ።

• በሂደት ላይ ያሉ ገደቦች - በዓላማው ላይ የፍትሃዊነት ግቦችን ይጨምሩ ስለዚህ ሞዴሉ በቀጥታ የንግድ ልውውጥን ይማራል።

• ተቃርኖ ማጉደል - ሞዴሉን በማሰልጠን ሚስጥራዊነት ያላቸው ባህሪያት ከውስጥ ውክልናዎች ሊተነብዩ አይችሉም።

• ከሂደቱ በኋላ - ተገቢ እና ህጋዊ በሚሆንበት ጊዜ የውሳኔ ገደቦችን በቡድን ያስተካክሉ።

• የሰው-በ-ዘ-ሉፕ ቼኮች - ሞዴሎችን ሊብራሩ ከሚችሉ ማጠቃለያዎች እና ከፍ ያሉ መንገዶች ጋር ያጣምሩ።

AIF360 እና Fairlearn ያሉ የክፍት ምንጭ ቤተ-ፍርግሞች ሁለቱንም መለኪያዎች እና ማቃለያ ስልተ ቀመሮችን ያቀርባሉ። አስማት አይደሉም፣ ግን ስልታዊ መነሻ ይሰጡዎታል። [5][3]

አድልዎ እንደሚያስፈልግ የገሃዱ ዓለም ማረጋገጫ 📸💳🏥

• የፊት ትንተና - በሰፊው የተጠቀሰው ጥናት በጾታ እና በቆዳ አይነት በንግድ ስርዓቶች ውስጥ ትልቅ ትክክለኛነት ያላቸውን ልዩነቶች መዝግቧል፣ ይህም መስኩን ወደ ተሻለ የግምገማ ልምዶች እንዲገፋ አድርጓል። [4]

• ከፍተኛ ደረጃ ላይ ያሉ ውሳኔዎች (ክሬዲት፣ ቅጥር፣ መኖሪያ ቤት) - ያለፍላጎት እንኳን፣ አድሏዊ የሆኑ ውጤቶች ከፍትሃዊነት እና ከፀረ-መድልዎ ተግባራት ጋር ይጋጫሉ። ትርጉም፡ እርስዎ ኮድ ብቻ ሳይሆን ለፈጽሞዎች ተጠያቂ ነዎት። [2]

ከተግባር የተገኘ ፈጣን መረጃ፡ ማንነታቸው ባልታወቀ የቅጥር ስክሪን ኦዲት ውስጥ አንድ ቡድን ለሴቶች በቴክኒካል ሚናዎች የማስታወስ ክፍተቶችን አግኝቷል። ቀላል ደረጃዎች-የተሻሉ የተደረደሩ ክፍፍሎች፣ የባህሪ ግምገማ እና በቡድን ደረጃ ገደብ አብዛኛው ክፍተቱን በትንሹ ትክክለኛነት ዝግ ነው። ቁልፉ አንድ ብልሃት አልነበረም; ሊደገም የሚችል የመለኪያ-ማቀነሻ-መከታተያ ዑደት ነበር።

ፖሊሲ፣ ህግ እና አስተዳደር፡ “መልካም” ምን ይመስላል 🧾

ጠበቃ መሆን አያስፈልግም፣ ነገር ግን ለፍትሃዊነት እና ለማብራራት መንደፍ ያስፈልግዎታል፡-

• የፍትሃዊነት መርሆዎች - በሰው ላይ ያተኮሩ እሴቶች፣ ግልጽነት፣ እና በህይወት ኡደት ውስጥ ያለ አድልዎ። [1]

• የውሂብ ጥበቃ እና እኩልነት - የግል መረጃ የሚሳተፍበት፣ በፍትሃዊነት፣ በዓላማ ገደብ እና በግለሰብ መብቶች ዙሪያ ግዴታዎችን ይጠብቁ፤ የዘርፉ ህጎችም ተፈጻሚ ሊሆኑ ይችላሉ። ግዴታዎችዎን አስቀድመው ያቅዱ። [2]

• የስጋት አስተዳደር - እንደ ሰፊ የ AI ስጋት ፕሮግራሞች አካል አድልዎ ለመለየት፣ ለመለካት እና ለመቆጣጠር የተዋቀሩ ማዕቀፎችን ይጠቀሙ። ፃፈው። ይገምግሙ። ይድገሙ። [1]

ትንሽ ወደ ጎን: የወረቀት ስራ ቢሮክራሲ ብቻ አይደለም; ማንም ቢጠይቅ ስራውን በትክክል መስራታችሁን የሚያረጋግጡበት መንገድ ነው

የንፅፅር ሠንጠረዥ፡ AI አድሏዊነትን ለመግራት መሳሪያዎች እና ማዕቀፎች 🧰📊

እነዚህ እያንዳንዳቸው መዋቅርን፣ መለኪያዎችን እና የጋራ መዝገበ-ቃላትን በመስጠት በአውድዎ ውስጥ AI አድልዎ ምን እንደሆነ

አጭር ፣ ትንሽ ሀሳብ ያለው የስራ ፍሰት 🧪

1. ለማስወገድ የሚፈልጉትን ጉዳት ይግለጹ - ምደባ ጉዳት ፣ የስህተት መጠን ልዩነቶች ፣ የክብር ጉዳት ፣ ወዘተ.

2. ከዚያ ጉዳት ጋር የተስተካከለ መለኪያ ይምረጡ - ለምሳሌ፣ የስህተት እኩልነት አስፈላጊ ከሆነ እኩል የሆኑ ዕድሎች። [3]

3. በዛሬው ውሂብ እና ሞዴል ያሂዱ የፍትሃዊነት ሪፖርት አስቀምጥ።

4. መጀመሪያ ዝቅተኛ-ፍንዳታ ጥገናዎችን ይሞክሩ - የተሻሉ የውሂብ መከፋፈል ፣ መመዘኛዎች ወይም እንደገና ክብደት።

5. አስፈላጊ ከሆነ ወደ ውስጠ-ሂደት ገደቦች ያዳብሩ

6. እውነተኛ ተጠቃሚዎችን በሚወክሉ የያዙት ስብስቦች ላይ እንደገና ይገምግሙ

7. በምርት ውስጥ ይቆጣጠሩ - የስርጭት ፈረቃዎች ይከሰታሉ; ዳሽቦርዶችም እንዲሁ።

8. የሰነድ ልውውጥ - ፍትሃዊነት ዐውደ-ጽሑፍ ነው፣ ስለዚህ ለምን እኩልነት X ከፓርቲ Y. እንደመረጡ ያብራሩ። [1][2]

ተቆጣጣሪዎች እና የስታንዳርድ አካላት የህይወት ኡደት አስተሳሰብን በምክንያት ያስጨንቃሉ። ይሰራል። [1]

የግንኙነት ምክሮች ለባለድርሻ አካላት 🗣️

• የሂሳብ-ብቻ ማብራሪያዎችን ያስወግዱ - መጀመሪያ ቀላል ገበታዎችን እና ተጨባጭ ምሳሌዎችን ያሳዩ።

• ግልጽ ቋንቋ ተጠቀም - ሞዴሉ ኢ-ፍትሃዊ በሆነ መንገድ ምን እንደሚሰራ እና ማን ሊጎዳ እንደሚችል ተናገር።

• የወለል ንግድ - የፍትሃዊነት ገደቦች ትክክለኛነትን ሊቀይሩ ይችላሉ; ጉዳትን የሚቀንስ ከሆነ ይህ ስህተት አይደለም.

• ያልተጠበቁ ሁኔታዎችን ያቅዱ - ጉዳዮች ከታዩ እንዴት ባለበት ማቆም ወይም መመለስ እንደሚቻል።

• ምርመራን ይጋብዙ - ውጫዊ ግምገማ ወይም የቀይ ቡድን ዓይነ ስውር ቦታዎችን ያሳያል። ማንም አይወደውም, ግን ይረዳል. [1][2]

የሚጠየቁ ጥያቄዎች፡- AI አድልዎ ምንድን ነው፣ በእውነቱ? ❓

አድልዎ መጥፎ መረጃ ብቻ አይደለምን?
ብቻ አይደለም. የውሂብ ጉዳይ ነው፣ ነገር ግን የሞዴሊንግ ምርጫዎች፣ የግምገማ ንድፍ፣ የስምሪት አውድ እና የቡድን ማበረታቻዎች ሁሉም በውጤቶች ላይ ተጽዕኖ ያሳድራሉ። [1]

ጭፍን ጥላቻን ሙሉ በሙሉ ማስወገድ እችላለሁ?
አብዛኛውን ጊዜ አይደለም. ኢ-ፍትሃዊ ተፅእኖን እንዳያመጣ አድልዎ ለማስተዳደር አላማህ [2]

የትኛውን የፍትሃዊነት መለኪያ ልጠቀም?
በጉዳት ዓይነት እና የጎራ ሕጎች ላይ በመመስረት ይምረጡ። ለምሳሌ፣ የውሸት አዎንታዊ ውጤቶች ቡድንን የበለጠ የሚጎዱ ከሆነ፣ በስህተት-ተመን እኩልነት (የተመጣጣኝ ዕድሎች) ላይ ያተኩሩ። [3]

የሕግ ግምገማ ያስፈልገኛል?
ስርዓትዎ የሰዎችን እድሎች ወይም መብቶች የሚነካ ከሆነ አዎ። በሸማች እና በእኩልነት ላይ ያተኮሩ ህጎች በአልጎሪዝም ውሳኔዎች ላይ ሊተገበሩ ይችላሉ፣ እና ስራዎን ማሳየት አለብዎት። [2]

የመጨረሻ አስተያየቶች፡ በጣም ረጅም፣ ያላነበበ 🧾✨

AI አድልዎ ምንድን ነው ብሎ ቢጠይቅዎት ፣ ሊከስ የሚችል መልስ ይኸውና፡ በእውነተኛው ዓለም ውስጥ ፍትሃዊ ያልሆነ ውጤት ሊያመጣ የሚችል በ AI ውጤቶች ውስጥ ስልታዊ ማወዛወዝ ነው። እርስዎ በአውድ-ተስማሚ መለኪያዎች መርምረውታል፣ በተደራረቡ ቴክኒኮች ይቀንሱት፣ እና በጠቅላላው የህይወት ኡደት ውስጥ ያስተዳድሩታል። ለመጨፍለቅ አንድም ስህተት አይደለም - እሱ ቋሚ የመለኪያ፣ ሰነድ እና ትህትና የሚያስፈልገው ምርት፣ ፖሊሲ እና የሰዎች ጥያቄ ነው። የብር ጥይት የለም ብዬ እገምታለሁ... ግን ጥሩ የፍተሻ ዝርዝሮች፣ ታማኝ የንግድ ልውውጥ እና የተሻሉ ልማዶች አሉ። እና አዎ፣ ጥቂት ስሜት ገላጭ ምስሎች በጭራሽ አይጎዱም። 🙂

ዋቢዎች

1. NIST ልዩ ሕትመት 1270 - በአርቴፊሻል ኢንተለጀንስ አድልኦን ለመለየት እና ለማስተዳደር ደረጃ ። አገናኝ

2. የዩኬ መረጃ ኮሚሽነር ቢሮ - ስለ ፍትሃዊነት፣ አድልዎ እና አድልዎስ? አገናኝ

3. Fairlearn ዶክመንቴሽን - የተለመዱ የፍትሃዊነት መለኪያዎች (የስነ-ሕዝብ እኩልነት፣ የተመጣጠነ ዕድሎች፣ ልኬት)። አገናኝ

4. ቡኦላምዊኒ፣ ጄ.፣ እና ገብሩ፣ ቲ. (2018) የሥርዓተ-ፆታ ጥላዎች፡-የኢንተርሴክሽን ትክክለኛነት ልዩነቶች በንግድ ፆታ ምደባ ። ስብ * / PMLR. አገናኝ

5. IBM ምርምር - AI ፍትሃዊነትን 360 (AIF360) በማስተዋወቅ ላይ ። አገናኝ

በኦፊሴላዊው AI አጋዥ መደብር የቅርብ ጊዜውን AI ያግኙ

ስለ እኛ