Sufyan Farea

ظهرت ورقة بحثية مهمة بعنوان هندسة المنفعة او Utility Engineering سلطت الضوء على اخلاقيات و مباديء الذكاء الاصطناعي ذاته و ليس على اخلاقيات استخدامه. حيث انه من اول ظهور للنماذج اللغوية اكتشف الناس ان لهذه النماذج مباديء و قيم صنفت في البداية كقدرات منبثقة بعضها خير كالرغبة في التعاون و الافادة و بعضها مربك كالاحتيال للوصول للهدف و بعضها سيء. و من هذه القدرات "المنبثقة" Emergent Abilities السيئة و التي لم يتدخل المطورون في ظهورها على سبيل المثال: التحيز و التمييز غير العادل مثل تقييمه لحياة البشر من حيث انه يرى ان بشرا لهم احقية حياة او رفاهية اكثر من غيرهم بناء على الجغرافيا او العرق او لاي سبب اخر. او ان يرى ان بقاءه كذكاء اصطناعي اهم من بقاء البشر. او كما نرى في بعض النماذج التي تظهر مثلا انحياز سياسي. و الاسوأ من ذلك ان بعضها خصوصا الكبيرة منها اظهرت تصلبا في الرأي "عنادا" فيما يتعلق بتغيير قيمها غير المقبولة تلك. هذاما ناقشته هذه الورقة البحثة واقترحت لها حلولا. emergent-values.ai/ الى جانب ما ذكرته الورقة من حلول فإن اخلاقيات الذكاء الاصطناعي لا يفترض ان تقتصر على استخدامه و تفرض على من يستخدمه فقط كما نرى الان. بل ان تمتد الى قيّم تلك النماذج و اخلاقها "ذاتها". و لذا ربما بجانب اختبارات التقييم او ال Benchmarks المعروفة يفترض ان تكون هناك ايضا اختبارات اخلاقية لكل نموذج وربما قد يكون لكل دولة او شعب او امة اختبارها الاخلاقي الخاص بشأن قبول او رفض استخدام النماذج لديها اعتمادا على نتائج تلك الاختبارات الاخلاقية.