التوظيف العادل بالذكاء الاصطناعي: المراجعة البشرية وفحص التحيز وبيانات المرشحين

من يتخذ القرار في التوظيف المدعوم بالذكاء الاصطناعي

في التوظيف العادل المدعوم بالذكاء الاصطناعي يتخذ البشر كل قرار يمس المرشح، ويجعل البرنامج تلك القرارات أسرع وأكثر استنارة. فالذكاء الاصطناعي يقرأ ويقارن ويرتّب ويشرح، وعضو محدد في فريق التوظيف يقرر من يُرفض ومن يُدعى إلى المقابلة ومن يتلقى عرضًا وظيفيًا.

وهذا المبدأ يجب أن يُبنى في المنتج نفسه، لا أن يُكتب في سياسة فقط. وبشكل ملموس:

• لا رفض تلقائي. الدرجة المنخفضة تؤخر المرشح في ترتيب المراجعة، ولا تُغلق طلبه أبدًا دون أن يراه شخص.
• قرار مسجَّل. يُسجَّل كل ترشيح ورفض وتقديم مع اسم المراجع، ومع سبب موجز حين يخالف رأيَ الذكاء الاصطناعي.
• أدلة ظاهرة. يرى المراجع أسباب كل متطلب والسيرة جنبًا إلى جنب، فتكون المراجعة حقيقية لا مجرد ضغطة على النتيجة الأولى.
• تصعيد للحالات الحدّية. الملفات غير المقروءة، والأدلة المتعارضة، والمرشحون القريبون من خط القطع، يحصلون على نظرة ثانية.

ويلتزم HireDash، منتج فرز السير الذاتية الذي صمّمته FLUIDS وبنته، بجوهر هذا المبدأ: فهو يعرض درجات الملاءمة والملخصات المكتوبة والتحقق من المتطلبات للمراجعة، ويتخذ فريق التوظيف القرار. أما الضوابط المحددة في القائمة أعلاه فتوصيات لأي أداة فرز، لا وصف لـ HireDash.

من أين يتسلل التحيز إلى فرز السير الذاتية الذكي

نادرًا ما يأتي التحيز في الفرز الذكي من قاعدة واحدة ظاهرة، بل يتسلل عبر إشارات تنوب عن صفات لا ينبغي أن يكون لها دور في القرار، وعبر تفاوت الجودة في مراحل المعالجة نفسها.

• الإشارات المباشرة. كثيرًا ما تتضمن السير في المنطقة الاسم والصورة والجنسية والجنس وتاريخ الميلاد والحالة الاجتماعية وأحيانًا الديانة. والنموذج الذي يراها قد يتأثر بها.
• الإشارات البديلة. سنة التخرج تدل على العمر، وبعض الأندية أو المدارس تدل على الجنس أو الخلفية، والحي السكني يدل على الأصل، وفترات الانقطاع عن العمل أكثر شيوعًا لدى من يتحملون مسؤوليات رعاية. ولا شيء من ذلك من متطلبات الوظيفة.
• متطلبات تحمل تفضيلًا. عبارات مثل «متحدث أصلي بالإنجليزية» أو «فريق شاب مفعم بالحيوية» تُدخل التحيز في تعريف الدور قبل تشغيل أي نموذج.
• الارتباطات المكتسبة. تتشرّب النماذج اللغوية أنماطًا من النصوص التي دُرّبت عليها، ومنها صور نمطية عمّن يناسب أي وظيفة.
• تفاوت جودة الاستخراج. إذا قُرئت السير العربية أو الممسوحة ضوئيًا بدقة أقل من ملفات الإنجليزية النظيفة، نال أصحابها درجات أدنى لأسباب لا علاقة لها بخبرتهم.

وتستحق النقطة الأخيرة اهتمامًا خاصًا في السعودية والخليج، حيث تصل نسبة معتبرة من السير بالعربية أو باللغتين. ويتناول دليل فرز السير الذاتية بالذكاء الاصطناعي مشكلات القراءة هذه، أما من زاوية العدالة فهي تحيز لم يقصده أحد، وقلّما تقيسه الفرق.

كيف تصمم تقييمًا يستبعد الإشارات الحساسة

أنجع الضمانات أبسطها: لا يتأثر النموذج بما لا يراه. فصمّم مسار المعالجة بحيث يجري التقييم على ملف مختصر، لا على السيرة الخام.

1. افصل الهوية عن الأدلة. بعد الاستخراج، احفظ الاسم والصورة وبيانات التواصل والجنسية والجنس وتاريخ الميلاد والحالة الاجتماعية والديانة في سجل المرشح، لكن لا ترسلها ضمن النص المرسَل للتقييم.
2. قلّل الإشارات البديلة الواضحة. قيّم الخبرة بالمدد لا بالسنوات التقويمية حيث أمكن، واحذف حقولًا مثل عنوان السكن لا يحتاجها أي متطلب.
3. أبقِ المتطلبات مرتبطة بالوظيفة. راجع تعريفات الأدوار بحثًا عن صياغات تحمل تفضيلًا، واشترط أن يكون كل متطلب مما يحتاجه العمل فعلًا.
4. وجّه ثم تحقق. اطلب من النموذج ألا يأخذ الصفات الشخصية في الحسبان، وافحص أسبابه المكتوبة آليًا بحثًا عن أي إشارة إليها. فالسبب الذي يذكر العمر أو الجنسية عيب يجب التحقيق فيه.
5. اعرض الملف المختصر على المراجعين أولًا. حيث أمكن، دع المراجع يقيّم الأدلة قبل رؤية بيانات الهوية، فهذا يفيد البشر كما يفيد النموذج.

والحجب ليس كاملًا؛ فقد تدل السيرة على الجنس أو الخلفية من خلال الجهات التي ينتمي إليها صاحبها، ولهذا يقترن الاستبعاد بالتدقيق. وهذا تطبيق في مجال التوظيف للضوابط التي تحتاجها أي ميزة ذكاء اصطناعي حساسة، ويطبّق دليل ضوابط الذكاء الاصطناعي في التطبيقات الإسلامية الفكرة نفسها: تقييد ما يجوز للنموذج قوله، والتحقق مما يقوله فعلًا.

كيف تدقق أداة الفرز الذكية بحثًا عن التحيز

تدقيق التحيز يتحقق من أن الأداة تعامل المرشحين المتكافئين معاملة واحدة، وينبغي إجراؤه قبل الإطلاق وبعد كل تغيير مهم. وهذه فحوص عملية تناسب معظم فرق التوظيف:

استخدم سيرًا مصطنعة في اختبارات الأزواج المتقابلة والتكافؤ، حتى لا تُعدَّل بيانات أي مرشح حقيقي أو يُعاد استخدامها في الاختبار. وسجّل إصدار النموذج وإصدار التعليمات وتعريف الدور مع كل تدقيق، لأن أيًّا منها قد يغيّر النتائج. وإن فكّرت في مقارنة النتائج بين فئات من المتقدمين الحقيقيين، فاستشر أولًا في البيانات التي يجوز لك نظامًا جمعها واستخدامها لهذا الغرض.

والمعايرة والتدقيق يعملان معًا. فدليل التقييم القابل للتفسير للمرشحين يشرح كيف تتحقق أن الدرجات تعني ما يظنه المراجعون، والتدقيق يتحقق أنها تعني الشيء نفسه للجميع.

ما الذي تُبلغ به المرشحين عن الفرز الذكي

ينبغي أن يعرف المرشحون أن الذكاء الاصطناعي يساعد في فرز طلباتهم، وأن البشر هم من يتخذون القرار. والإشعار الواضح الموجز عند التقديم يبني الثقة ويقلل المفاجآت، وينبغي أن يتناول:

• أن برنامجًا، بما فيه الذكاء الاصطناعي، يساعد في مراجعة الطلبات في ضوء متطلبات الدور.
• أن عضوًا في فريق التوظيف يراجع النتائج ويتخذ كل قرار.
• ما المعلومات المستخدمة، وأن الصفات الشخصية لا تدخل في التقييم.
• كم يُحفظ الطلب، وهل قد يُدرس لوظائف أخرى.
• كيف يطلب المرشح الاطلاع على بياناته أو تصحيحها أو حذفها، ومن يتواصل معه.

ولا تبالغ في وصف ما تفعله الأداة. فوصف الدرجة بأنها مقياس موضوعي للقدرة، أو الوعد بأن الذكاء الاصطناعي يزيل كل تحيز، يفتح الباب لشكاوى يصعب الرد عليها. أما الوصف البسيط للعملية ولمواضع تدخل البشر فيها فهو أصدق وأسهل في الدفاع عنه.

حماية بيانات المرشحين وفق نظام حماية البيانات الشخصية في السعودية

السير الذاتية ونتائج الفرز بيانات شخصية، وفي السعودية ينظّم معالجتها نظام حماية البيانات الشخصية الذي تشرف عليه الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا). وينبغي تأكيد التزامات النظام التفصيلية مع مستشار قانوني مختص، ويستطيع البرنامج تيسير الوفاء بها بعدة طرق:

• اجمع الحد الأدنى. اطلب فقط ما تحتاجه عملية التوظيف، وتجنّب حفظ حقول مثل الصور حين لا تخدم غرضًا.
• تحكّم في الوصول. قيّد من يستطيع فتح السير والنتائج، وسجّل الوصول إلى ملفات المرشحين.
• اعرف أين تذهب البيانات. إذا أُرسل نص السيرة إلى مزوّد نماذج ذكاء اصطناعي خارجي، فاعرف أين يُعالج، وهل يُحتفظ به أو يُستخدم في التدريب، وماذا يقول عقدك. ويتضمن النظام أحكامًا لنقل البيانات الشخصية خارج المملكة، فأشرك المستشار القانوني مبكرًا.
• طبّق مدة الاحتفاظ. احذف الطلبات أو أخفِ هوية أصحابها آليًا عند انتهاء المدة المتفق عليها، كما نشرح في دليل الاستفادة من قاعدة المرشحين.
• يسّر الطلبات. اجعل العثور على كل ما يُحفظ عن مرشح واحد وتصديره وتصحيحه وحذفه أمرًا ميسورًا.

بناء مراجعة بشرية فعّالة في الواقع

لا تحمي المراجعة البشرية المرشحين إلا إذا امتلك المراجعون الوقت والمعلومات والصلاحية لمخالفة الأداة. درّب المراجعين على ما تعنيه الدرجة وما لا تعنيه، واعرض لهم الأدلة في شاشة واحدة، واجعل تسجيل تجاوزهم لنتائجها سهلًا، وراجع حالات التجاوز هذه بانتظام؛ فهي أفضل مصدر لمعرفة مواضع خطأ الأداة.

تصمّم FLUIDS منتجات الذكاء الاصطناعي وتبنيها مع هذه الضمانات منذ البداية، للشركات في السعودية والخليج. اطّلع على دراسة مشروع HireDash، واقرأ عن منهجنا في ميزات الذكاء الاصطناعي داخل المنتج، أو تحدّث معنا عن برمجيات مخصصة لمسار التوظيف لديك.