أخلاقيات الذكاء الاصطناعي في القطاع الحكومي: الإطار الذي لا يمكنك تجاهله

أصدرت هيئة الاتصالات والفضاء والتقنية (CST) وSDIA أطراً أخلاقية للذكاء الاصطناعي في المملكة. هذه الأطر لا تعمل في فراغ — بل تستند إلى التوجيهات الدولية كإطار أخلاقيات الذكاء الاصطناعي الصادر عن UNESCO والاتحاد الأوروبي. فهمها ضروري لكل جهة حكومية تستخدم أو تخطط لاستخدام الذكاء الاصطناعي.

المبادئ الستة لأخلاقيات الذكاء الاصطناعي الحكومي

1. 1العدالة وعدم التحيز: الذكاء الاصطناعي يجب ألا يُميّز ضد فئات بناءً على الجنس أو الجنسية أو الحالة الاقتصادية
2. 2الشفافية: يجب أن يعرف المواطن متى يُؤثر الذكاء الاصطناعي في قراره وكيف
3. 3المساءلة: يجب تحديد من يتحمل مسؤولية قرار الذكاء الاصطناعي حين يُخطئ
4. 4الموثوقية والأمان: الأنظمة يجب أن تعمل بشكل موثوق وآمن ومقاوم للتلاعب
5. 5حماية الخصوصية: البيانات الشخصية تُستخدم فقط لأغراض مشروعة ومُصرَّح بها
6. 6الرفاه الإنساني: الهدف النهائي هو خدمة المواطن لا استبداله أو إقصاؤه

التحيز في الذكاء الاصطناعي الحكومي: مخاطر حقيقية

التحيز في الذكاء الاصطناعي الحكومي ليس افتراضياً. في الولايات المتحدة، استخدمت بعض الجهات نماذج ذكاء اصطناعي لتقييم خطر الجريمة تحيّزت ضد الأقليات. في أوروبا، استُخدمت نماذج لتصنيف المتلقين للمساعدة الاجتماعية أنتجت تمييزاً. في السياق الحكومي السعودي، أي نموذج ذكاء اصطناعي يُستخدم في قرارات تمس المواطنين يجب اختباره للتحيز قبل النشر.

إطار عملي لتطبيق أخلاقيات الذكاء الاصطناعي

1. 1تقييم الأثر قبل النشر: وثّق مخاطر التحيز والخصوصية والأمان لكل نظام
2. 2لجنة أخلاقيات الذكاء الاصطناعي: لجنة متعددة التخصصات تُراجع الأنظمة عالية المخاطر
3. 3الإشراف البشري الإلزامي: في القرارات ذات الأثر العالي على المواطن — دائماً
4. 4آلية الطعن والتظلم: المواطن يجب أن يستطيع الطعن في قرار اتخذه الذكاء الاصطناعي
5. 5المراجعة الدورية: اختبار النماذج للتحيز بانتظام — الأداء يتغير مع تغير البيانات