الذكاء الاصطناعي في الوقاية من المخاطر

استخدامات ملموسة

يُطبَّق الذكاء الاصطناعي في مجالات عدة من الوقاية من المخاطر. ففي مجال السلامة المهنية، يحلّل تدفقات الفيديو لرصد السلوكيات الخطرة تلقائياً: غياب معدات الحماية، والتواجد في منطقة محظورة، والحركات الخطرة. ويتيح هذا الرصد في الوقت الفعلي التنبيه فوراً والتدخل قبل وقوع الحادث. ويستثمر التحليل التنبؤي البيانات التاريخية والبيئية لتحديد الفترات والمناطق الحرجة. وتلتقط النماذج الإشارات الضعيفة التي تنذر بتزايد الخطر، ما يسمح بتعديل خطط الوقاية على أسس واقعية. وتكشف المستشعرات الذكية، مدعومة بالخوارزميات، عن الحالات الشاذة في المعطيات البيئية: جودة الهواء، ومستويات الضجيج، والتسربات. كما تستفيد إدارة مخاطر الأطراف الثالثة من الذكاء الاصطناعي: المراقبة المؤتمتة للتغييرات التنظيمية، وتحديد ثغرات الامتثال، وإنشاء التقارير لتيسير عمليات التدقيق.

الرهانات والحدود

يتمثل التحدي الأبرز في الانحياز الخوارزمي. فالخوارزميات تعيد إنتاج الانحيازات الموجودة في بيانات التدريب وتضخّمها، ما قد يفضي إلى قرارات غير منصفة. والذكاء الاصطناعي المدرَّب على بيانات غير متوازنة قد يسيء التنبؤ لشرائح سكانية معينة أو لحالات هامشية. كما تطرح معالجة البيانات الشخصية مخاطر: إذ تستخدم الأنظمة غالباً بيانات حساسة مثل تسجيلات المراقبة والبيانات البيومترية وسجلات الحوادث. وتعرّض إعادة استخدامها لأغراض غير مأذون بها المؤسسة لانتهاكات الحق في الخصوصية، وتغدو إمكانية تتبّع القرارات أمراً بالغ الأهمية. وأخيراً، يطرح الاعتماد على الأدوات خطراً تنظيمياً: فالثقة المفرطة في التنبؤات المؤتمتة قد تُضعف الحكم البشري. وبدون تدقيق منتظم للقرارات الخوارزمية، لا تُكتشف الأخطاء إلا بعد تحقّق الخطر.

التنظيم والإطار الأوروبي

تواكب سلطات حماية البيانات الشركات في الالتزام باللائحة العامة لحماية البيانات داخل أنظمة الذكاء الاصطناعي، ولا سيما معالجة البيانات الشخصية. وتوصي بالشفافية بشأن المخاطر المرتبطة باستخراج البيانات، والتدابير اللازمة للحد منها، وآليات الطعن، وتنشر أدلة عملية لتوجيه المؤسسات. ويفرض قانون الذكاء الاصطناعي الأوروبي إطاراً موحّداً يقوم على تصنيف للمخاطر. ويمكن تصنيف أنظمة الذكاء الاصطناعي المستخدمة في الوقاية من المخاطر ضمن مستوى معتدل أو مرتفع تبعاً لمدى تأثيرها في قرارات تمسّ حقوق الأفراد، مع التزامات تُطبَّق على مراحل بالنسبة للأنظمة عالية الخطورة. وعلى المستوى الوطني تتدخل عدة جهات: الهيئات المعنية بالأمن السيبراني للأنظمة، وجهات حماية المستهلك، والجهات المنظِّمة للمحتوى المُولَّد.

ما تتابعه ActuIA

تتابع ActuIA تطور استخدامات الذكاء الاصطناعي في الوقاية من المخاطر: تطبيقات جديدة في رصد الحالات الشاذة، وتحسين القدرات التنبؤية، والاندماج في سلاسل اتخاذ القرار. ونرصد الملاحظات الميدانية حول الحدود: حالات الانحياز المكتشفة، وإخفاقات التنبؤ في سياقات غير مسبوقة، والأثر على التبعية التنظيمية. ونوثّق تطور التنظيم الأوروبي والوطني، ونُبرز التجارب التي تتقاسمها المؤسسات بشأن حوكمة الذكاء الاصطناعي وتدقيق القرارات الخوارزمية.