وكلاء الذكاء الاصطناعي

ما المقصود

وكيل الذكاء الاصطناعي نظام قادر على التصرف بشكل مستقل لبلوغ هدف محدد. وخلافًا للأدوات الحوارية، ينفّذ الوكيل المهام دون تدخل بشري في كل خطوة. فهو يفسّر التعليمات، ويخطط إجراءات متعددة، وينفّذها عبر أنظمة أو أدوات مختلفة، ويتكيف بحسب النتائج.

يمكن لوكيل مخصص لإدارة سلسلة التوريد أن يطّلع على قواعد بيانات الموردين، ويقارن المهل والأسعار، ويحرر طلب عرض سعر، ويرسله، ويسجّل التفاعل في نظام إدارة. وتتتابع هذه المهام دون تعليمات بشرية في كل مرحلة.

الرهانات والنقاشات

يخلق استقلال الوكلاء تحديات كبرى. فعندما يرتكب وكيل خطأ أو يتخذ قرارًا قابلًا للطعن، تصبح المسؤولية غامضة: هل هي على عاتق مطوّره أم مشغّله أم المؤسسة التي نشرته؟ كما ترث هذه الأنظمة التحيزات الموجودة في بيانات تدريبها. وتبقى مسألة الرقابة البشرية محورية: فالحفاظ على إشراف ملائم، لا غائب ولا معطّل، في منظومة يعالج فيها الوكلاء باستمرار مهام حساسة، يطرح صعوبات تنظيمية وتقنية. كما تُطرح مسألة البصمة الطاقية لهذه الأنظمة.

التنظيم والإطار الأوروبي

في أوروبا، يضع نظام الذكاء الاصطناعي (AI Act) الإطار القانوني القائم على مقاربة تستند إلى المخاطر: تُصنّف الأنظمة وفق أثرها المحتمل على الصحة والسلامة والحقوق الأساسية. وغالبًا ما يندرج الوكلاء المستقلون ضمن فئات عالية الخطورة. ويبقى الترابط بين نظام الذكاء الاصطناعي واللائحة العامة لحماية البيانات أساسيًا: فاللائحة تنظّم معالجة البيانات الشخصية، بينما يضيف نظام الذكاء الاصطناعي متطلبات تتعلق بعمل الأنظمة نفسها ومستوى خطورتها.

ما تتابعه ActuIA

تتابع ActuIA التطورات التنظيمية المتعلقة بوكلاء الذكاء الاصطناعي: التوضيحات حول تصنيف مخاطرهم، والتجارب الأولى للمؤسسات، والنقاشات حول الحوكمة والشفافية المطلوبتين. كما نغطي الابتكارات التكنولوجية، ورهانات أمن الأنظمة المستقلة وقابليتها للتدقيق، والتحولات التنظيمية التي تحدثها.