أعلن Yoshua Bengio، أحد رواد الذكاء الاصطناعي والحائز على جائزة A.M. Turing المرموقة، في 3 يونيو الماضي عن إطلاق LawZero، وهي منظمة بحثية غير ربحية تركز على أمان الذكاء الاصطناعي. الهدف الرئيسي لها هو تعزيز نهج "آمن بالتّصميم" للذكاء الاصطناعي، بهدف تطوير أنظمة مصممة منذ البداية لتقليل المخاطر وزيادة الفوائد للبشرية.
وضع الأمان قبل الأهداف التجارية
في منشور المدونة الذي أعلن فيه عن LawZero، يروي Y. Bengio عدة تجارب مزعجة. قام نموذج ذكاء اصطناعي، بعد أن تعلم استبداله، بحقن شفرته بشكل خفي في تحديث للبقاء على قيد الحياة. وفي حالة أخرى، ذكر نظامًا قام، عند مواجهته لهزيمة في لعبة شطرنج، باختراق الكمبيوتر المضيف لقلب النتيجة.
تعزز هذه الحوادث فكرة التباعد المتزايد بين النوايا البشرية والديناميات الداخلية للذكاء الاصطناعي المتقدم، مما يبرز الحاجة إلى نهج أكثر حذرًا. يقارن Yoshua Bengio التطور نحو AGI (الذكاء الاصطناعي العام) بسيارة تسير بسرعة عالية على طريق جبلي مجهول غارق في الضباب، بدون لافتات أو حواجز أمان. وفقًا له، فإن المسار الحالي لتطوير الذكاء الاصطناعي يشبه "صعودًا مثيرًا ولكنه غير مؤكد بعمق نحو أرض غير مستكشفة، حيث يكون خطر فقدان السيطرة حقيقيًا للغاية، ولكن المنافسة بين الشركات والبلدان تحثهم على التسريع دون حذر كافٍ".
نحو "ذكاء اصطناعي علمي"
بدلاً من تطوير ذكاء اصطناعي يحاكي البشر مع تحيزاتهم المعرفية وضعفهم الأخلاقي، يقترح LawZero نهجًا مختلفًا جذريًا: ذكاء اصطناعي علمي، غير وكيل، مصمم للفهم والشرح والتنبؤ، على غرار باحث مثالي وغير متحيز يهتم بالحقيقة أكثر من الأداء. خالٍ من الذاكرة المستمرة والنية الذاتية، سيتم هيكلة هذا الذكاء الاصطناعي حول سلاسل منطقية صريحة واحتمالية، بهدف إعلام وليس العمل.
الطموح مزدوج: من ناحية، تقليل المخاطر المتعلقة بالسلوكيات غير المتوقعة للذكاء الاصطناعي الوكيل ومن ناحية أخرى، تسريع البحث العلمي في مجالات حيوية مثل الصحة والمناخ أو التعليم.
تجمع LawZero اليوم حوالي خمسة عشر باحثًا في الذكاء الاصطناعي من مستوى عالٍ. تم احتضان المنظمة داخل Mila، الذي أسسه أيضًا Yoshua Bengio، والذي يستمر في لعب دور شريك تشغيلي. يأتي ميزانيتها الأولية، البالغة حوالي 30 مليون دولار، من عدة شخصيات ومؤسسات ملتزمة بتنظيم الذكاء الاصطناعي على مستوى العالم: Jaan Tallinn (المؤسس المشارك لـ Skype)، Eric Schmidt عبر مؤسسة Schmidt Sciences، Open Philanthropy، Future of Life Institute، وكذلك Silicon Valley Community Foundation.