في 16 سبتمبر 2026، في Sciences Po، يستحضر Yann LeCun شخصية James Bond لوصف سيناريو هجوم سيبراني واسع النطاق يشنّه وكلاء ذكاء اصطناعي. فالمدافعون، في رأيه، يمتلكون تقنيات وكفاءات متفوقة. ويؤكد أن ظهور الوكلاء يصبّ في مصلحة الدفاع. ويضيف أن الهجمات والدفاعات تزداد تطورًا، من دون أن يرى تغيرًا واضحًا في التوازن بينهما. وفي ما يخص الخطر البيولوجي، يحتج بالوسائل اللازمة لتصنيع عامل مُمرِض، ثم بدوافع المتخصصين: فهم، بحسبه، يملكون آفاقًا أفضل من العمل على فيروس قد يقتلهم.

في هذه الإجابات، يستند تفاؤله التكنولوجي أيضًا إلى ثقته في الإنسان. غير أن فاعلين أكفاء وحسني النية قد يتركون، مجتمعين، كارثةً تقع. صحيح أن LeCun يعمل على سلامة الأنظمة. لكن السؤال الذي يظل قائمًا يتعلق بموثوقية القرارات البشرية والمؤسسات المكلفة بإعمال هذه السلامة، في ظروف تكون قد أساءت تقديرها مسبقًا أحيانًا.

حمايات تقنية، وافتراضات بشأن السلوكيات

هذه الثقة صريحة. ففي مقابلته مع Lex Fridman المنشورة في مارس 2024، يقول LeCun إنه يعتقد أن الناس «طيبون في جوهرهم»، بحسب ترجمتنا، ويربط التشاؤم إزاء الذكاء الاصطناعي بانعدام الثقة في الأشخاص أو المؤسسات. وفي مقابلة مع The Hub عام 2023، كان يؤكد من قبلُ أن الفاعلين حسني النية سيمتلكون وسائل أكبر، وأن المستخدمين سيرفضون الآلات الخطرة. وإذا سلكت التكنولوجيا اتجاهًا خاطئًا، «فإننا نتوقف، ببساطة»، على حد قوله آنذاك.

ويقترح LeCun أيضًا حلولًا هندسية. ففي حواره مع Lex Fridman، يصف ذكاءً اصطناعيًا موجَّهًا بأهداف تتضمن ضوابط أمان، ويقرّ بأن سلوكيات غير متوقعة ستحدث، ويتوقع تحسنًا تدريجيًا في الحمايات. ويستعيد ملخص حواره في INSEAD، المنشور في 14 سبتمبر 2026، هذا الطموح: استباق عواقب الأفعال بفضل نماذج العالم، وإدماج قيود في عملية اتخاذ القرار. وفي Fortune في 1 أكتوبر، يعزو الحوادث إلى عيوب في التصميم والإشراف، يرى أنه كان يمكن تجنبها.

تمنح هذه الأبحاث تفاؤله أساسًا تقنيًا. لكنها تترك مسألة الشروط الجماعية لنجاحها مفتوحة. فقد يرغب مستخدم في أداة مفيدة دون أن يعرف مخاطرها. وقد تتردد إدارة في وقف نشاط ما. وقد تتشارك عدة فرق افتراضًا خاطئًا. فالمشكلة تبدأ قبل النية الخبيثة بوقت طويل: إذ يكفي أحيانًا أن يثق كل طرف في حماية لم يتحقق أحد من حدودها.

لا تحتاج الكارثة إلى أن تهدد البشرية

يقدّم التاريخ الصناعي مقياسًا آخر للخطورة غير الانقراض. فقد طال انفجار AZF، في تولوز عام 2001، مدينةً بعيدًا عن حدود المصنع بكثير. وتوثّق أعمال في مجال الصحة العامة عواقبه على الصحة وعلى الحياة الشخصية والأسرية والمهنية للسكان. ويمكن لحادث محلي أن يُحدث أضرارًا دائمة تتجاوز بكثير نطاق المؤسسة التي كانت مصدره.

في فوكوشيما، يصف تحليل العوامل البشرية والتنظيمية الذي أُجري لتقرير الوكالة الدولية للطاقة الذرية كيف عزّز الفاعلون المعنيون، على نحو متبادل، افتراضاتهم المسبقة بشأن السلامة. وقد حالت هذه القناعات المشتركة دون الاستعداد الملائم لحادث مارس 2011. فالثقة في النظام كانت هي نفسها جزءًا من المشكلة.

لا تقيس هذه السوابق خطر الذكاء الاصطناعي. لكنها تذكّر بما قد يكلفه القصور في الاستباق، حتى في قطاعات يعمل فيها متخصصون في السلامة. ومع انتشار الذكاء الاصطناعي، ينبغي الانطلاق من مبدأ أن حوادث خطيرة ستقع، والسعي إلى الحد من احتمال وقوعها ومن نطاقها على حد سواء. ولا تجيب القدرة على التصحيح لاحقًا، وحدها، عن مسألة الأضرار التي تقع في الأثناء.

تُظهر الحوادث الأخيرة، التي تبقى أضرارها المثبتة محدودة، فجواتٍ بالفعل بين الحمايات المقررة وطريقة عملها الفعلية. وتفصّل مقالاتنا حول إعادة تصنيف حوادث Anthropic وحول ستة تقارير صادرة عن OpenAI هذه الآليات. وبما أنها وقعت خلال عمليات تدريب أو تقييم، فلا يمكن أن يُستنتج منها معدل للخطر في بيئة الإنتاج. لكنها تُظهر أن تصميم قاعدة وتطبيقها وكشف الالتفاف عليها ثلاث مهام متمايزة.

بحسب تحقيق لشبكة CNN نُشر في 18 سبتمبر 2026، كاد الجيش الأمريكي، في الربيع، أن يعترض سفينة صينية في الشرق الأوسط استنادًا إلى تقرير أُعدّ بمساعدة الذكاء الاصطناعي حدّد خطأً حمولتها على أنها مرتبطة ببرنامج أسلحة نووية. ويُذكر أن العملية أُلغيت بعد التحقق. وتستند هذه الرواية إلى أربعة مصادر مجهولة الهوية؛ ولم يكن البنتاغون قد ردّ على CNN. والآلية الموصوفة هي آلية معلومة خاطئة أُدمجت في سلسلة قرار بشرية.

تفوّق المدافعين لا يحمي الجميع

وتضيف النية الخبيثة صعوبة أخرى. فهجمات 11 سبتمبر، التي تندرج ضمن الهجوم المتعمد لا الحادث الصناعي، وضعت وسائل غير متكافئة إلى حد بعيد في مواجهة بعضها. وتُبرز لجنة التحقيق الأمريكية التفاوت بين موارد الجماعة الإرهابية وموارد البلد المستهدف. وترصد إخفاقات في الاستباق والسياسات والقدرات والإدارة.

وتجاوزت عواقبها الدمار المباشر: فقد أدّت استجابة حلف الناتو خصوصًا إلى تحويل مهامه وقدراته. ولم يكن التفوق المادي للمدافعين يضمن الحماية من هجوم كبير ومن آثاره المتتالية.

ثم إن هذا التفوق موزّع على نحو غير متكافئ. ففي تقييمه المنشور في مايو 2025، توقّع NCSC البريطاني انقسامًا بين الأنظمة القادرة على مجاراة وتيرة التهديدات المعززة بالذكاء الاصطناعي وجزء كبير من الأنظمة الأكثر هشاشة. ولذلك فإن إمكانات أفضل المختبرات أو القوى الكبرى لا تعكس الحماية الفعلية لجميع الشركات والمؤسسات.

السلامة تُبنى أيضًا داخل المؤسسات

إن تشبيه الطيران الذي كثيرًا ما يستخدمه LeCun تشبيه كاشف. فقد تطلّب جعل المحركات أكثر موثوقية عملًا هندسيًا هائلًا. لكن تاريخ سلامة الطيران يشمل أيضًا إصدار الشهادات ومراقبة الحركة الجوية والتحقيق في الحوادث. وقد كشف تصادم الغراند كانيون عام 1956 عن قصور الوقاية من التصادمات رغم تزايد الحركة الجوية. وبعد عامين، أنشأت الولايات المتحدة وكالة فيدرالية مستقلة جديدة مكلفة بسلامة الطيران المدني.

لقد بُني التحكم في المخاطر إذن على مستويات عدة. فقد نظّمت آليات جماعية تدفق المعلومات والرقابة والتدخل. ويدعم هذا التاريخ إمكانية تحقيق تقدم تقني أكثر أمانًا. لكنه يُظهر أيضًا العمل المؤسسي اللازم والثمن المدفوع حين تظل الحمايات غير كافية.

ويقرّ LeCun نفسه بدور لهذه المؤسسات. ففي Sciences Po، يدافع عن اختبارات مستقلة لأنظمة المساعدة على القيادة، وعن ترخيص بالطرح في السوق لأنظمة تحليل صور الماموغرافيا. غير أنه يرى أن التنظيمات القائمة كافية بوجه عام، وينفي، في ظل الوضع الراهن للذكاء الاصطناعي، وجود خطر جوهري يبرر تنظيم البحث.

فالنقطة الواجب فحصها محددة إذن: هل ستغطي هذه الأطر ووسائل الرقابة الخاصة بها الاستخدامات الجديدة فعلًا؟ من يستطيع التحقق من الحمايات، والوصول إلى آثار حادث ما، وإبلاغ الأطراف الثالثة المعنية، وفرض التصحيح؟ ينبغي أن يكون بالإمكان فحص هذه القدرات بمعزل عن الثقة الممنوحة للمطوّرين. وقد طرح تحقيقنا حول حوكمة Anthropic هذه الصعوبة من قبل: فالتشارك في نية الحذر وامتلاك السلطة لفرض احترامها أمران مختلفان.

التمييز بين التهديدات، وتنظيم الوقاية

لقد استقطب النقاش العام حول سيناريوهات الانقراض. ففي مقتطف من مقابلة نشره برنامج BBC Newsnight في 10 سبتمبر 2026، يرى Geoffrey Hinton أن تقدير نسبة 10% لخطر أن يقتل الذكاء الاصطناعي جميع البشر خلال عشر سنوات «ليس غير معقول». ويتعلق الأمر بتقديره هو للخطر. أما LeCun، ففي Sciences Po يشدّد على تفوق المدافعين ويستبعد باستخفاف السيناريوهات على طريقة James Bond. وهذا الجزء من إجابته، الذي يبقى على المستوى نفسه الذي يقف عليه معارضوه، يمنح النقاش قراءة مانوية، يتوقف فيها الأمن على تفوق الفاعلين حسني النية على خصومهم.

تُذكّر هجمات 11 سبتمبر بأن تفوق الوسائل لا يكفي لمنع هجوم كبير، قد تتجاوز عواقبه بكثير الدمار المباشر. غير أن الوقاية من الإرهاب والوقاية من الحوادث الصناعية تتطلبان تحليلات متمايزة، وإن تقاطعت بعض الحمايات. فخطأ في التصميم، أو تعليمات ملتبسة، أو إخفاق في التنسيق، قد يتسبب في أضرار دون أن يسعى أي فاعل إلى الإيذاء.

يقرّ LeCun بهذه الإخفاقات ويعمل على الوقاية منها. غير أن وصفها بأنها قابلة للتجنب يترك مسألة الشروط الفعلية لهذه الوقاية قائمة بكاملها. وبات من الضروري الحديث صراحةً عن الحوادث الصناعية الخطيرة التي قد يتسبب فيها الذكاء الاصطناعي أو يضخّمها، وتقييم احتمال وقوعها ونطاقها بحسب الاستخدامات، وتوضيح أوجه عدم اليقين. ويتعين على المطوّرين والشركات المستخدِمة والسلطات العامة تبادل الدروس المستخلصة من الحوادث واتخاذ القرار معًا بشأن وسائل الحماية.

لن يكفي كبح تطوير الذكاء الاصطناعي: فآخرون سيواصلون التقدم. وتبرر فوائده مواصلة الأبحاث والاستخدامات، مع حمايات يمكن التحقق من فعاليتها. ويجب أن تحدّ الاختبارات المستقلة وتقييد الوصول وفصل الأنظمة وإجراءات التدخل من احتمال وقوع الحوادث وأن تحتوي عواقبها. ويفترض ذلك ميزانيات ومسؤوليات محددة وسلطة فعلية لوقف أي عملية. فمن يتلقى الإنذار، ومن يقرر الإيقاف، ومن يُبلغ الأشخاص المعرّضين للخطر؟

توجد آليات بالفعل، بنطاقات ودرجات إلزام مختلفة، لكنها لا تزال غير كافية. ويقارن استعراضنا لوضع تنظيم الذكاء الاصطناعي بين المبادرات الدولية والقوانين الوطنية ومدى تطبيقها.