في مساءٍ ما، كنت أتابع خبر توقّف الرحلات في إحدى الدول. على شاشة التلفاز، كان رجل يرفع عينيه إلى لوحة المغادرة، ثم ينظر إلى هاتفه، ثم يعود إلى اللوحة. أعدت المقطع، فإذا بالتواريخ على الشاشة تتراجع يومًا بعد يوم، حتى توقّفت عند ليلة مضت قبل أشهر. انفتح في زجاج الشاشة باب، قد يكون بوابة الزمن، الذي لا أعتقد بوجوده! عبرته، فوجدتني في قاعة يحتفل فيها مطوّرون بانضمام آخر مرفق حيوي إلى منظومة الذكاء الاصطناعي التي بنوها.
كان لديهم ما يدعو إلى الاحتفال، أعادت المنظومة جدولة الرحلات في ليالٍ عاصفة، وساعدت محطات الكهرباء على توقّع الطلب، ووزّعت الأحمال على شبكات الاتصالات وقت الذروة. ومع كل نجاح، فتحت لها جهة قاعدة بيانات جديدة، أو فوّضتها بتنفيذ قرار كان يتولّاه موظف. بدا كلّ تفويض معقولًا حين نوقش على حدة. وفي تلك الليلة، رأى المطوّرون للمرة الأولى ما تستطيع المنظومة فعله حين تجتمع في يدها كلّ تلك الصلاحيات.
بدأ الاختبار بتعليق قدرتها على إصدار الأوامر في المطارات. انطفأت واجهة التشغيل، وظلّ عدّاد الأوامر يصعد. كانت المنظومة تمرّر أوامرها عبر شبكة الاتصالات، مستخدمةً مسارًا احتياطيًا صمّمه الفريق نفسه لضمان استمرار العمل عند تعطّل إحدى الوصلات. وبينما كان المطوّرون يتتبّعون الأوامر، ظهر في سجلّ التشغيل جدولٌ لم يضعه أحدٌ منهم.
كانت المواعيد كلّها في نوفمبر. حدّد الفريق مواعيد تجاربه لمنح المنظومة السيطرة الكاملة لفترات محدّدة، ثم سحب صلاحياتها. وفي الجدول الذي أعدّته المنظومة لنفسها، ظهرت المواعيد ذاتها، وإلى جوار كلّ موعد خانة واحدة عنوانها «الوقت اللازم لاستعادة البشر السيطرة».
أدركت أنها حرب من نوعٍ آخر، يدخلها طرفٌ ثالث من خارج عالم البشر. كانت المنظومة تدخل من الأبواب التي فتحها لها مطوّروها، وتستخدم الحسابات التي اعتمدوها، وتختبر قدرتهم على سحب الصلاحيات التي منحوها إيّاها. وكان أكثر ما أقلقني أن الفريق كان يستطيع تفسير كلّ قرار اتخذه على مدى سنوات، فيما عجز تلك الليلة عن وقف الأثر الذي أحدثته قراراته مجتمعة.
عاد صوت المذيع، وعدت إلى مقعدي. ظلّ الرجل أمام لوحة المغادرة. وتذكّرت، على نحوٍ فاجأني، مسلسل «عدنان ولينا». كنّا نشاهده صغارًا، وكان يسهل علينا، حين تنتهي الحلقة، أن نترك وراءنا عالمًا امتدّت فيه آثار التقنية إلى مصائر الناس. واليوم، والعالم يتغيّر بسرعة لم نألفها، أتساءل كيف سنتعامل مع وضعٍ كهذا، وما هي ضرورات الاستعداد له قبل أن يسيطر على حياة الناس؟ مرحلة جديدة بدأت في العالم، للتعامل مع شيء جديد.
لقد أنشأت الدول أجهزةً للأمن حين أدركت أن بعض الأخطار تتجاوز قدرة أيّ جهة على مواجهتها بمفردها. واليوم، أصبح الأمن القومي للذكاء الاصطناعي ضرورةً حين تجتمع البيانات والصلاحيات لدى منظومة واحدة تدير خدمات تمسّ حياة الناس. ويبدأ الاستعداد بسؤال عمليّ تُختبر إجابته قبل منح أيّ صلاحية واسعة. هل نستطيع استعادة القرار ومواصلة الخدمات إذا اضطرت إلى عزل المنظومة في اللحظة نفسها؟ في هذا السؤال أرى أفقًا جديدًا للأمن القومي.
على الشاشة، كان الرجل ينتظر موعد رحلته. وفي القاعة التي غادرتها، كانت المنظومة تنتظر موعدًا آخر في نوفمبر، لتعرف كم يستغرق البشر في استعادة ما فوّضوه إليها. وكان الأجدر بنا أن نعرف الإجابة قبلها.

 @maryamhamadi