الوضع الراهن: أنظمة الذكاء الاصطناعي تفشل بصمت لا بضجيج
حين يتعطل نظام تقليدي، تظهر النتيجة فوراً: توقف الخدمة، رسالة خطأ، شاشة سوداء. أما حين يخطئ نظام ذكاء اصطناعي، فالنتيجة غالباً استمرار الخدمة بشكل طبيعي ظاهرياً بينما تكون القرارات الصادرة عنه غير دقيقة أو منحازة أو مبنية على بيانات لم تعد صحيحة. هذا الفرق الجوهري هو ما يجعل حوادث الذكاء الاصطناعي أخطر من أعطال البنية التقنية التقليدية، لأن اكتشافها يتطلب رصداً مستمراً لجودة القرار، لا فقط لتوافر الخدمة.
في كثير من المؤسسات السعودية التي دخلت مرحلة التبني الفعلي للذكاء الاصطناعي في خدمة العملاء أو التحليل الائتماني أو الفرز الوظيفي أو التنبؤ التشغيلي، توجد خطط استمرارية أعمال جيدة للأنظمة التقليدية، لكن هذه الخطط لم تُصمم أصلاً لتغطي سلوك نموذج تعلّم آلي ينحرف تدريجياً عن الأداء المتوقع، أو يتعرض لبيانات مدخلة غير نظيفة، أو يُستخدم خارج السياق الذي دُرّب عليه.
السؤال الذي يجب أن يطرحه كل قائد تنفيذي ليس فقط "هل نظامنا يعمل؟" بل "كيف نعرف متى يتوقف قراره عن كونه صحيحاً؟" وهذا سؤال حوكمي وتشغيلي معاً، لا سؤال تقني بحت.
الثغرة المكلفة: غياب البروتوكول يعني تأخير القرار في اللحظة الحرجة
حين يكتشف موظف أو عميل خطأً صادراً عن نظام ذكاء اصطناعي، فإن أول ما يحدث في غياب بروتوكول واضح هو الارتباك: من يُبلَّغ أولاً؟ هل يُوقف النظام أم يستمر تشغيله بينما يُراجَع؟ من يملك صلاحية اتخاذ القرار النهائي، فريق تقنية المعلومات أم مالك العملية التجارية أم لجنة حوكمة البيانات؟ هذا التردد، الذي قد يبدو تفصيلاً إجرائياً، هو في الواقع الفارق بين حادثة محدودة الأثر وحادثة تتسع نطاقاً بسبب استمرار اتخاذ قرارات خاطئة أثناء البحث عن المسؤول.
التكلفة الحقيقية هنا ليست فقط الخطأ الأول، بل الفترة الزمنية التي يستمر فيها النظام في إصدار قرارات مشابهة قبل أن يتم إيقافه أو تصحيحه. في القطاعات التي تتعامل مع قرارات ائتمانية أو تعيينات أو تسعير أو تصنيف مخاطر، قد تتراكم قرارات خاطئة متعددة خلال ساعات قليلة إذا لم توجد آلية تصعيد سريعة ومعرّفة مسبقاً.
هناك أيضاً بُعد يتعلق بالثقة الداخلية والخارجية: حين تتعامل المؤسسة مع خطأ الذكاء الاصطناعي بارتباك علني، فإن الأثر على ثقة الإدارة العليا في برنامج الذكاء الاصطناعي بأكمله يكون أكبر من الخطأ نفسه. القرار الاستراتيجي هنا هو الاستثمار في وضوح الاستجابة قبل الحادثة، لا بعدها.
معايير القرار: كيف تعرف أن مؤسستك معرّضة لهذا الخطر
ليست كل مؤسسة تستخدم الذكاء الاصطناعي معرّضة لخطر متساوٍ. المعيار الأول هو مدى تأثير قرار النظام على أفراد أو مبالغ مالية أو التزامات نظامية؛ فنظام يُصنّف رسائل بريدية أقل خطورة من نظام يوصي بمنح أو رفض تمويل. المعيار الثاني هو مستوى الاستقلالية: هل يتخذ النظام القرار النهائي أم يقدّم توصية يراجعها إنسان؟ كلما زادت الاستقلالية، زادت الحاجة إلى بروتوكول استجابة سريع وموثّق.
المعيار الثالث هو مدى قابلية اكتشاف الخطأ. بعض الأنظمة تُصدر مخرجات يمكن التحقق منها بسهولة نسبية، وأخرى تُصدر قرارات معقدة يصعب على غير المتخصص ملاحظة انحرافها. إذا كانت مؤسستك تعتمد على النوع الثاني دون وجود آلية مراجعة دورية، فإنها تحمل خطراً غير مرصود بالضرورة. المعيار الرابع، وهو الأهم عملياً، هو: هل توجد وثيقة معتمدة تحدد بوضوح من يملك صلاحية إيقاف النظام مؤقتاً؟ إذا كانت الإجابة غير واضحة أو تتطلب اجتماعاً لتحديدها، فهذه إشارة كافية للتحرك.
القادة الذين يطبّقون هذه المعايير بجدية يكتشفون غالباً أن الفجوة ليست في قدرات النظام التقنية، بل في وضوح المسؤولية التنظيمية حوله، وهي فجوة يمكن إغلاقها دون استبدال الأنظمة القائمة.
ما تحتاجه خطة استجابة قوية: الهيكل قبل الأدوات
خطة استجابة فعالة لحوادث الذكاء الاصطناعي تبدأ بتعريف واضح لما يُعتبر "حادثة": ليس فقط تعطل النظام، بل أيضاً انحراف واضح في جودة القرار، أو شكوى متكررة من نفس النوع، أو نتيجة تخالف السياسة الداخلية أو الالتزامات النظامية. بدون هذا التعريف، ستختلف فرق العمل حول متى يجب التصعيد، وسيُترك القرار لتقدير فردي غير متسق.
العنصر الثاني هو مصفوفة صلاحيات واضحة تحدد من يملك حق الإيقاف الفوري، ومن يقود التحقيق التقني، ومن يتواصل مع الأطراف المتأثرة، ومن يقرر متى يُعاد تشغيل النظام. هذه الأدوار يجب أن تكون معروفة قبل الحادثة، لا أن تُبتكر خلالها. العنصر الثالث هو توثيق كل حادثة بشكل منظم: متى بدأ الانحراف، كيف تم اكتشافه، ما القرار المتخذ، وما التعديل الذي طُبّق على النظام أو على عملية استخدامه، لأن هذا السجل هو ما يحوّل الحادثة إلى تحسين تراكمي بدل أن يتكرر الخطأ نفسه.
العنصر الرابع، وهو ما يميّز خطة ناضجة عن خطة شكلية، هو ربط بروتوكول الاستجابة بمراجعة ما بعد الحادثة تُشارك فيها الأطراف التقنية وأصحاب العملية التجارية معاً، بحيث لا يُنظر إلى الحادثة كخطأ تقني منفصل، بل كإشارة على حاجة محتملة لتعديل طريقة استخدام النظام أو نطاق صلاحياته.
من الخطة إلى التشغيل: الأدوار، التصعيد، والمراجعة المستمرة
الفرق بين خطة موجودة على الورق وخطة تعمل فعلياً هو التدريب والاختبار. المؤسسات التي تُحاكي سيناريو حادثة ذكاء اصطناعي مرة واحدة على الأقل قبل حدوثها الفعلي تكتشف عادة نقاط ضعف في مصفوفة الصلاحيات أو في سرعة الاتصال بين الفرق، ويمكن تصحيحها في بيئة منضبطة بدل أن تُكتشف تحت ضغط حادثة حقيقية.
التصعيد الفعّال يحتاج إلى تدرّج واضح: مستوى أول يتعامل مع الانحرافات الطفيفة عبر مراجعة داخلية سريعة، ومستوى ثانٍ يتطلب إيقاف جزء من النظام وإشعار الإدارة المعنية، ومستوى ثالث يتطلب إيقافاً كاملاً وتصعيداً إلى الإدارة العليا وربما إلى الجهات النظامية إذا تطلب الأمر ذلك بحسب طبيعة القطاع. هذا التدرج يمنع اثنين من أكثر الأخطاء شيوعاً: التهاون في الانحرافات الصغيرة، أو التصعيد المفرط الذي يُشغل الإدارة العليا بتفاصيل يمكن حلها تشغيلياً.
المراجعة المستمرة بعد الحادثة، وربطها بمؤشرات جودة القرار على المدى المتوسط، هي ما يحوّل الاستجابة من رد فعل إلى نظام تعلم مؤسسي. المؤسسات التي تتعامل مع كل حادثة كفرصة لتحسين ضبط النظام، لا كإحراج يجب إخفاؤه، هي التي تبني ثقة داخلية حقيقية في برنامج الذكاء الاصطناعي على المدى الطويل.
هل مؤسستك جاهزة؟ التقييم الذاتي والخطوة التالية
قبل أن تفكر في بناء خطة استجابة، اسأل بصراحة: هل نعرف بدقة أين تُستخدم أنظمة الذكاء الاصطناعي داخل مؤسستنا، وأي منها يتخذ قرارات مؤثرة دون مراجعة بشرية؟ هل توجد وثيقة معتمدة، ولو مبسطة، تحدد من يوقف النظام إذا لزم الأمر؟ وهل حدث في الماضي انحراف أو خطأ لم يُوثّق بشكل رسمي لأننا لم نملك آلية واضحة للتعامل معه؟ إذا كانت إجاباتك تشير إلى غياب أو غموض، فأنت لست وحدك؛ هذه فجوة شائعة في المؤسسات التي تبنّت الذكاء الاصطناعي بسرعة أكبر من نضوج حوكمتها الداخلية.
عدم التحرك الآن لا يعني بالضرورة وقوع كارثة فورية، لكنه يعني أن المؤسسة تعتمد على الحظ الجيد بدل الاستعداد المنظم في اللحظة التي يحدث فيها خطأ مؤثر، وهذه اللحظة، من واقع طبيعة الأنظمة التي تتعلم من بيانات متغيرة، ليست مسألة "إن" بل مسألة "متى". المؤسسات التي تبني وضوحاً حول الاستجابة مسبقاً هي التي تتعامل مع الحادثة كحدث تشغيلي محدود، بدل أن تتحول إلى أزمة تُستهلك فيها ثقة القيادة والعملاء معاً.
في ASLS.AI، نساعد المؤسسات السعودية على تحويل هذا الوضوح إلى نظام عملي: تحديد نقاط المخاطر الحقيقية في استخدامها للذكاء الاصطناعي، بناء مصفوفة صلاحيات وتصعيد واضحة، وتصميم بروتوكول استجابة قابل للتنفيذ من الفرق الداخلية دون الاعتماد الدائم على استشاري خارجي. إذا كانت مؤسستك تستخدم الذكاء الاصطناعي في قرارات مؤثرة ولا تملك بعد إجابة واضحة على سؤال "من يوقف النظام عند الخطأ؟"، فالخطوة المنطقية التالية هي جلسة استشارية مركزة لتقييم جاهزية الاستجابة الحالية، لا مشروعاً كاملاً من اليوم الأول.