الذكاء الاصطناعي والأمن السيبراني في التعليم العالي.. خطوات مطلوبة لسد الفجوة
(الآراء الواردة في هذا المقال هي آراء شخصية للكاتب ولا تعبر بالضرورة عن وجهة نظر الفنار للإعلام).
دخل الذكاء الاصطناعي إلى الفصول الدراسية في العالم العربي دون سابق تخطيط. يُسلّم الطلاب اليوم مقالات مُنقّحة بواسطة ChatGPT. ويستخدم المسؤولون أدوات كشف الذكاء الاصطناعي لاكتشاف المحتوى المُعدّ بالذكاء الاصطناعي. ويُجري الباحثون تجارب على منصات الحوسبة السحابية، وتقع مراكزها عادة خارج حدود بلدانهم.
من خلال عملي في القطاع الصناعي، أشاهد ما يحدث لهؤلاء الخريجين بعد تخرجهم. ينتقل الكثير منهم إلى وظائف تتطلب منهم حماية أنظمة حساسة. لذا، لم يعد السؤال الحقيقي هو ما إذا كان الذكاء الاصطناعي سيُغيّر التعليم العالي هنا، بل ما إذا كنا سندمج الأمن والأخلاقيات في النظام قبل وقوع أي مشكلة.
هل الجامعات مستعدة؟
إذا كان المقصود بـ«الاستعداد» تقديم دورة في التعلم الآلي وأخرى في الأمن السيبراني، فالإجابة نعم، نحن نسير في هذا الاتجاه. أما إذا كان المقصود أن تضمن الجامعة عدم تسريب بيانات الطلاب من خلال أدوات التدريس المدعومة بالذكاء الاصطناعي، أو عدم معاقبة اللهجات المختلفة باستخدام أدوات التقييم المدعومة بالذكاء الاصطناعي، فالجواب الصريح هو لا.
تمتلك بعض الجامعات في المنطقة مختبرات ذكاء اصطناعي متطورة وسياسات أمنية فعّالة، لكن معظمها لا يزال يتعامل مع التحول الرقمي كعملية شراء. تُركّب أنظمة التعرف على الوجوه عند البوابات بينما يبقى محتوى قاعات المحاضرات كما هو. في القطاع المصرفي، لا نوافق أبدًا على خزنة جديدة تمامًا مع ضوابط أمنية متساهلة، ولا ينبغي لنا فعل ذلك في الحرم الجامعي أيضًا.
تحتاج بيئات التعلم الآمنة إلى بنية تحتية حقيقية، وشبكات لا تثق بالمستخدمين افتراضيًا، وضوابط وصول لمختبرات الذكاء الاصطناعي، ومساحات آمنة، حيث يمكن للطلاب اختراق الأنظمة عمدًا لفهم كيفية عمل الهجمات. كما يحتاجون إلى عادة السؤال: ففي كل مرة تُستخدم فيها أداة ذكاء اصطناعي جديدة، يجب على أحدهم أن يسأل عن المخاطر المحتملة. في معظم الجامعات، لا أحد يسأل، وهذا الصمت يُصبح مشكلة لمن يوظف هؤلاء الطلاب لاحقًا.
التعليم ومتطلبات الصناعة
تحدث إلى أي فريق متخصص في الذكاء الاصطناعي أو الأمن السيبراني في شركة خاضعة للتنظيم في السوق العربية، وستسمع الشكوى نفسها. يستطيع الخريجون الجدد تعريف التعلم الخاضع للإشراف والتعلم غير الخاضع للإشراف، لكنهم لا يستطيعون تنفيذ هجوم بسيط على نظام صور يعمل بالذكاء الاصطناعي، أو شرح كيفية الحفاظ على خصوصية بيانات العملاء أثناء تدريب نموذج عليها. يعرفون قائمة OWASP لأهم عشر ثغرات أمنية، لكنهم لم يفكروا قط في كيفية خداع روبوت محادثة مصرفي برسالة ذكية.
الوظائف التي يتقدمون إليها تتطلب أكثر من ذلك. يحتاج فريق الذكاء الاصطناعي في البنوك إلى أشخاص يفهمون قواعد إدارة مخاطر النماذج، ومهندسين على دراية بكيفية تطبيق قانون حماية البيانات الشخصية السعودي أو قانون حماية البيانات الاتحادي الإماراتي عند التدريب على بيانات العملاء. وينطبق الأمر نفسه على المستشفيات وفرق المدن الذكية. إنهم بحاجة إلى كفاءات قادرة على مناقشة العدالة بين مختلف اللهجات والأجناس ومستويات الدخل، وليس فقط الدقة.
تبقى الفجوة قائمة لأن معظم المناهج الدراسية لا تزال تتعامل مع الذكاء الاصطناعي والأمن السيبراني كمادتين منفصلتين. لم يعد الأمر كذلك. يجب أن تكون دورات تأمين أنظمة التعلم الآلي وحوكمة الذكاء الاصطناعي في القطاعات الخاضعة للتنظيم إلزامية، وليست اختيارية. وحيثما أمكن، ينبغي أن يتم تدريسهم من قبل أشخاص شاهدوا بالفعل نموذجًا يفشل أو جلسوا أمام جهة تنظيمية حقيقية.
دمج الأخلاقيات في المناهج الدراسية
يكمُن الخطأ الشائع في التعامل مع أخلاقيات الذكاء الاصطناعي في حلقة دراسية قصيرة في الفصل الدراسي الأخير. هذا النهج غير مُجدٍ. على طالب التمويل أن يُفكّر في عواقب استخدام الذكاء الاصطناعي في نماذج الإقراض، وما قد ينتج عنها من عقود من الإقراض غير العادل. وعلى طالب الصحافة أن يُدرك قدرة الذكاء الاصطناعي على اختلاق مصادر، وأنّ نشر مسودة سرية في أداة عامة أمرٌ مُحفوف بالمخاطر. وعلى طالب الطب الذي يستخدم الذكاء الاصطناعي في التشخيص أن يُفكّر في خصوصية المريض، وما إذا كان بالإمكان شرح قرار الذكاء الاصطناعي للمريض أو للجهة الرقابية.
يكمن التغيير الحقيقي في طرح هذه التساؤلات ضمن المواد الدراسية التي تظهر فيها المخاطر. ويعني ذلك إنشاء عيادات عملية يختبر فيها طلاب من تخصصات مختلفة أنظمة ذكاء اصطناعي حقيقية معًا للكشف عن التحيز والمشكلات الأمنية. كما يعني التعاون مع الجهات الرقابية لإنشاء بيئات تجريبية في الحرم الجامعي. على سبيل المثال، أنشأت البنوك المركزية الخليجية حاضنات لشركات التكنولوجيا المالية الناشئة، حيث يُمكن لطلاب القانون وإدارة الأعمال وعلوم الحاسوب بناء أدوات ذكاء اصطناعي متوافقة مع المعايير جنبًا إلى جنب.
للمعلمين دورٌ شديد الأهمية، فلا يُمكننا أن نطلب من أستاذ الأدب توجيه الطلاب بشأن الاستخدام المسؤول للذكاء الاصطناعي دون توفير التدريب والأدوات اللازمة. ينبغي على الجامعات إرسال أعضاء هيئة التدريس في مهام قصيرة أو دورات تدريبية داخل الشركات والهيئات التنظيمية، والمساعدة في كتابة دراسات حالة تستند إلى حوادث واقعية. هكذا يتحول الحديث عن السياسات إلى ممارسة عملية في قاعات الدراسة.
دروسٌ جديرةٌ بالتطبيق
تُؤكد المناقشات الأخيرة بين الباحثين والممارسين، بما في ذلك نقاشات مؤتمر IEEE SMILEs 2026، على نقطةٍ واحدة: بيئات التعلّم الآمنة للذكاء الاصطناعي ليست هدفًا طويل الأمد، بل هي مشكلة تصميم مُلحة في الوقت الراهن. فبدون دمج الأمن منذ البداية، تُصبح الجامعات وأنظمة الذكاء الاصطناعي التابعة لها أهدافًا سهلة لبرامج الفدية، وسرقة الأبحاث، والتلاعب الخفي بالبيانات، مما قد يُلحق الضرر بمجالات دراسية بأكملها.
والدرس الأهم للمنطقة العربية هو أنه لا يُمكن لأي جامعة بمفردها تحقيق ذلك. فبناء أدوات الأمن، وضوابط الوصول، ومراجعات الأخلاقيات اللازمة لبيئة تعلّم آمنة للذكاء الاصطناعي يُعدّ عبئًا كبيرًا على أية جامعة لوحدها.
يوجد في أوروبا بالفعل مجموعات من الجامعات تتشارك منصات اختبار آمنة للذكاء الاصطناعي. ويمكن للعالم العربي، بشبكاته البحثية المتنامية، وخططه الوطنية للذكاء الاصطناعي، أن يحذو حذوها.
هناك ثلاث خطوات من شأنها تسريع هذه العملية:
أولًا: وضع معيار إقليمي للدراية الأمنية للذكاء الاصطناعي، يُقرّه أصحاب العمل في القطاعين العام والخاص عند التوظيف.
ثانيًا: إلزام كل جامعة تتلقى تمويلًا حكوميًا للذكاء الاصطناعي بتشغيل بيئة اختبار مُحكمة باستخدام بيانات اصطناعية، ليتمكن الطلاب من اختبار الأنظمة تحت الضغط دون تعريض حياة الناس للخطر.
ثالثًا: ينبغي تشكيل لجان دائمة تضم ممثلين عن الصناعة والجامعات والهيئات التنظيمية، تجتمع كل ثلاثة أشهر. ليس الهدف مناقشة التوجهات السائدة، بل تحديث المناهج الدراسية لمواجهة أحدث الهجمات والقواعد الجديدة والاختراقات الحقيقية.
لا ينقص التعليم العالي العربي المواهب أو الطموح، بل ينقصه عامل الوقت؛ فتغيير المناهج يستغرق سنوات، بينما تظهر تهديدات الذكاء الاصطناعي في غضون أسابيع. والجامعات التي تسد هذه الفجوة أولًا ستُخرّج كوادر قادرة على رسم ملامح الذكاء الاصطناعي الآمن والأخلاقي في المنطقة. البيئة التجريبية جاهزة، وقد حان وقت استخدامها.
*مرونال غانغراد، نائب الرئيس لشركة جي بي مورغان تشيس.