د. محمد شومان يكتب: اختطاف الذكاء الاصطناعي

■ بقلم: د. محمد شومان

نجح الذكاء الاصطناعي في مواجهة القرصنة والهجمات السيبرانية ، لكن مَن يحمى الذكاء الاصطناعي من الاختراق وسيطرة المتسللين !! .

نعيش عصر البيانات الضخمة التى تعتمد عليها كل الحكومات والشركات بل والأفراد ، وتشمل البيانات النصوص والأرقام والصور والفيديوهات وإحداثيات نظام تحديد المواقع العالمى «GPS» وغيرها .. ومع التطور التكنولوجى المستمر يتضاعف حجم البيانات وسرعة معالجتها وحفظها ، كما تزداد فى الوقت نفسه المخاطر السيبرانية ، لذلك ظهرت أهمية أمن المعلومات ، والذى يقصد به حماية المعلومات وأنظمة المعلومات من الوصول غير المصرح به أو التعطيل أو التعديل أو التدمير .

وكانت أغلب عمليات حماية البيانات تتم بطرق يدوية وآلية محدودة ، وجاء الذكاء الاصطناعى ليحدث طفرة هائلة فى مجال حماية البيانات ، حيث تتمتع خوارزميات التعلم الآلى «ML»، بالقدرة على فحص مجموعات البيانات الضخمة، وتحديد الشذوذ أو المخالفات التى تشير إلى مشكلات أمنية محتملة ، وبالتالى تحسين عمليات تقييم المخاطر وبناء نماذج تنبؤية، وتنفيذ ضوابط فعالة. 

لكن الإشكالية أن بعض أنظمة الذكاء الاصطناعى التى استخدمت فى السنوات الأخيرة قد تعرضت للاختراق أو الاختطاف من أطراف أخرى  منافسة أو معادية !! باستخدام تقنيات متطورة ونماذج من الذكاء الاصطناعى !! والمفارقة أن ما ينشر عن هذه الحالات محدود للغاية ، رغم خطورته على مستقبل تطور الذكاء الاصطناعى والصراع حوله بين الشركات والدول ، فقد تصبح حروب المستقبل سيبرانية أو بين روبوتات وتطبيقات للذكاء الاصطناعى ، لذلك تثير اشكالية الذكاء الاصطناعى المعادى اهتماماً كبيراً بين العلماء لتطوير نماذج التعلم الآلى والعميق التى يمكنها الصمود فى وجه أنواع مختلفة من الهجمات .

فى حروب أمن الذكاء الاصطناعى قد ينجح الخصم سواء كان دولة أو شركة أو شخص فى تسميم البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي، من خلال إدخال بيانات تالفة فى مجموعة التدريب،  وبالتالى يمكنها التأثير على قرارات النموذج أو تحيز مخرجاته، وقد يتمكن المتسللون من الوصول المباشر إلى نموذج الذكاء الاصطناعى وتغيير أوزانه أو معلماته بشكل خفي، أو إدخال اضطرابات صغيرة (تشوهات) فى بيانات الإدخال والتى يمكن أن تؤدى إلى قيام نموذج الذكاء الاصطناعى بإجراء تنبؤات أو تصنيفات غير صحيحة ، كذلك يمكن التلاعب بأوامر التشغيل الصوتية التى تدير الروبوتات وتصدر الموافقات والتصديقات المختلفة كما يحدث فى بعض البنوك وأجهزة المنزل الذكى .

وهناك حالات وقعت بالفعل ، إضافة إلى تجارب أجريت فى بعض الجامعات الأمريكية للتحايل على أنظمة الذكاء الاصطناعى واختطافها ، وعلى سبيل المثال فى عام 2020، لاحظت شركة خدمات مالية أن المنافسين كانوا يقومون بصفقات متشابهة بشكل غير عادى ، وبالتحقيق تبين لاحقًا أن خوارزمية التداول الخاصة بهذه الشركة الأمريكية قد تم هندستها عكسيًا، حيث قام المتسللون بتحليل ناتج الخوارزمية لاستنتاج منطقها ، واستخدامه لصالحهم، وأثناء اجراء بعض التجارب اكتشف الباحثون أن بعض أنظمة التعرف على الوجه كانت عرضة لهجمات سمحت للأفراد غير المصرح لهم بتجاوز الأمان من خلال ادخال صور جديدة والتلاعب بصور أخرى . 

الأخطر أن هناك حالات اختراق لأنظمة الذكاء الاصطناعى العسكرية، ففى عام 2020، قام متسللون مرتبطون بدولة أجنبية باختراق قواعد بيانات وزارة الدفاع الأمريكية، والوصول إلى بيانات حساسة مدفوعة بالذكاء الاصطناعى تتعلق باللوجستيات والمراقبة وغيرها من الجوانب التشغيلية، وقد تكون هناك حالات أخرى لا يعلن عنها، لكن تبقى مخاطر السيطرة على أنظمة الذكاء الاصطناعى أو التلاعب بها امرا خطيرا للغاية ، وغالبًا ما يشار إليه باسم «هجوم الذكاء الاصطناعى المعادي» أو «هجوم التعلم الآلى المعادي» أو اختراق أو اختطاف الذكاء الاصطناعى كمصطلحات سهلة الاستخدام ، تصف سيطرة المتسللين على أنظمة الذكاء الاصطناعي، وخاصة عندما يتعلق الأمر بأجهزة مادية أو مستقلة فى التطبيقات العسكرية أو التجارية أو البنية التحتية الحيوية.

لذلك لابد من تطوير وتعزيز أمن الذكاء الاصطناعى من خلال الاعتماد على نهج متعدد الطبقات يشمل الجوانب السيبرانية والمادية ، واستخدام تقنيات أكثر تطوراً ، مع المراجعة والمراقبة الدورية لمكونات النظام والشفرات المستخدمة مع التركيز القوى على التدابير الاستباقية لتحديد نقاط الضعف ومنعها قبل أن يستغلها المهاجمون.