هايدي خلاف تحذر من خطورة تضارب المصالح في آليات تقييم أنظمة الذكاء الاصطناعي

حذرت د. هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد AI Now، من خطورة تضارب المصالح في آليات تقييم أنظمة الذكاء الاصطناعي التوليدي، مؤكدة أن ترك هذه المهمة بيد الشركات نفسها يفتح الباب أمام مخاطر قاتلة تمس الأمن القومي والسلامة العامة.

وقالت خلاف، التي عملت سابقاً مع عمالقة التكنولوجيا مثل مايكروسوفت وأمازون وOpenAI، إن "الخلل الجوهري" يكمن في أن الشركات المطورة لهذه النماذج هي ذاتها التي تحدد معايير السلامة والأمن، وتضع تعريفات فضفاضة تسمح لها بطرح منتجات غير دقيقة في الأسواق، بل وبيعها مباشرة للجيوش، رغم معرفتها بمعدلات الخطأ المرتفعة التي تتراوح – بحسبها – بين 40 و60%.

◄ أنظمة معيبة.. تهدد الأمن القومي

أوضحت د. خلاف أن خطورة هذه النماذج تكمن في طبيعتها نفسها، إذ إن طريقة تدريبها على البيانات التاريخية تجعلها تكرر التحيزات والأخطاء بشكل مؤتمت، وتُحوّل هذه المخرجات المعيبة إلى "واقع" يُبنى عليه في التطبيقات العسكرية الحساسة. وأضافت: "ما نراه اليوم هو انتقال الذكاء الاصطناعي من مجرد نظام إحصائي غير دقيق إلى أداة استهداف يمكن أن تتسبب في عواقب مميتة".

الأخطر، بحسب خلاف، أن لا أدلة علمية أو هندسية كافية تثبت التزام هذه النماذج بالصرامة المطلوبة لضمان السلامة والأمن في البيئات العسكرية، ما يجعل الاعتماد عليها "مغامرة غير محسوبة" تهدد حياة المدنيين والأمن القومي للدول.

◄ تضارب مصالح فجّ

شددت خلاف على أن الاعتماد على تقييمات تصدر من الشركات المنتجة نفسها يمثل تضارب مصالح خطير، إذ يمنح هذه الشركات سلطة مطلقة لتعريف "السلامة" و"الأمن" بما يخدم مصالحها التجارية، لا بما يضمن حماية الأرواح. وقالت: "ما يحدث هو أن الشركات تكسب مليارات الدولارات من بيع نماذجها، بينما المخاطر الأخلاقية والأمنية تتحملها الشعوب والحكومات".

◄ استمرار البيع رغم التحذيرات

أشارت د. خلاف إلى أن شركات الذكاء الاصطناعي الكبرى مستمرة في تزويد الجيوش بهذه النماذج، على الرغم من إدراكها للمخاطر، معتبرة أن ذلك يعكس "نقصاً في الجدية" لدى الحكومات والشركات على السواء. وأضافت: "هناك سباق محموم على الاستثمار والانتشار، لكن المخاطر المتعلقة بالسلامة والأمن يتم تجاهلها بشكل مقلق".

اقرأ أيضا| هايدي خلاف: «الخوارزميات المعيبة» ساهمت في كوارث غزة

وأكدت أن استمرار سيطرة الشركات الغربية على آليات "المحاذاة الأخلاقية" للنماذج يعني أن قرار التوجيه الأخلاقي والاستراتيجي لهذه التكنولوجيا ما يزال محتجزاً خارج إطار الرقابة الدولية.

◄ دعوة إلى تدخل عاجل

في ختام حديثها، دعت د. هايدي خلاف إلى إعادة النظر في منظومة حوكمة الذكاء الاصطناعي بالكامل، عبر فصل واضح بين الجهات المطورة والجهات المقيمة، وتأسيس هيئات دولية مستقلة لتقييم المخاطر.

وقالت: "إذا استمر الوضع كما هو عليه، فإننا نسير بسرعة نحو مستقبل تصبح فيه القرارات العسكرية الحساسة خاضعة لخوارزميات معيبة، صُممت وقُيّمت وبِيعت من الجهة نفسها، وهو ما يمثل تهديداً غير مسبوق للأمن القومي العالمي".