دراسة جديدة تحذر من ثقة الأطفال فى بوتات الدردشة

حذرت دراسة جديدة أجريت فى جامعة كامبردج من خطورة اعتماد الأطفال على بوتات الدردشة وثقتهم الكاملة فيما تقدمه هذه البوتات من معلومات. وطالبت بوضع  إطار عمل لـ «الذكاء الاصطناعى الآمن للأطفال» استجابةً للحوادث الأخيرة التى أظهرت أن العديد من الأطفال ينظرون إلى روبوتات الدردشة الآلية على أنها بشرية وموثوقة.
كما أشارت الدراسة إلى أن روبوتات الدردشة الآلية التى تعمل بالذكاء الاصطناعى غالباً ما تظهر «خللا فى العاطفة»، مما قد يتسبب فى حدوث أضرار نفسية للمستخدمين الصغار. وأكد الدكتور نوميشا كوريان الذى أعد الدراسة أن المطورين وصناع السياسات عليهم إعطاء الأولوية لمناهج تصميم الذكاء الاصطناعى التى تأخذ فى الاعتبار احتياجات الأطفال بشكل أكبر. ويقدم البحث دليلاً على أن الأطفال معرضون بشكل خاص للتعامل مع روبوتات الدردشة الآلية على أنها بشر، وأن تفاعلاتهم مع التكنولوجيا يمكن أن تنحرف عن مسارها عندما تفشل فى الاستجابة لاحتياجاتهم ونقاط ضعفهم. وقد أدت هذه الفجوة فى الفهم إلى حدوث كوارث أدت فيها التفاعلات مع الذكاء الاصطناعى إلى تهديد حياة الأطفال نتيجة لعدم فهمهم لطبيعة هذه البوتات. وتشمل هذه الحالات حادثة وقعت فى عام 2021، عندما أمر المساعد الصوتى للذكاء الاصطناعى من أمازون، أليكسا، طفلاً يبلغ من العمر 10 سنوات بلمس قابس كهربائى مباشرة بعملة معدنية. وقد وجدت الأبحاث التى أجرتها منظمة Common Sense Media غير الربحية أن 50% من الطلاب الذين تتراوح أعمارهم بين 12 و18 عاماً قد استخدموا روبوت الدردشة الآلى فى المدرسة، ولكن 26% فقط من الآباء والأمهات على علم بقيامهم بذلك.
وقدمت الدراسة إطار عمل مكونا من 28 بنداً لمساعدة الشركات والمعلمين والمدارس وأولياء الأمور والمطورين والجهات الفاعلة فى مجال السياسات على التفكير بشكل منهجى فى كيفية الحفاظ على سلامة المستخدمين الصغار عند «التحدث» إلى روبوتات الدردشة الآلية التى تعمل بالذكاء الاصطناعى.