«التحيز الخوارزمي» يحرج تويتر

تويتر
تويتر

تفضل خوارزمية اقتصاص الصور في موقع التدوين المصغر تويتر Twitter ، الوجوه الأصغر والأقل نحافة، ذات البشرة الفاتحة ، وذلك وفقا لتحقيق حول التحيز الخوارزمي، في الشركة.

وقد جاءت النتيجة محرجة للشركة، التي كانت قد اعتذرت من قبل للمستخدمين بعد تقارير عن التحيز، ودفعت الشركة مبلغ 3500  دولار أمريكي إلى بوجدان كولينيتش ، وهو طالب دراسات عليا في جامعة EFPL السويسرية، والذي أظهر التحيز في الخوارزمية، والتي تُستخدم لتركيز معاينات الصور على الأجزاء الأكثر إثارة للاهتمام من الصور، وذلك كجزء من مسابقة في DEF CON Security مؤتمر في لاس فيجاس.

وفي سياق متصل، أثبت "كولينيتش" التحيز من خلال إنشاء وجوه ذات ميزات مختلفة بشكل مصطنع أولاً، ثم تشغيلها من خلال خوارزمية الاقتصاص في تويتر Twitter لمعرفة البرنامج الذي يركز عليه.

ونظرًا لأن الوجوه كانت مصطنعة، كان من الممكن إنشاء وجوه متطابقة تقريبًا ، ولكن في نقاط مختلفة على أطياف لون البشرة، أو العرض، أو التقديم الجنساني أو العمر - وهكذا أظهر أن الخوارزمية ركزت على الوجوه الأصغر والأكثر نحافة والأخف وزناً، عن تلك التي كانت أكبر سنًا، أو أعرض، أو أغمق في لون البشرة.