الذكاء الاصطناعي يحجب قناة على يوتيوب بالخطأ بسبب ألوان قطع الشطرنج

أساء الذكاء الاصطناعي في يوتيوب تفسير محادثة حول الشطرنج على أنها لغة عنصرية، حيث حظر قناة يوتيوب بسبب تضمينها ما وصفه الموقع بالمحتوى "الضار والخطير"، ولم يشرح الموقع سبب حظره لقناة لاعب الشطرنج الكرواتي أنطونيو راديتش، المعروفة أيضًا باسم "أجادماتور"، لكن تمت استعادة الخدمة بعد 24 ساعة.
 
ووفقًا لما ذكرته صحيفة "ديلى ميل" البريطانية، كشف علماء الكمبيوتر في جامعة كارنيجي ميلون، أن مناقشة راديتش حول "الأسود مقابل الأبيض" في لعبة الشطرنج أدت بطريق الخطأ إلى تشغيل مرشحات الذكاء الاصطناعي على يوتيوب.
 
وجد الباحثون عند إجراء عمليات محاكاة باستخدام برنامج تم تدريبه على اكتشاف الكلام الذي يحض على الكراهية، أن أكثر من 80% من مقاطع فيديو الشطرنج التي تم الإبلاغ عنها بسبب كلام يحض على الكراهية تفتقر إلى أي منها، ولكنها تضمنت مصطلحات مثل "أسود" و"أبيض" و"هجوم" و"تهديد".
 
يقترح الباحثون أن تدمج منصات وسائل التواصل الاجتماعي لغة الشطرنج في خوارزمياتها لمنع المزيد من الالتباس، فمع أكثر من مليون مشترك، نعتبر القناة أكثر قنوات ألعاب الشطرنج شعبية على يوتيوب.
 
وتمت إعادة قناة راديتش بعد 24 ساعة، مما دفع إلى التنبؤ بأن استخدام عبارة "أسود ضد أبيض" كانت السبب، وفي ذلك الوقت، كان يتحدث عن الجانبين المتعارضين في لعبة الشطرنج.
 
كما أن العالم اشيكور ر. خودا بخش، عالم الكمبيوتر في معهد كارنيجي ميلون لتقنيات اللغة، اشتبه في أن راديتش كان على حق.
 
قال خودا بخش: "لا نعرف الأدوات التي يستخدمها يوتيوب، لكن إذا اعتمدوا على الذكاء الاصطناعي لاكتشاف اللغة العنصرية، فقد يقع هذا النوع من الحوادث".
 
كما أنه لاختبار نظريته ، أجرى وزميله الباحث رباك ساركار، اختبارات على اثنين من أحدث تصنيفات الكلام، ببرنامج ذكاء اصطناعى يمكن تدريبه على اكتشاف خطاب الكراهية، وباستخدام البرنامج على أكثر من 680.000 تعليق مأخوذ من خمس قنوات شطرنج شهيرة على يوتيوب، وجدوا أن 82% من التعليقات التي تم الإبلاغ عنها في مجموعة عينات لا تتضمن أي لغة عنصرية واضحة أو خطاب كراهية.
 
قال خودا بوخش وساركار في عرض تقديمي هذا الشهر في المؤتمر السنوي لجمعية النهوض بالذكاء الاصطناعي، إن كلمات مثل "أسود" و"أبيض" و"هجوم" و"تهديد" بدت وكأنها قد أحدثت الفلاتر الخاصة بالعنصرية، وذلك بغض النظر عن السياق.

قد يهمك أيضا:

   مايكروسوفت تُطلق تطبيقها الجديد Family Safety

"هواوي" توجّه ضربة إلى "مايكروسوفت" وتخطّط لإطلاق نظام تشغيل جديد