تطوير أداة لرصد التطرف على منصات الذكاء الاصطناعي وتوجيه المستخدمين للدعم

لا تزال الأداة في مرحلة الاختبار، دون تحديد موعد لإطلاقها، فيما تُدرس آليات المتابعة، بما في ذلك احتمال إبلاغ السلطات في الحالات عالية الخطورة، مع مراعاة عدم تفاقم سلوك المستخدمين…

يعمل مطوّرون في نيوزيلندا على تطوير أداة تهدف إلى رصد مؤشرات التطرف والعنف لدى مستخدمي منصات الذكاء الاصطناعي، مع توجيههم إلى خدمات دعم متخصصة بدل الاكتفاء بحظرهم.

وتقود هذا التوجه شركة “ثرو لاين”، التي تسعى إلى توسيع نطاق أنظمتها الحالية، المستخدمة في التعامل مع حالات إيذاء النفس والعنف الأسري، لتشمل التعرف إلى السلوكيات المتطرفة والتدخل فيها.

وتعتمد الفكرة على نموذج يجمع بين روبوت محادثة قادر على رصد إشارات الخطر، وإحالة المستخدمين إلى جهات دعم بشرية ضمن بيئتهم الجغرافية، مستفيدة من شبكة تضم نحو 1600 خط مساعدة في 180 دولة.

ويأتي هذا التطوير في ظل تصاعد الضغوط على شركات التكنولوجيا لتحمّل مسؤولية أكبر في الحدّ من العنف، خصوصًا بعد حوادث أثارت جدلًا حول دور المنصات في التعامل مع مستخدمين خطرين.

وأفاد مؤسس الشركة، إيليوت تايلور، بأن العمل يجري بالتعاون مع خبراء مختصين وبالتنسيق مع مبادرة “ذا كرايست تشيرش كول”، التي أُطلقت عقب هجوم 2019 في نيوزيلندا، بهدف تعزيز جهود مكافحة التطرف عبر الإنترنت.

ولا تزال الأداة في مرحلة الاختبار، دون تحديد موعد لإطلاقها، فيما تُدرس آليات المتابعة، بما في ذلك احتمال إبلاغ السلطات في الحالات عالية الخطورة، مع مراعاة عدم تفاقم سلوك المستخدمين.

ويرى باحثون أن نجاح هذه المقاربة يعتمد على فعالية خدمات الدعم المرتبطة بها، مؤكدين أن المشكلة لا تقتصر على المحتوى، بل تشمل طبيعة التفاعلات والعلاقات التي تنشأ عبر المنصات.

في المقابل، تشير دراسات حديثة إلى أن تشديد الرقابة قد يدفع بعض المستخدمين نحو منصات أقل تنظيمًا، ما يطرح تحديات إضافية أمام جهود الحدّ من التطرف الرقمي.