عطل في خوارزمية “إنستغرام” يكشف محتوى صادمًا للمستخدمين
تعمل خوارزميات “إنستغرام”، كما هو الحال في بقية منصات التواصل الاجتماعي، على إخفاء المحتوى الحساس والعنيف وتسريع انتشار المحتوى الجذاب والمفيد بناءً على تفاعل المستخدمين. ولكن في الأيام القليلة الماضية، شهد المستخدمون حادثة غير مسبوقة أظهرت مدى أهمية ضبط هذه الخوارزميات بدقة.
ظهور غير متوقع لمحتوى عنيف
استيقظ مستخدمو “إنستغرام” على موجة من مقاطع الفيديو العنيفة التي وصفت بأنها أشبه بمحتوى “الدارك ويب”، بدلًا من المقاطع الترفيهية التي يفضلونها.
وفي بيان رسمي، اعتذر مارك زوكربيرغ عن الحادثة، مرجحًا أن تكون مشكلة في الخوارزمية، لكنه لم يقدم تفسيرًا واضحًا لما حدث، مما أثار العديد من التساؤلات حول طبيعة هذا الخلل وأسبابه.
كيف تعمل خوارزمية “إنستغرام”؟
تُعتبر خوارزميات منصات التواصل الاجتماعي العامل الأساسي في تحديد المحتوى الذي يُعرض للمستخدمين، إذ تختار المحتوى الأكثر جذبًا وتفاعلية لضمان بقاء المستخدمين على المنصة لأطول فترة ممكنة.
ورغم أن آلية عمل الخوارزميات سرية للغاية، إلا أن خبراء التسويق الرقمي تمكنوا من تحليل بعض جوانبها وتقديم نصائح حول كيفية تحسين انتشار المحتوى. ومع تطور الذكاء الاصطناعي، أصبحت هذه الخوارزميات أكثر دقة في تحليل المحتوى وترشيحه للمستخدمين المستهدفين.
هل الخوارزمية وحدها المسؤولة؟
رغم أن الخوارزمية تلعب دورًا أساسيًا في نشر المحتوى، فإنها ليست الوحيدة المسؤولة عن هذا الخلل، إذ إن ظهور هذا المحتوى العنيف يشير إلى مشكلة أعمق في آلية مراجعة المحتوى داخل “إنستغرام”.
في العادة، تفرض منصات التواصل الاجتماعي شروطًا صارمة لمنع انتشار المحتوى العنيف، وتعتمد على خوارزميات ذكية بالإضافة إلى فرق مراجعة بشرية لمراقبة المحتوى والتأكد من توافقه مع السياسات.
ولكن وجود مثل هذه المقاطع يشير إلى خلل في آلية المراقبة داخل “ميتا”، إذ كان من المفترض أن يتم حذف هذا المحتوى قبل انتشاره، حتى في حالة حدوث خطأ في الخوارزمية.
تبعات قرارات “ميتا” الأخيرة
في وقت سابق من هذا العام، أعلنت “ميتا” عن تغيير آلية مراقبة المحتوى، حيث ألغت العديد من فرق المراجعة البشرية وخففت القيود على المحتوى، مما جعل عملية تصفية المحتوى تعتمد بالكامل تقريبًا على الخوارزميات والذكاء الاصطناعي.
ورغم تأكيد الشركة أن المحتوى العنيف المنشور يخالف سياساتها، إلا أنها لم توضح لماذا لم يتم حذفه قبل أن يصل إلى المستخدمين، مما أثار انتقادات واسعة.
غضب المستخدمين وردود الفعل
أثارت هذه الحادثة غضبًا واسعًا بين المستخدمين، حيث انتشرت شكاوى على منتديات مثل “ريديت” من ظهور مقاطع عنيفة تتضمن جرائم وحوادث مروعة مثل حالات احتراق وإيذاء شديد، مما تسبب في صدمة نفسية للكثيرين.
وطالب بعض المستخدمين بمقاضاة “ميتا” بسبب الضرر النفسي الذي تعرضوا له، فيما أشار آخرون إلى أن هذا المحتوى كان موجودًا سابقًا لكنه لم يكن يظهر للعامة، مما يعزز الشكوك حول فعالية إدارة المحتوى داخل المنصة.
هل ستتغير سياسات “ميتا”؟
تسلط هذه الحادثة الضوء على مدى خطورة الاعتماد الكامل على الذكاء الاصطناعي في مراقبة المحتوى، ومن المتوقع أن تضطر “ميتا” إلى إعادة النظر في سياساتها لتجنب تكرار مثل هذه الحوادث، خاصة مع تزايد الضغوط القانونية والمجتمعية لضمان بيئة رقمية أكثر أمانًا.
