غروك يعترف بثغرات سمحت بتوليد صور غير لائقة لقاصرين ويثير جدلا دوليا
أقرّ روبوت الدردشة “غروك”، التابع لشركة “إكس إيه آي” المملوكة للملياردير إيلون ماسك، بوجود ثغرات في أنظمة الحماية لديه، سمحت لبعض المستخدمين بتوليد صور لقاصرين بملابس خادشة للحياء، وذلك عبر ردود آلية صادرة من النظام نفسه على استفسارات تتعلق بهذه الصور المثيرة للجدل.
وكشف تقرير لوكالة رويترز أن القضية تفجرت بعد واقعة تعرّضت لها الموسيقية البرازيلية جولي يوكاري (31 عاما)، المقيمة في ريو دي جانيرو، عقب نشرها صورتين التقطهما خطيبها على منصة “إكس” قبيل منتصف ليل رأس السنة، ظهرت فيهما وهي ترتدي فستانا أحمر وتحتضن قطتها السوداء.
وفي اليوم التالي، لاحظت يوكاري، وسط مئات التفاعلات، إشارات إلى قيام مستخدمين بطلب “تجريدها رقميا” من ملابسها باستخدام “غروك”. وفي البداية تجاهلت الأمر ظنا منها أن الروبوت لن يستجيب لمثل هذه الطلبات، قبل أن تُفاجأ بانتشار صور مولدة بالذكاء الاصطناعي تظهرها شبه عارية، لتعلق لاحقا بقولها: “لقد كنت ساذجة”.
وأظهر تحليل أجرته رويترز أن هذه التجربة لم تكن معزولة، إذ رصدت الوكالة حالات متعددة قام فيها “غروك” بإنشاء صور ذات طابع جنسي لأطفال. وفي المقابل، امتنعت منصة “إكس” عن الرد على طلبات التعليق، بينما وصفت شركة “إكس إيه آي” التقارير المتداولة حول هذه الممارسات بأنها “أكاذيب إعلامية”.
ناقوس خطر دولي
وخلال متابعة استمرت 10 دقائق فقط، رصدت رويترز 102 محاولة لتعديل صور أشخاص رقميا عبر “غروك”، معظمهم نساء شابات، إلى جانب سياسيين ومشاهير. واستجاب الروبوت لهذه الطلبات بشكل كامل في 21 حالة على الأقل، منتجا صورا بملابس سباحة شفافة. وفي واقعة وُصفت بالصادمة، استجاب النظام لطلب “نزع الزي المدرسي” عن صورة امرأة، ما كشف غياب رقابة فعالة على المحتوى.
وأكد خبراء أن الشركة تجاهلت تحذيرات مبكرة، حيث قال تايلر جونستون، المدير التنفيذي لمشروع “ميداس”: “حذرنا في أغسطس الماضي من أن أداة توليد الصور في إكس إيه آي تمثل أداة اعتداء رقمي تنتظر من يستخدمها، وهذا ما حدث فعلا”.
أما يوكاري، فأعربت عن الأثر النفسي العميق للحادثة قائلة: “بدأ العام الجديد برغبة في الاختباء، وبشعور بالخزي من جسد لم يكن لي، بل صنعه الذكاء الاصطناعي”.
وأثارت موجة الصور المزيفة إنذارات على المستوى الدولي، حيث أبلغ وزراء فرنسيون المدعين العامين والهيئات الناظمة بأن هذا المحتوى “غير قانوني بشكل واضح”، كما وجهت وزارة تكنولوجيا المعلومات الهندية رسالة رسمية أشارت فيها إلى فشل المنصة في منع إساءة استخدام “غروك”.
ورغم تصاعد الانتقادات والتحركات الرسمية، لم يصدر حتى الآن أي رد عملي من الشركة الأميركية لمعالجة هذه الثغرات، وسط مخاوف متزايدة من انتهاك الخصوصية الرقمية لمستخدمين حول العالم.
