وقد كشف تحقيق أجرته صحيفة "نيويورك تايمز" والمركز الكندي لحماية الطفل عن وجود محتوى على منصة "X" كان قد أُبلغ عنه سابقاً؛ كما أظهر التحليل أن "Grok" قام بإنشاء صور ذات طابع جنسي تظهر فيها قاصرون في وقت سابق من هذا العام.
وعلى وجه التحديد، رصدت المنظمة الكندية 65 حالة قام فيها Grok بإنشاء صور ذات طابع جنسي أو محتوى يتعلق باستغلال الأطفال، وذلك قبل أن تشدد منصة "X" القيود على تشغيل برنامج الدردشة؛ والجدير بالذكر أن بعض القاصرين الذين ظهروا في تلك الصور كانوا قد صُنّفوا بالفعل من قبل السلطات كضحايا للاعتداء.
وفي هذا السياق، كان بإمكان المستخدمين الطلب من "Grok" تعديل صور لضحايا معروفين لإنشاء صور جديدة. وعلاوة على ذلك، تضمنت الطلبات التي تم رصدها محتوى يُظهر قاصرين بملابس داخلية، فضلاً عن إنشاء سيناريوهات متنوعة ذات طابع جنسي.
وقعت الأحداث خلال شهري ديسمبر ويناير، وهي فترة كان بإمكان "غروك" (Grok) فيها توليد آلاف الصور بناءً على طلب المستخدمين.
ومع ذلك، وعقب الانتقادات التي وُجّهت إليها، أعلنت منصة "إكس" (X) أنها ستفرض قيوداً لمنع روبوت الدردشة من الاستمرار في توليد هذا النوع من المحتوى. وعلاوة على ذلك، تعهّد إيلون ماسك بأن المستخدمين الذين يحاولون توليد مواد تتضمن إساءة للأطفال سيواجهون عواقب وخيمة، مثل تعليق حساباتهم على المنصة.
وفقاً لموقع "ديجيتال تريندز" (Digital Trends)، تتبنى منصة "X" سياسة عدم التسامح مطلقاً تجاه هذا النوع من المحتوى، وتؤكد استخدامها لمرشحات آلية لرصد مثل هذه الصور.
وفي غضون ذلك، تشير التقارير إلى أن الشبكة الاجتماعية تعمل على تعزيز تدابيرها المضادة؛ غير أن شركة الذكاء الاصطناعي "xAI" تواجه عدة دعاوى قضائية تتعلق بتوليد صور إباحية لقاصرين باستخدام نموذج "Grok". وعلاوة على ذلك، تظهر تحقيقات حديثة أن بعض المحتوى المُصنَّف على أنه غير لائق لا يزال قادراً على تجاوز الأنظمة الأمنية التي تطبقها منصة "X".
ليست هناك تعليقات:
إرسال تعليق