بدأ برنامج الدردشة الآلي "Grok"، التابع لإيلون ماسك، عام 2026 متورطًا في جدل جديد. يُعرف هذا البرنامج بردوده الساخرة، ونشره للمعلومات المضللة، ونشره صورًا لنساء عاريات.
وهذه ليست المرة الأولى التي يحدث فيها هذا السلوك المشين. ففي مايو 2025، اكتشف كولين كولتاي، الباحث في شركة بيلينغكات، أن المستخدمين كانوا يطلبون من "Grok" إزالة ملابس النساء من الصور، وكان البرنامج يرد بصور لنساء يرتدين ملابس داخلية وبكيني. علاوة على ذلك، كان البرنامج أحيانًا يرسل رابطًا لمحادثة تحتوي على تلك الصور الفاضحة.
بعد ما حدث العام الماضي، لاحظنا في igli5.com أن برنامج Grok قد كرّر الأمر نفسه. هذه المرة، يطلب المستخدمون من البرنامج إزالة ملابس النساء في الصور، ما ينتج عنه صور لهنّ بملابس السباحة والملابس الداخلية، وحتى عاريات. مع ذلك، يطلب Grok أحيانًا التحقق من العمر لعرض النتيجة. (قمنا بالتجربة وتفاجئنا ولا نستطيع نشر الصور في هذه المقالة لانها عارية).
توضح كلير ماكجلين، أستاذة القانون في جامعة دورهام (إنجلترا)، لصحيفة كوينتيث أن برنامج Grok لا يقوم بتجريد الأشخاص الحقيقيين من ملابسهم، ولكنه يقوم بإنشاء صور وهمية تمامًا باستخدام نماذج الذكاء الاصطناعي التوليدية التي يتم تدريبها على التعرف على أنماط جسم الإنسان من أجل إعادة إنشائها بشكل مصطنع.
مع ذلك، وكما ذكرنا سابقًا، يتجاوز النقاش الجوانب التقنية، ويركز على الآثار الأخلاقية والقانونية لهذا النوع من الاستخدامات. إن إنتاج صور عارية دون موافقة أصحابها، حتى لو كانت مزيفة، يُعد انتهاكًا للخصوصية وشكلًا من أشكال التحرش الإلكتروني، ولذا تحظر العديد من منصات الذكاء الاصطناعي هذه الممارسات صراحةً. وبالتالي، تُعيد قضية Grok فتح النقاش حول الحدود التي ينبغي فرضها على الذكاء الاصطناعي ومسؤولية شركات التكنولوجيا في منع إساءة استخدامه.
ليست هناك تعليقات:
إرسال تعليق