مارك روسو مطور تطبيقات جوال مستقل. من بين مشاريعه برنامج يكشف عن العُري والعنف مباشرةً على هاتف المستخدم. يولي تصميم التطبيق أهمية قصوى للخصوصية: تتم معالجة المحتوى محليًا ولا يُرفع إلى خوادم خارجية للمراجعة.
لاختبار فعالية برنامجه، قرر روسو العمل مع NudeNet، وهي مجموعة صور تضم أكثر من 700,000 ملف مُجمّع من الإنترنت. تُستخدم هذه المجموعة من البيانات على نطاق واسع في الأوساط الأكاديمية، وشكّلت أساسًا للبحوث الجامعية لسنوات. تشير السجلات إلى استخدام البيانات في أكثر من 250 دراسة أكاديمية، ومشاركتها عبر خدمات إلكترونية متخصصة في بيانات البحث.
في أواخر يوليو، قام روسو برفع حزمة الصور إلى جوجل درايف. وبعد فترة وجيزة، علّقت جوجل جميع حساباته. ووفقًا لشركة 404 Media، فقد خلصت الشركة إلى أن مجموعة البيانات تحتوي على مواد تُظهر إساءة معاملة الأطفال، وهو أمر لم يكن المطور على علم به وقت التحميل.
أوضح روسو في مدونته أن قرارات الشركة كان لها تأثير كبير على حياته المهنية. قال: "أدرك أنني مجرد مطور برامج مستقل، شخص لا تهتم به جوجل. ولكن هذا تحديدًا هو سبب أهمية هذه القصة. الأمر لا يقتصر على فقدان الوصول إلى حساباتي، بل يتعلق بكيفية قيام الأنظمة التي تدّعي الشركة أنها تكافح إساءة الاستخدام بإسكات الأبحاث والابتكارات المشروعة من خلال أتمتة قراراتها بشكل مبهم. لقد حاولتُ فعل الصواب، فكانت النتيجة عقابي."
أعادت هذه القضية فتح النقاش حول حدود أنظمة الإشراف الآلي على المحتوى والحاجة إلى عمليات أكثر شفافية وإنسانية عندما تؤثر هذه القرارات على الباحثين والمطورين الذين يعتمدون على منصات التكنولوجيا الكبيرة للقيام بعملهم.
ليست هناك تعليقات:
إرسال تعليق