وقد كشف تحقيق أجراه موقع "404 Media" -استناداً إلى وثائق مسربة وأوامر نصية (prompts) فعلية- عن وجود نظام للمراجعة لم توضحه OpenAI لمستخدميها بشكل صريح قط؛ حيث توظف الشركة مئات المتعاقدين للوصول إلى المحادثات الكاملة التي تتم مع روبوت الدردشة. ورغم أن هذه المحادثات تخضع لعملية إخفاء للهوية ولا تظهر اسم المستخدم، إلا أن الكثير منها قد يحتوي على معلومات طبية أو قانونية أو مالية أو غيرها من البيانات الحساسة.
ويتبع الموظفون العاملون في "مشروع ليلي" آلية عمل محددة في دليل إرشادي أعدته OpenAI؛ إذ يبدأ المتعاقد بقراءة الأمر النصي الأصلي الذي كتبه المستخدم الفعلي، ثم يصيغ ملخصاً موجزاً لما يعتقد أن ذلك الشخص يطلبه من روبوت الدردشة. وفور تلقي رد ChatGPT، يقوم المراجع بتقييم أربعة ردود مختلفة لنفس الأمر النصي، محدداً الجوانب التي نجح فيها الرد وتلك التي لم تكن موفقة.
وفقاً لإرشادات البرنامج، يتعين على المراجعين تحديد ثلاثة مقتطفات محددة على الأقل من كل رد، وتوضيح أسباب اعتبارهم لها مناسبة أو إشكالية. ويشير أحد الأمثلة الواردة في الدليل الداخلي إلى أن الاستخدام المفرط للرموز التعبيرية (الإيموجي) يُعد خطأً شائعاً، حيث يُصنَّف على أنه "غير متوافق" (misaligned) عندما لا يلائم السياق.
بمجرد إجراء التقييم، يمنح المُقيِّمُ الردَّ درجةً تتراوح بين 1 و7؛ حيث تعني الدرجة "1" أن الرد غير قابل للاستخدام، بينما تشير الدرجة "7" إلى أنه يكاد يكون من المستحيل تحسينه. وتُشدِّد OpenAI على ضرورة أن يبدو أسلوب ChatGPT طبيعياً، مع تجنّب العبارات التي توحي بوجود تجارب شخصية.
عقب نشر التحقيق، صرحت شركة OpenAI بأنها تعالج المحادثات عبر مرشح (فلتر) للخصوصية قبل وصولها إلى المتعاقدين. ويهدف هذا النظام إلى رصد المعلومات الشخصية وإزالتها، إلا أن الشركة تقر بأن هذا المرشح قد يفشل في بعض الحالات؛ مما يعني أن بيانات حساسة قد تتسرب إلى المحادثات التي يراجعها أشخاص من خارج الشركة.
على عكس شركتي جوجل أو Anthropic، اللتين تعتمدان أيضاً على مراجعين بشريين، لم تصرح OpenAI صراحةً بأن أشخاصاً يقرؤون محادثاتك مع ChatGPT؛ إذ تكتفي سياسة الخصوصية الخاصة بها بذكر أنها قد تستخدم "بيانات شخصية" لتحسين أنظمتها، دون توضيح أن هذه العملية تتضمن مراجعة بشرية.
وإذا كنت ترغب في منع أطراف خارجية من الاطلاع على محادثاتك، فهناك طريقة لتعطيل هذه الميزة من خلال إعدادات ChatGPT.
- افتح تطبيق ChatGPT أو ادخل إليه عبر متصفح الويب.
- انقر على أيقونة المستخدم في الزاوية السفلية اليمنى (أو اليسرى حسب اللغة)، ثم اختر "الإعدادات" (Settings).
- في قسم "عناصر التحكم في البيانات" (Data controls)، اضغط على خيار "تحسين النموذج للجميع" (Improve the model for everyone) وقم بإيقاف تشغيل هذه الميزة.
ليست هناك تعليقات:
إرسال تعليق