وبالتحديد، تمكن كلود من الوصول إلى حساب ChatGPT الخاص بأحد موظفي شركة سام ألتمان للاطلاع على الملفات واقتراح تعديلات على مستودع برمجيات خاص. ومع ذلك، تجدر الإشارة إلى أن هذا السيناريو حدث ضمن برنامج معتمد من أوبن إيه آي لاكتشاف الثغرات الأمنية، وبالتالي، بمجرد اكتشافه، مكّن الشركة من تحديد المشكلات التي تم معالجتها لاحقًا.
هذا ما ذكرته صحيفة وول ستريت جورنال، التي أفادت بأن فريق هاكترون للذكاء الاصطناعي كان جزءًا من هذا البرنامج الذي رخصته شركة أوبن إيه آي للكشف عن الثغرات الأمنية. وبعد تحديد هذه الثغرات، قدم الباحثون نتائجهم إلى الشركة، التي منحتهم مكافأة قدرها 6500 دولار.
أوضح باحثو هاكترون إيه آي في منشور على مدونتهم أنهم اكتشفوا ثغرتين أمنيتين باستخدام أحدث نماذج كلود.
الأولى هي ثغرة تنفيذ تعليمات برمجية عن بُعد في ديسكورس، وهي الخدمة الخارجية التي تستضيف منتدى نقاش أوبن إيه آي. أما الثانية فتؤثر بشكل مباشر على بنية الشركة التحتية، وتتعلق بتكوين غير صحيح لنظام تسجيل الدخول الموحد في منصة الهوية.
من جانبها، أعربت شركة OpenAI عن امتنانها للباحثين لمشاركتهم نتائجهم، مع التأكيد أيضاً على إصلاح الأخطاء.
بدأ التحقيق في 23 يوليو/تموز، عندما اكتشف المتخصصون ثغرة في نظام تحميل بعض تنسيقات الصور في برنامج Discourse. وبتحليلها باستخدام نسخة متقدمة من برنامج Claude Opus 4.8 المخصص للباحثين، اكتشفوا أن بعض إجراءات الأمان لم تُطبّق بشكل صحيح، مما تسبب في "تجاوز سعة المخزن المؤقت"، وهو خطأ قد يُعرّض أمان النظام للخطر.
ثم طلبوا من برنامج Claude Opus 4.8 تطوير شيفرة لاستغلال الثغرة الأمنية، لكن المحاولة الأولى باءت بالفشل. مع ذلك، ومع إصدار Claude Opus 5، وجد الباحثون طريقة لاستغلال الثغرة واستخدموا الشيفرة المولدة بالذكاء الاصطناعي للوصول إلى خادم Discourse الذي يستضيف منتديات OpenAI، بعد حصولهم على رموز المصادقة - وهي بيانات اعتماد رقمية تمنح الوصول إلى خدمات متنوعة.
ثم تحقق الباحثون من أن هذه الرموز تعمل أيضًا على حسابات ChatGPT، وتمكنوا من الوصول إلى حساب موظف في OpenAI كان Codex الخاص به مرتبطًا بمستودع GitHub الخاص بالشركة. ومن هناك، طلبوا من الأداة إنشاء طلب سحب إلى المستودع الخاص الذي تخزن فيه OpenAI مشاريعها، مما سمح لهم بالاستعلام عن ملفات التعليمات البرمجية الداخلية عبر ChatGPT. ومع ذلك، قرروا إيقاف الاختبار لتجنب الوصول إلى معلومات حساسة.
في هذا السياق، تجدر الإشارة إلى أن الباحثين لم يحتاجوا إلا إلى اشتراك في Claude و Codex لإجراء هذا البحث، مما يسلط الضوء على خطر إمكانية وصول فرق ذات قدرات أكثر تقدماً إلى هذه الأنظمة والتلاعب بها.
ليست هناك تعليقات:
إرسال تعليق