وأوضحت الشركة أن النتائج التي تم الحصول عليها في الأيام الأخيرة متقدمة لدرجة أنها لم تعد تستبعد احتمال وصول النموذج إلى مستوى "الحرج" في قدرات الأمن السيبراني، وهو أعلى مستوى ضمن إطار عملها الخاص بالاستعداد، والذي تستخدمه OpenAI لتقييم بعض المخاطر المرتبطة بنماذجها الأكثر تطورًا.
لكن في الوقت الراهن، لا تدّعي OpenAI أن نموذج Astra قد بلغ هذا المستوى بشكل قاطع. فالتقييمات لا تزال أولية وجارية. وتؤكد الشركة أن الأداء الملحوظ مرتفع بما يكفي لاتخاذ احتياطات إضافية قبل مواصلة العمل مع النموذج في ظل ظروف معينة.
قد يبدو المصطلح مثيرًا للقلق، لكنه في هذه الحالة يحمل تعريفًا دقيقًا ضمن نظام التقييم الذي وضعته OpenAI نفسها.
وفقًا لإطار عملها الخاص بالاستعداد، يصل النموذج إلى المستوى الحرج في الأمن السيبراني إذا كان قادرًا، من بين أمور أخرى، على تحديد وتطوير ثغرات أمنية غير معروفة (ثغرات اليوم الصفر) في العديد من الأنظمة الحقيقية شديدة الحماية، دون تدخل بشري. كما يندرج ضمن هذه الفئة إذا كان قادرًا على تصميم وتنفيذ استراتيجيات هجوم سيبراني جديدة كليًا ضد أهداف محصنة بناءً على تعليمات عامة فقط.
بمعنى آخر، لا يقتصر الأمر على قدرة الذكاء الاصطناعي على اكتشاف ثغرة أمنية أو كتابة جزء من الشيفرة اللازمة لاستغلالها. بل يكمن التقدم الحقيقي في قدرته على ربط المراحل المختلفة اللازمة لتنفيذ هجمات معقدة ضد أنظمة حقيقية بشكل تلقائي.
حتى الآن، صنّفت OpenAI النماذج السابقة، بما فيها GPT-5.6 Sol، في المستوى الأدنى مباشرةً، المسمى "عالي". في الاختبارات التي أُجريت على GPT-5.6، على سبيل المثال، تمكّن النموذج من اكتشاف الثغرات الأمنية وبعض المكونات اللازمة لاستغلالها، لكنه فشل في تنفيذ هجمات كاملة بشكل تلقائي ضد أهداف محصنة.
مع أسترا، يبدو أن الوضع قد تغير بما يكفي لكي تعتقد الشركة أن هذه الحدود قد تكون قريبة.
لا يعني هذا القرار أن شركة OpenAI قد أوقفت تطوير ذكائها الاصطناعي الجديد، بل إنها علّقت الأنشطة الداخلية المتعلقة بمشروع Astra التي لا تستوفي بعدُ متطلبات الأمان الجديدة. ويمكن استئناف التطوير في البيئات المُهيأة بالفعل لهذه المتطلبات المُحسّنة.
تشمل الإجراءات المعلنة بيئات اختبار معزولة، وقيودًا إضافية على الوصول إلى الإنترنت والأدوات الخارجية، وحماية مُحسّنة وتشفيرًا لأوزان النماذج، وأنظمة كشف ومراقبة إضافية، والتنفيذ ضمن بيئات معزولة أو بيئات اختبار تجريبية.
وتزعم OpenAI أيضًا أنها طبّقت أنظمة مراقبة في جميع تطبيقات Astra التي تعمل كوكلاء، بما في ذلك تلك المستخدمة أثناء التدريب والتقييم. تهدف هذه الآليات إلى كشف الأفعال أو السلوكيات الخطرة التي تنحرف عن التعليمات المُستلمة، وتسمح بإيقاف النشاط عند تحديد موقف يحتمل أن يكون خطيرًا.
وتخطط الشركة أيضاً للعمل مع الوكالات الحكومية وبعض المنظمات المتخصصة في أمن الذكاء الاصطناعي للتحقق من القدرات الفعلية للنموذج قبل المضي قدماً في نشره.
ليست هناك تعليقات:
إرسال تعليق