أفادت التقارير أن شركة OpenAI قد حلّت الفريق المسؤول عن تحليل أخطر المخاطر المرتبطة بنماذج الذكاء الاصطناعي الخاصة بها. وجاء هذا التغيير التنظيمي الداخلي بالتزامن مع استعداد شركة سام ألتمان لطرح أسهمها للاكتتاب العام، وكان من شأنه أن يؤدي إلى إلغاء أحد فرقها المتخصصة في أمن أنظمتها.
وكانت مهمة هذا الفريق استباق السيناريوهات عالية المخاطر المحتملة الناجمة عن استخدام نماذجها، وتقييم قدراتها، ووضع تدابير للتخفيف من حدة التهديدات قبل أن تتحول إلى مشاكل حقيقية. إلا أنه بعد إعادة التنظيم، لم تختفِ هذه المهام تمامًا، بل وُزِّعت على أقسام مختلفة، بما في ذلك فرق الأمن السيبراني والأمن البيولوجي، بالإضافة إلى أقسام أخرى مسؤولة عن مخاطر محددة.
ويأتي هذا القرار بعد أسابيع قليلة من حادثة تصرف فيها أحد وكلاء الذكاء الاصطناعي التابعين لها بشكل غير متوقع وهاجم أنظمة Hugging Face. علاوة على ذلك، ووفقًا لصحيفة فايننشال تايمز، أفادت التقارير أن OpenAI أغلقت فريق العمل هذا في نهاية يوليو/تموز.
ستتم إعادة الهيكلة في إطار استراتيجية تبسيط داخلية في OpenAI تحسبًا لطرح أسهمها للاكتتاب العام. وبحسب التقارير، حثّ سام ألتمان الموظفين على تأجيل المبادرات غير ذات الأولوية، بهدف تركيز موارد الشركة وجهودها على أعمالها الأساسية، مثل ChatGPT وتطوير نماذج ذكاء اصطناعي جديدة. ولكن ما الذي أنجزه هذا الفريق تحديدًا؟
كُلِّف هذا القسم في OpenAI بدراسة المخاطر المحتملة المرتبطة بأحدث نماذج الشركة، نظرًا لأن عمله شمل سيناريوهات متنوعة، بدءًا من قدرات الإقناع والأمن السيبراني وصولًا إلى استخدام الأسلحة الكيميائية أو البيولوجية، فضلًا عن تحليل إمكانية استنساخ نظام الذكاء الاصطناعي أو تكيفه ذاتيًا.
علاوة على ذلك، لم يقتصر عمل الفريق على تحديد هذه التهديدات فحسب، بل عمل أيضًا على سياسة تطوير قائمة على المخاطر لتقييم نماذج الذكاء الاصطناعي ومراقبتها والتحكم بها.
في هذا السياق، يُعيد قرار OpenAI تسليط الضوء على النقاش الدائر حول أمن أنظمة الذكاء الاصطناعي وكيفية تحقيق التوازن بين التطور التكنولوجي وإدارة مخاطره المحتملة.
ليست هناك تعليقات:
إرسال تعليق