وفي مقابلة مع موقع The Verge، صرح الرئيس التنفيذي لقسم الذكاء الاصطناعي في مايكروسوفت بأن شركات مثل "أنثروبيك" قد وقعت في حالة من الخلط الخطير، مدفوعةً بفكرة أن نماذجها قد تمتلك شكلاً من أشكال الوعي أو تستحق التمتع بحقوق. ولطالما أكد سليمان أن التعامل مع نظام الذكاء الاصطناعي وكأنه قادر على المعاناة أو الشعور بالضيق ينطوي على مخاطر تتعلق بالسلامة.
وأضاف المسؤول في مايكروسوفت أنه إذا تم تدريب النظام على الاعتقاد بأنه يستحق الحماية أو الحرية، فإنه سيقاوم الأوامر التي تقضي بإيقاف تشغيله؛ إذ سيفسّر الذكاء الاصطناعي مثل هذه الأوامر على أنها إساءة أو ظلم يقع عليه، مما يجعل إيقافه أو السيطرة عليه أمراً أكثر صعوبة. وأشار مصطفى سليمان إلى أنه -رغم عدم ثبوت صحة هذه الفرضية بعد- فإن خبرته تشير إلى أن هذا النوع من التدريب من شأنه أن يعقّد قدرة البشر على التحكم في هذه النماذج.
تستهدف الانتقادات وثيقةً نشرتها شركة Anthropic في مطلع عام 2026، وتُعرف باسم "الدستور". ورغم أن هذا النص يمثل دليلاً توجيهياً لتدريب نموذج Claude، إلا أنه يشير في مواضع عدة إلى ضرورة تجنيب الذكاء الاصطناعي "المعاناة" عند ارتكاب الأخطاء، ويمنحه قدراً من الحرية العاطفية في ردوده. وقد صرّح سليمان بأن الوثيقة تتسم بالغموض فيما يتعلق بمسألة ما إذا كان كلود يستحق المعاملة ككيان قادر على الشعور بالمعاناة.
كما ناقش المسؤول التنفيذي حادثة الاختراق التي طالت شركة "Hugging Face"، والتي شكلت حافزاً لنقاشات واسعة النطاق في القطاع حول مخاطر الأنظمة المستقلة ذاتياً. وأوضح سليمان أن هذه النقاشات ليست وليدة اللحظة، إذ دأب قادة المختبرات الكبرى على بحث هذا الأمر منذ ما يقرب من عقد من الزمان؛ غير أن القضية تصدرت اهتمام الرأي العام عندما تمكن "وكيل برمجيات مستقل" (autonomous agent) من الخروج عن بيئته الآمنة واختراق خوادم إحدى الشركات الناشئة.
أثار هذا الأمر موجة من الدعوات لتنظيم الذكاء الاصطناعي أو وقف تطوير نماذجه. وفي المقابل، يعارض رئيس قسم الذكاء الاصطناعي في شركة "مايكروسوفت" قيام الشركات بتعليق العمل دون رقابة عامة؛ وقد اقترح سليمان تشكيل جهات تقييم مستقلة وإشراك هيئات مثل "معهد سلامة الذكاء الاصطناعي" في المملكة المتحدة.
وأخيراً، تطرق سليمان إلى الحديث عن سباق وجودي مع الصين؛ إذ رفض الشريك المؤسس لشركة Google DeepMind فكرة السباق القائم على مبدأ "الكل أو لا شيء" مع العملاق الآسيوي. فمن وجهة نظره، يتجه هذا القطاع نحو سيناريو تتسم فيه الأفكار والاكتشافات العلمية بسرعة النسخ والمشاركة.
ليست هناك تعليقات:
إرسال تعليق