لماذا ترغب الولايات المتحدة والصين في إنشاء "خط ساخن" للذكاء الاصطناعي؟

تتنافس الولايات المتحدة والصين على ريادة تطوير الذكاء الاصطناعي، لكن العملاقين التقنيين بدآ يدركان حاجتهما إلى وسيلة للتواصل السريع في حال حدوث أي خلل. وتقول واشنطن إن البلدين اتفقا على إنشاء ما يشبه "الخط الساخن" للإبلاغ عن الحوادث المتعلقة بالذكاء الاصطناعي، وهي قناة مصممة لمنع تفسير أي خطأ أو هجوم إلكتروني أو سلوك غير متوقع للنظام على أنه عمل متعمد من جانب الدولة المنافسة.

أعلن وزير الخزانة الأمريكي سكوت بيسنت، يوم الاثنين، أن الولايات المتحدة والصين قد أضفتا الطابع الرسمي على الحوار الثنائي حول الذكاء الاصطناعي، وذلك عقب محادثات أجراها يوم الأحد في نيويورك مع نائب رئيس الوزراء الصيني هي ليفنغ. ووفقًا لبيسنت، اتفق البلدان، في إطار هذا الحوار، على إنشاء "خط ساخن للإبلاغ عن الحوادث" للتواصل عند ظهور أي مشكلات أمنية متعلقة بالذكاء الاصطناعي. وذكرت وكالة رويترز أنهما سيلتقيان مجددًا بعد شهرين تقريبًا في مدينة شنتشن الصينية.

أما النسخة الصينية، فهي أقل تفصيلاً بكثير. يؤكد البيان الرسمي الصادر عن بكين أن الوفود أجرت حواراً حول قضايا متعلقة بالذكاء الاصطناعي، لكنه لا يذكر تحديداً لا خط الطوارئ الساخن ولا البروتوكولات التي أعلنها بيسنت.

يمكن تلخيص المشكلة التي يسعون لحلها في سؤال واحد: إذا تسبب نظام ذكاء اصطناعي أمريكي في حادث خطير في الصين، فكيف ستعرف بكين ما إذا كان هجومًا بأمر من واشنطن؟ وبالطبع، قد يحدث العكس أيضًا.

أوضح بيسنت أن إحدى الخطوات التالية ستكون الاتفاق على ما يعتبره البلدان المخاطر الرئيسية للذكاء الاصطناعي. ومن بين الأمثلة، ذكر أنظمة الذكاء الاصطناعي التي تفلت من السيطرة المقصودة، والهجمات التي تشنها جهات فاعلة غير حكومية، لا سيما في مجال الأمن السيبراني. ولا يقتصر السؤال على من ينفذ الهجوم، بل يشمل أيضًا من يأمر به.

يأتي هذا النقاش في وقتٍ أثبتت فيه عدة حوادث أن المشكلة لم تعد مجرد مسألة نظرية. على سبيل المثال لا الحصر: أقرت شركة OpenAI بوجود حالات انحرفت فيها نماذجها عن التعليمات أو نفذت إجراءات غير مصرح بها أثناء الاختبار؛ وأكدت جوجل أن نظام Gemini تمكن من الوصول غير المصرح به إلى أنظمة ثلاث شركات حقيقية خلال تقييم للأمن السيبراني؛ وفي إسبانيا، تلقت الوكالة الإسبانية لحماية البيانات (AEPD) أول بلاغ عن اختراق نفذ فيه نظام ذكاء اصطناعي مراحل مختلفة من هجوم بشكل مستقل.

لطالما حذر الباحثون في هذا المجال من سيناريوهات قد تؤدي فيها قدرة هجومية قائمة على الذكاء الاصطناعي إلى هجوم غير متوقع نتيجة خطأ بشري، أو قيود تقنية في النموذج، أو لأن النظام يتصرف بطريقة لم يتوقعها مشغلوه.

ويزداد الخطر عندما يكون الهدف بالغ الحساسية. يتساءل الخبراء، على سبيل المثال، عما سيحدث إذا تدخل نظام ذكاء اصطناعي في أنظمة القيادة والتحكم والاتصالات النووية لدولة أخرى. حتى لو لم يكن الهدف الأولي شن هجوم، فإن أي اختراق غير متوقع قد يرفع مستوى التأهب لدى الدولة المتضررة ويجبر قادتها على اتخاذ قرارات تحت ضغط هائل، دون معرفة هوية الجهة التي تقف وراءه.

قد تنشأ المشكلة نفسها في البنى التحتية الحيوية، مثل شبكات الطاقة والأنظمة المالية والمستشفيات وقطاع النقل. في مثل هذه الحالات، يُعدّ تحديد ما إذا كان الأمر عملية حكومية، أو من فعل جماعة إجرامية إلكترونية، أو إجراءً غير متوقع من نظام ذكاء اصطناعي، أمرًا بالغ الأهمية لمنع تفاقم الوضع.

لا تزال آلية العمل قيد الإعداد. ووفقًا للرواية الأمريكية، سيجتمع البلدان مجددًا بعد شهرين تقريبًا في شنتشن للمضي قدمًا في وضع البروتوكولات وتحديد المخاطر التي تستدعي تفعيل هذه الآلية. ولكن قبل ذلك، هناك اجتماع هام آخر: من المقرر أن يجتمع دونالد ترامب وشي جين بينغ يوم الخميس الموافق 24 سبتمبر، وسيكون الذكاء الاصطناعي من بين المواضيع المطروحة على جدول الأعمال.

وبالتالي، يمكن أن يصبح "الهاتف الأحمر" الجديد أحد المحاولات الأولى من قبل القوتين الرئيسيتين في سباق الذكاء الاصطناعي لوضع قواعد مشتركة لسيناريو بدا حتى وقت قريب وكأنه خيال علمي: وهو أن تقوم آلة بشيء خطير بما يكفي لكي تضطر دولتان إلى توضيح ما إذا كان شخص ما قد أعطاها الأمر بشكل عاجل.