لأول مرة، أدى هجوم على الذكاء الاصطناعي التوليدي إلى عواقب مادية حقيقية، في تجربة أجرتها مجموعة من باحثي الأمن الذين تمكنوا من استخدام دعوة مُصابة في تقويم غوغل للتلاعب بنموذج الذكاء الاصطناعي Gemini.
تُعرف هذه التجربة باسم "All You Need"، وهي جزء من مشروع يتألف من 14 هجومًا مُصممًا لاختبار الثغرات الأمنية السريعة في نماذج الذكاء الاصطناعي.
في هذه الحالة الخاصة، قام الباحثون ببرمجة تعليمات مخفية داخل حدث تقويمي، ثم عندما طُلب منهم تلخيص أحداث الأسبوع، تمكن Gemini من تنفيذ الأوامر المضمنة، وتشغيل أجهزة مختلفة في منزل متصل.
صرح الباحثون لموقع Wired: "نعتقد أن هذه أول حالة موثقة يُحدث فيها اختراق الذكاء الاصطناعي آثارًا جسدية حقيقية".
وأكدت غوغل أن نتائج هذه التجربة دفعت إلى تسريع تطوير ونشر دفاعات جديدة ضد هذه الأنواع من الهجمات. وأضافوا: "لقد مكّننا البحث المشترك من تعزيز إجراءاتنا الأمنية لجعل مثل هذه الهجمات أكثر صعوبة".
وبطبيعة الحال، فإن هذه الأنواع من الهجمات، حتى لو كانت تجريبية، هي مجرد اختبار للمخاطر المحتملة التي يمكن أن تنشأ عن الاستخدام الواسع النطاق لأنظمة الذكاء الاصطناعي المتصلة بالأجهزة في العالم المادي.
No comments:
Post a Comment