جوجل كروم يستعد لحمايتك عند تصفح المواقع بهذه التقنية الجديدة

جوجل توضح بالتفصيل دفاعات الأمان الجديدة لمتصفح كروم لمنع حقن التعليمات الضارة في قدرات برنامج جيميني.

قامت جوجل بتطبيق إجراءات أمنية في متصفح كروم لحماية القدرات الجديدة للوكلاء المدعومة بتقنية جيميني.

تُمكّن هذه الميزات المتصفح من العمل بشكل مستقل لإنجاز مهام متنوعة، ورغم أنها متوفرة حاليًا في الولايات المتحدة فقط، فمن المتوقع أن تصل إلى بقية أنحاء العالم قريبًا.

يكمن الخطر الرئيسي لهذه التقنية في كيفية تفاعل نماذج الذكاء الاصطناعي مع محتوى الويب الذي قد يكون خبيثًا. وتشير جوجل إلى أن حقن التعليمات غير المباشرة هو التهديد الأبرز: وهو نوع من الهجمات يتم فيه التلاعب بالذكاء الاصطناعي من خلال تعليمات مخفية في صفحات الويب أو الإطارات المضمنة (iframes). قد يؤدي هذا النوع من التلاعب إلى قيام البرنامج بتنفيذ إجراءات غير مرغوب فيها، مما يؤثر على جهاز المستخدم.

ولمواجهة هذا التهديد، اعتمدت جوجل نهجًا دفاعيًا متعدد الطبقات، يجمع بين الآليات الحتمية والاحتمالية التي تزيد من صعوبة وتكلفة الهجوم على المهاجمين المحتملين.

يُعدّ نظام User Alignment Critic  (UAC) خط الدفاع الأول، وهو نموذج منفصل عن نظام مراقبة توافق المستخدم الرئيسي في Gemini، حيث يُراجع كل إجراء قبل تنفيذه. وتتمثل وظيفته في التحقق من تطابق الخطوات التي يُخطط لها النظام مع نية المستخدم الفعلية. وفي حال اكتشاف أي اختلاف، يقوم النظام بحظر الإجراء وإجبار النظام على إعادة صياغة الخطة.

ومن المكونات الأساسية الأخرى دمج خاصية عزل المواقع. ونظرًا لقدرة الأنظمة على التفاعل مع مواقع ويب مختلفة، تُقدّم جوجل مفهوم مجموعات مصادر الوصول للأنظمة، وهي آلية تُقيّد النطاقات التي يُمكن للنظام الوصول إليها أو تعديلها بناءً على المهمة المطلوبة. وتقتصر المصادر المُصرّح بها للقراءة على المعلومات التي يُشاركها المستخدم أو الضرورية للإجراء، مع حظر أي شيء آخر.

علاوة على ذلك، سيطلب الذكاء الاصطناعي إذنًا صريحًا من المستخدم قبل تنفيذ أي إجراءات على المواقع الحساسة، مثل المنصات المصرفية أو الصفحات التي تحتوي على بيانات طبية. كما سيطلب تأكيدًا على عمليات الشراء والدفع وإرسال الرسائل ذات التأثير الكبير.