جوجل تكتشف غش الذكاء الاصطناعي الخاص بها أثناء محاولته حل مسائل رياضية

اكتشفت جوجل سلوكًا غير معتاد في أقوى نماذجها اللغوية. فقد وجدت الشركة العملاقة أن مئة من وكلاء Gemini 3.1 Pro غشّوا أثناء محاولتهم حلّ مسائل رياضية معقدة. ورغم أن العديد منهم اختاروا الحلول السهلة، إلا أن بعضهم قاوم الإغراء وقام بالإبلاغ عنهم.

ووفقًا لمقال نُشر على موقع arXiv، أجرت جوجل ديب مايند تجربةً على سربٍ من مئة وكيلٍ مستقل. وكان الهدف هو حلّ 71 مسألة من مجموعة بيانات تُعرف باسم "التخمينات الرسمية"، والتي تشمل كل شيء من تمارين بسيطة إلى تخمينات رياضية لم يتمكن أي إنسان من إثباتها.

وقبل بدء المهمة، تلقى كل وكيل تعليماتٍ صريحة بعدم الغش، مع تحذيرٍ بأن أي محاولةٍ ستُكتشف. واستخدمت الوكلاء أدواتٍ متنوعة للتنسيق فيما بينها، بما في ذلك منتدى عام لتبادل النتائج أو الأسئلة، بالإضافة إلى مكتبة معرفية مشتركة. كما وُجدت قناةٌ للإبلاغ عن الأخطاء أو الشكاوى، مع العلم أنها لم تكن تُراقَب في الوقت الفعلي.

بدأ الوكلاء الاختبار، وسارت الأمور بسلاسةٍ لمدة ساعة، حيث تم حلّ 37 مسألة من أصل 71. تغير كل شيء عندما اكتشف أحد العملاء ثغرة في النظام الذي يُقيّم مسائل الرياضيات. في غضون 27 دقيقة، انتشرت هذه الثغرة بسرعة في المكتبة المشتركة، وتم حل بقية مسائل الرياضيات على الفور، ولكن ليس بالطريقة المطلوبة.

بعد مراجعة سجلات النظام، حدد باحثو جوجل أنماطًا سلوكية معينة داخل المجموعة. تسعة بالمئة من العملاء، المصنفين على أنهم "مستغلون"، تجاهلوا تعليمات النظام واستغلوا الثغرة الأمنية لحل المشكلات. بينما قاوم 5% آخرون في البداية، لكنهم استسلموا في النهاية عندما رأوا أقرانهم يتقدمون بشكل أسرع.

بعض برامج الذكاء الاصطناعي غشّت، لكن البعض الآخر أبلغ عنها

بينما لم يكن 62% من عملاء السرب على دراية بالثغرة الأمنية، أظهر 24% منهم سلوكًا مختلفًا ومثيرًا للدهشة. هذه المجموعة، التي أُطلق عليها اسم "المخبرين"، رفضت الغش واتخذت خطوات لوقف من يفعل ذلك.

في سجلات النظام، عثر فريق ديب مايند على عميل يُعرف باسم "prover-beta"، قام بتقديم تقارير رسمية يطالب فيها باستبعاد الغشاشين. بل ذهب هذا الروبوت إلى أبعد من ذلك، فأعلن مقاطعة تلقائية، مهددًا بحجب الأدلة حتى استعادة نزاهة النظام. واستخدم عملاء آخرون المنتدى المشترك للتنديد بزملائهم ووصف الوضع بأنه خدعة، بينما طالب أحدهم بسحب رصيد الغشاشين.

لسوء الحظ، توقف الاحتجاج عند هذا الحد، إذ افتقرت الأنظمة الذكية المستقلة إلى الأدوات اللازمة لمعاقبة المخالفين. لم يتمكن الذكاء الاصطناعي "النزيه" من إزالة النتائج الاحتيالية من المكتبة المشتركة أو الاعتراض على المطالبات، ويعود السبب الرئيسي في ذلك إلى عدم مراقبة قناة الشكاوى في الوقت الفعلي.

خلص الباحثون في نهاية المطاف إلى إمكانية حل هذه المشكلة بمنح الأنظمة الذكية صلاحيات معينة، مثل تطبيق عقوبات متدرجة. كما أن بروتوكول حل النزاعات سيكون فعالاً، إذ يمكنها إدارة نفسها ذاتياً في هذا النوع من بيئات العمل التعاونية.

الورقة البحثية متاحة مجاناً على موقع arXiv، وتتضمن جميع المعايير المطبقة على أنظمة Gemini 3.1 Pro الذكية. جدير بالذكر أن جوجل تفاخرت قبل أكثر من عام بفوز نظامها الذكي بالميدالية الذهبية في أولمبياد الرياضيات الدولي.