تُعرّفه الشركة بأنه "مساعد شخصي وشريك فكري" أثناء تصفحك للويب. يُخالف هذا النظام محركات البحث التقليدية، وله آثار هائلة على الأمن السيبراني، وفقًا لشركة Brave، الشركة المُطوّرة لمتصفحها المُركّز على الخصوصية.
حذّرت Brave في منشورٍ لها الأسبوع الماضي من العدد المُقلق لعمليات الاحتيال باستخدام محركات بحث الذكاء الاصطناعي مثل Comet. تُسهّل هذه الأدوات على مُجرمي الإنترنت خداع الذكاء الاصطناعي بخطواتٍ بسيطة.
الذكاء الاصطناعي عُرضةٌ بشكل خاص لعمليات الاحتيال الإلكتروني؛ فهو لا يزال عاجزًا عن تمييز الكثير من المحتوى الخبيث الذي يغمر الإنترنت. وقد اكتشف مجرمو الإنترنت سهولةً بالغة في تنفيذ هجمات برمجية خفيةً من خلال تعليمات موجودة على الإنترنت.
توضح Brave قائلاً: "تكمن الثغرة في كيفية معالجة Comet لمحتوى صفحات الويب". وتضيف الشركة : "عندما يطلب المستخدمون منه تلخيص صفحة الويب هذه، يُرسل Comet جزءًا منها مباشرةً إلى نموذجه اللغوي المطول، دون التمييز بين تعليمات المستخدم ومحتوى الويب غير الموثوق به".
يسمح هذا للمهاجمين بإضافة رسائل ضارة بشكل غير مباشر، لينفذها الذكاء الاصطناعي لاحقًا كأوامر. ويمكن لمجرمي الإنترنت الوصول إلى رسائل البريد الإلكتروني للمستخدم، وكلمات المرور المخزنة على الجهاز، وملفات الشركة، وحتى كلمات مرور الحسابات المصرفية.
يتزايد جنون الذكاء الاصطناعي، لكن الخبراء بدأوا يُحذّرون من مخاطر هذه التقنية: فالاحتيال الإلكتروني أسهل من أي وقت مضى على المجرمين. حذّر أحد المبرمجين في X: "لهذا السبب لا أستخدم متصفحًا للذكاء الاصطناعي. يمكنك حرفيًا تلقي سيل من الرسائل وإفراغ حسابك المصرفي بمجرد تصفح Reddit".
يمكن لمجرمي الإنترنت إضافة تعليمات خبيثة إلى منشور بسيط على Reddit أو فيسبوك ، دون أن يلاحظه مشرفو المنصتين. ببساطة، يضيف المحتالون نصًا أبيض على خلفية بيضاء إلى الصور والمنشورات.
Why is no one talking about this?
— zack (in SF) (@zack_overflow) August 23, 2025
This is why I don't use an AI browser
You can literally get prompt injected and your bank account drained by doomscrolling on reddit: https://t.co/keiz7bL2XX pic.twitter.com/aGN8xrdZtD
لا يستطيع المستخدمون اكتشاف هذا النص، لكن برامج الدردشة الآلية مثل Perplexity أو ChatGPT قادرة على قراءته. يكتشف الذكاء الاصطناعي التعليمات الخبيثة المخفية في وسائل التواصل الاجتماعي، ويفسرها كمعلومات موثوقة قبل تنفيذها.
حذرت شركة Brave في منشور لها على مدونتها من أن "أنظمة أمان الويب لم تعد مناسبة لعمليات البحث التي تعتمد على الذكاء الاصطناعي؛ نحن بحاجة إلى هياكل أمان وخصوصية جديدة لتصفح الإنترنت".
ليست هناك تعليقات:
إرسال تعليق