لقد انزعجت شركتا OpenAI ومايكروسوفت بشكل واضح لرؤية أن برنامج الذكاء الاصطناعي الخاص بهما يتم استخدامه من قبل قراصنة من الحكومات المتنافسة للولايات المتحدة لإنشاء عمليات اختراق مختلفة. وكما رأينا الأسبوع الماضي، سيعيد قراصنة حكوميون مختلفون توجيه جهودهم نحو إتقان الهجمات السيبرانية باستخدام الذكاء الاصطناعي كدعم رئيسي. والآن، أوضحوا أيضًا الإجراءات التي سيتخذونها لوقف هؤلاء العناصر السيئة قبل أن يبدأوا في الانتشار.
في مقال على مدونتها، ذكرت OpenAI كيف حاول المتسللون المرتبطون بحكومات مختلفة الدخول إلى منصتها للاستفادة منها بشكل مكثف. أول شيء فعلته OpenAI لإيقافهم هو حظر حساباتهم، لكن المشكلة لم تتوقف عند هذا الحد.
وأشار الفريق إلى أنه لمحاولة إيقاف هذا النوع من النشاط، من الضروري اتخاذ تدابير مختلفة يمكن أن تحمي برنامج الذكاء الاصطناعي من الاستخدام بشكل خطير. الأول يدور حول محور واضح للغاية، وهو رصد هذا النوع من الجهات الخبيثة كما يسمونها.
ومن خلال معرفة هوية هؤلاء المستخدمين، يمكن اتخاذ التدابير المناسبة ضدهم. في الواقع، هذا له علاقة كبيرة بالأبحاث التي أجروها لتجنب هذه الممارسات السيئة.
ومن أجل إيقاف هذه الممارسات وتحسين أمان المنصة، من الضروري للغاية التعلم من إساءة الاستخدام التي يرتكبها هذا النوع من الأشخاص. من الضروري إدخال الذكاء الاصطناعي في المواقف المعقدة لفهم كيفية التخفيف من هذه العيوب الأمنية ومحاولة تحسينها.
ويتطلب هذا أيضًا العمل مع الشركات الأخرى التي تستخدم النظام البيئي للذكاء الاصطناعي لحل هذه المشكلات، وقبل كل شيء، تحديد موقعها.
ومع ذلك، فإن النقطة الأكثر أهمية هي الشفافية. تقوم OpenAI ومايكروسوفت بإجراء دراسات مستمرة تنشرها علنًا حتى تتمكن من فهم طرق عملها والتعامل مع هذه المشكلات. في الواقع، قاموا مؤخرًا بإجراء دراسة لمعرفة ما إذا كان من الممكن صنع أسلحة بيولوجية باستخدام ChatGPT.
باختصار:
- تستخدم مجمموعات الهاكرز المختلفة التي تعمل في دول مثل روسيا أو الصين أو إيران ChatGPT لإنشاء هجماتها الإلكترونية
- هذه هي المرة الأولى التي يتم فيها توثيق كيفية استخدام المتسللين التابعين لحكومات مختلفة حول العالم للذكاء الاصطناعي في هجماتهم.
- ففي النهاية، فهم يستخدمون الذكاء الاصطناعي مثل أي شخص آخر، في وظائفهم وحياتهم اليومية.
- من الضروري مراقبة أنشطة ChatGPT، بالإضافة إلى العمل مع الشركات الأخرى في الصناعة للتخفيف من المشكلات الأمنية.
- أحد أكبر المخاوف التي يولدها الذكاء الاصطناعي هو على وجه التحديد وقوعه في الأيدي الخطأ.
- استخدمت المجموعات هذه التقنيات في حملات التصيد الاحتيالي أو لترجمة المقالات العلمية التي قد تكون مفيدة للهجمات.
- لقد تم قفل حسابات هؤلاء المستخدمين بشكل صارم.
ليست هناك تعليقات:
إرسال تعليق