دراسة جديدة حول تجربة استخدام الذكاء الاصطناعي لارتكاب الجرائم السيبرانية على الإنترنت

اكتشف مركز الأبحاث الروسي Kaspersky ما يقرب من 3000 منشور على شبكة الإنترنت المظلمة تناقش استخدام ChatGPT ونماذج اللغات الكبيرة الأخرى للقيام بأنشطة غير قانونية. تستكشف مصادر التهديد مخططات مختلفة، بدءًا من إنشاء بدائل ضارة لبرنامج الدردشة الآلي الشهير وحتى كسر الحماية. ) النسخة الأصلية من البوت وغيره، بالإضافة إلى أن قنوات الاتصال بالإنترنت المظلم مليئة بحسابات وخدمات ChatGPT المسروقة التي تقدم إنشائها تلقائيًا بكميات هائلة تصل إلى 3000 مشاركة أخرى.

وفي عام 2023، اكتشف التقرير ما يقرب من 3000 منشور على الويب المظلم تناقش استخدام ChatGPT لأغراض غير قانونية أو تتحدث عن أدوات تعتمد على تقنيات الذكاء الاصطناعي. وبلغ عدد هذه المناقشات ذروته في شهر مارس من ذلك العام، لكن المناقشات استمرت حتى بعد شهر مارس. .

وأوضحت أليسا كولشينكو، محللة استخبارات البصمة الرقمية في كاسبرسكي: “تستكشف مصادر التهديدات بشكل نشط مخططات مختلفة لاستخدام ChatGPT والذكاء الاصطناعي، وغالبًا ما تتضمن المواضيع تطوير البرامج الضارة وأنواع أخرى من الاستخدام غير المشروع للنماذج اللغوية، مثل معالجة بيانات المستخدم المسروقة”. عنوان. تحليل ملفات الأجهزة المصابة، الخ.

وأضافت أن شعبية أدوات الذكاء الاصطناعي أدت إلى دمج استجابات ChatGPT الآلية أو ما يعادلها في بعض منتديات الجرائم الإلكترونية. بالإضافة إلى ذلك، تميل مصادر التهديد إلى مشاركة تعليمات كسر الحماية لهذه الأداة عبر قنوات اتصال الويب المظلم المختلفة. هذه التعليمات عبارة عن مجموعات خاصة من الأوامر القادرة على توفير وظائف إضافية للأداة.

وتميل المصادر أيضًا إلى التوصل إلى طرق لاستغلال الأدوات المشروعة، مثل تلك المستخدمة في اختبار الاختراق بناءً على نماذج لغوية لأغراض ضارة. وبصرف النظر عن روبوتات الدردشة وأدوات الذكاء الاصطناعي المذكورة سابقًا، يتم إيلاء الكثير من الاهتمام لروبوتات الدردشة المصممة لأغراض ضارة مثل XXXGPT وFraudGPT وغيرها.

يتم الترويج لنماذج اللغة هذه على الويب المظلم كبدائل لـ ChatGPT مع وظائف إضافية وبدون قيود الأداة الأصلية.

عرض حسابات ChatGPT المسروقة للبيع

التهديد الآخر الذي يواجهه المستخدمون والشركات هو سوق بيع حسابات ChatGPT المدفوعة. وفي عام 2023، اكتشف كاسبرسكي 3000 منشور آخر (بالإضافة إلى ما ذكر سابقًا) تعرض حسابات ChatGPT للبيع على الويب المظلم والقنوات المظلمة على تطبيق Telegram. هذه المنشورات إما بيع… حسابات مسروقة أو الترويج لخدمات التسجيل التلقائي لمجموعة حسابات حسب الطلب.

تجدر الإشارة إلى أنه تمت مشاركة بعض المنشورات أكثر من مرة عبر قنوات اتصال متعددة على الويب المظلم.

وأضافت أليسا كولشينكو: “أدوات الذكاء الاصطناعي ليست خطرة بطبيعتها، لكن مجرمي الإنترنت يحاولون التوصل إلى طرق فعالة لاستخدام نماذج لغوية كبيرة، وهو ما يدفع الاتجاه نحو تسهيل ارتكاب الجرائم الإلكترونية، وقد يزيد من عدد الهجمات الإلكترونية في بعض الحالات”. “.

ومع ذلك، من غير المرجح أن يحدث الذكاء الاصطناعي وروبوتات الدردشة ثورة في مشهد الهجمات السيبرانية، على الأقل في عام 2024.

غالبًا ما تعني الطبيعة الآلية للهجمات السيبرانية الحاجة إلى دفاعات آلية، إلا أن البقاء على اطلاع بأنشطة المهاجم أمر بالغ الأهمية للبقاء في صدارة الخصوم عندما يتعلق الأمر بالأمن السيبراني للشركات.