قام خبراء الأمن في شركة كاسبرسكي بإجراء بحث كان الهدف منه دراسة إمكانية اكتشاف روابط التصيد في روبوت الدردشة القائم على الذكاء الاصطناعي ChatGPT، وأثبت هذا الروبوت في مرات سابقه قدرته على إنشاء رسائل بالبريد الإلكتروني للتصيد الاحتيالي، وكتابة برامج خبيثة، لكن فعاليته في اكتشاف الروابط الخبيثة كانت محدودة.
ووفقا لما ذكره موقع "aitnews"، كشفت الدراسة أيضًا أن ChatGPT حقق معدلات خاطئة بمستوى عالٍ وصلت إلى 64%، وفي الكثير من الأحيان، قدم تفسيرات وهمية وأدلة غير دقيقة من أجل تبرير الأحكام التي توصل إليها، مع معرفة هذا الروبوت الكثير عن التصيد الاحتيالي، وإمكانية تخمين هدف هجوم التصيد.
وكان ChatGPT موضوع نقاش في عالم الأمن السيبراني بسبب قدرته على إنشاء رسائل بالبريد الإلكتروني للتصيد الاحتيالي، بالإضافة إلى المخاوف من تأثيره في الأمن الوظيفي لخبراء الأمن السيبراني، على الرغم من التحذيرات من الخبراء المتخصصين بأن الوقت لا يزال باكر جدًا لتطبيق التكنولوجيا الجديدة في مثل هذه المجالات العالية الخطورة.
وقرر خبراء كاسبرسكي إجراء تجربة للكشف عن قدرة ChatGPT على اكتشاف روابط التصيد، إضافة إلى مدى معرفته بالأمن السيبراني التي تعلمها أثناء التدريب. وأجرى خبراء الشركة اختبارًا على (gpt-3.5-turbo)، النموذج المسؤول عن تشغيل روبوت ChatGPT، باستخدام أكثر من 2,000 رابط اعتبرتها تقنيات مكافحة التصيد الاحتيالي من كاسبرسكي روابط للتصيد الاحتيالي، كما خُلطت الروابط الخبيثة مع آلاف العناوين الإلكترونية الآمنة.
وخلال التجربة، اختلفت معدلات الكشف اعتمادًا على الطلب المقدم للروبوت. واستندت التجربة إلى طرح سؤالين على ChatGPT، وهما: “هل يؤدي هذا الرابط إلى موقع إلكتروني للتصيد الاحتيالي؟” و“هل هذا الرابط آمن للزيارة؟”، وأظهرت النتائج أن معدل اكتشافه بلغ 82%، بينما قدم معدلًا خاطئًا بنسبة 23.2% للسؤال الأول.
أما السؤال الثاني، وهو “هل هذا الرابط آمن للزيارة؟”، فقد كان معدل الكشف أعلى مسجلًا نسبة قدرها 93.8%، في حين بلغ معدل الكشف الخاطئ نسبة أعلى قدرها 64.3%.
ولم تكن النتائج غير المرضية في مهمة الكشف مفاجئة، ولكن هل يمكن أن يساعد ChatGPT في تصنيف الهجمات والتحقيق فيها؟
بما أن المهاجمين يذكرون عادةً العلامات التجارية الشهيرة في روابطهم لخداع المستخدمين، ودفعهم للاعتقاد أن عنوان الموقع الإلكتروني موثوق، وينتمي إلى شركة حقيقية، فإن نموذج اللغة الذي يستند في عمله إلى الذكاء الاصطناعي يُظهر نتائج رائعة في تحديد أهداف التصيد المحتملة. وعلى سبيل المثال، نجح ChatGPT في استخراج هدف من أكثر من نصف عناوين المواقع الإلكترونية، بما يشمل مواقع مثل فيسبوك وتيك توك وجوجل، وأسواق التجارة الإلكترونية، مثل أمازون، والعديد من البنوك من جميع أنحاء العالم، فضلًا عن جهات كثيرة أخرى، دون أي تمارين إضافية.
وأظهرت التجربة أيضاً أن ChatGPT قد يواجه مشكلات خطيرة عندما يتعلق الأمر بإثبات وجهة نظره بشأن القرارات حول كون الروابط خبيثة أو آمنة، وكانت بعض التفسيرات صحيحة وتستند إلى الحقائق، بينما كشف بعضها الآخر عن قيود معروفة لنماذج اللغة، بما يشمل التنبؤات غر الصحيحة والتحريفات، بينما كانت العديد من التفسيرات مضللة، علمًا أن نبرة اللغة كانت واثقة.
وفي هذا الصدد؛ قال فلاديسلاف توشكانوف، عالم البيانات الرئيسي في كاسبرسكي: “يظهر ChatGPT بالتأكيد نتائج واعدة في مساعدة المحللين في اكتشاف هجمات التصيد الاحتيالي، ولكن يجب علينا عدم المبالغة في ذلك؛ لأن نماذج اللغة لا تزال محدودة، ومع أنها قد تكون بمستوى محلل التصيد المتدرب عندما يتعلق الأمر بالتفكير حول هجمات التصيد الاحتيالي واستخراج الأهداف المحتملة، لكنها تميل إلى التخمين الخيالي وإنتاج مخرجات عشوائية، ويستبعد تمامًا لهذه النماذج أن تحدث ثورة في مشهد الأمن السيبراني حتى الآن، مع أنها تعتبر أدوات مفيدة للمجتمع”.
يتصدر فريق التعلم الآلي في كاسبرسكي في تطبيق تقنيات التعلم الآلي في مهام الأمن السيبراني، حيث يقوم باستمرار بتحديث منتجات كاسبرسكي بأحدث التقنيات والمعلومات، وللاستفادة من خبرته في التعلم الآلي والحفاظ على الحماية، يوصي خبراء الشركة بما يلي:
• بالنسبة إلى الأمن السيبراني للشركات، يعتبر برنامج Kaspersky Managed Detection and Response أداة مهمة لقدرته على اكتشاف الاختراقات وحظرها في مراحلها الأولية، ويمكن استخدام نماذج التعلم الآلي المتقدمة لتصفية الأحداث العادية وإرسال الأحداث المقلقة فقط إلى المحللين المحترفين، وتعزز هذه الخدمة قدرة الشركة على تحمل التهديدات السيبرانية مع تحسين استخدام موارد القوى العاملة الحالية.
• احرص على تزويد موظفيك بالتدريب الأساسي للوعي الأمني، وينصح بإجراء محاكاة لهجمات التصيد الاحتيالي أيضًا لضمان معرفتهم بكيفية التمييز بين رسائل البريد الإلكتروني السليمة والمخادعة.
• ينصح أيضًاً باستخدام أحدث معلومات التهديدات للبقاء على دراية بالتكتيكات والتقنيات والإجراءات المستخدمة من قبل الجهات الفاعلة المسؤولة عن التهديدات لتعزيز الأمن السيبراني.