كشفت دراسة بحثية أن نماذج الذكاء الاصطناعي يمكنها استغلال المعلومات والصور التي ينشرها المستخدمون علناً على مواقع التواصل الاجتماعي لإنشاء رسائل تصيد احتيالي شديدة التخصيص، بما يجعل اكتشافها أكثر صعوبة ويزيد قدرتها على خداع الضحايا.

اعتاد كثيرون تلقي رسائل بريد إلكتروني مشبوهة تزعم الفوز بجائزة، أو تدّعي تعذر تسليم شحنة، أو تطالب بتحديث بيانات الحساب المصرفي بصورة عاجلة.
وغالباً ما يسهل تجاهل هذه الرسائل، خصوصاً عندما تحتوي على أخطاء لغوية واضحة أو معلومات لا علاقة لها بالمستلم.

لكن الأمر يصبح أكثر خطورة عندما تتضمن الرسالة تفاصيل حقيقية عن أنشطة المستخدم الأخيرة، أو أماكن زارها، أو أحداث يستعد للمشاركة فيها، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".

فقد توصل باحثون في جامعة تكساس بمدينة أرلينغتون إلى أن الذكاء الاصطناعي قادر على استغلال المعلومات التي ينشرها الأشخاص علناً على منصات التواصل الاجتماعي، وتحويلها إلى رسائل تصيد احتيالي تبدو وكأنها كُتبت خصيصاً لكل شخص.

ولا تقتصر هذه المعلومات على اسم المستخدم أو مكان عمله، بل يمكن أن تشمل أنشطة قام بها مؤخراً، أو أماكن زارها، أو حتى مناسبات يتطلع إلى حضورها.

وأظهر الباحثون أن نماذج الذكاء الاصطناعي المتاحة على نطاق واسع تستطيع جمع هذه التفاصيل وتحويلها إلى رسائل احتيالية موجهة، ما يمنح المحتالين القدرة على استهداف أعداد كبيرة من الأشخاص دون الحاجة إلى قضاء ساعات في البحث عن معلومات كل ضحية على حدة.
منشور عادي على "إنستغرام" قد يتحول إلى وسيلة للاحتيال

غالباً ما يشارك المستخدمون تفاصيل حياتهم اليومية عبر الإنترنت دون التفكير في كيفية استغلالها. فقد ينشر أحدهم صوراً من رحلة نهاية الأسبوع، أو يتحدث عن تذاكر حفل موسيقي يستعد لحضوره، أو يشتكي من خلل في إحدى الخدمات التي يستخدمها.

وبالنسبة إلى الأصدقاء والمتابعين، تبدو هذه المنشورات مجرد تحديثات عادية، لكنها قد تمثل بالنسبة إلى المحتالين مصدراً مهماً للمعلومات الشخصية التي تساعدهم على بناء رسائل أكثر إقناعاً.

ووجد الباحثون أن الذكاء الاصطناعي يستطيع استخراج هذه التفاصيل، بما في ذلك المعلومات الموجودة داخل الصور، ثم استخدامها لصياغة رسائل بريد إلكتروني احتيالية تبدو مرتبطة مباشرة بحياة المستهدف واهتماماته.

كما يمكنه تعديل اسم المرسل وعنوان الرسالة والروابط المرفقة بها، بهدف جعل عملية الاحتيال أكثر واقعية وإقناعاً.

وتندرج هذه الممارسة ضمن ما يُعرف باسم "التصيد الاحتيالي الموجّه"، وهو أسلوب يعتمد على استهداف أشخاص محددين برسائل مصممة بالاستناد إلى معلوماتهم الشخصية.

لكن الاختلاف هذه المرة يتمثل في حجم العمل الذي يستطيع الذكاء الاصطناعي إنجازه وسرعته، إذ يمكنه جمع المعلومات وتحليلها وإعداد رسائل مخصصة لأعداد كبيرة من المستخدمين في وقت قصير.

وطلب فريق البحث من مجموعة من المشاركين تقييم رسائل البريد الإلكتروني التي أنشأها الذكاء الاصطناعي، وحصلت هذه الرسائل على تقييمات مرتفعة من حيث الجودة والإقناع. ولا يعني ذلك بالضرورة أن جميع المستخدمين سيقعون ضحية لها، لكنه يكشف مدى قدرتها على الظهور بصورة مقنعة.
أدوات الحماية من احتيال الذكاء الاصطناعي تواجه مشكلة

الأكثر إثارة للقلق أن نماذج الذكاء الاصطناعي تتضمن بالفعل أنظمة أمان مصممة لمنع إساءة استخدامها في أنشطة ضارة، لكن الباحثين وجدوا أن عدداً من هذه الأنظمة لم يتمكن من التعرف بفاعلية على طلبات إنشاء رسائل التصيد الاحتيالي المخصصة.

واختبر الفريق ثلاث أدوات مخصصة لرصد الطلبات الضارة المحتملة، هي Llama Guard وShieldGemma وWildGuard.

وأظهرت النتائج أن هذه الأدوات، عند استخدام إعداداتها الافتراضية، لم تتمكن سوى من اكتشاف ما بين 0% و19% من الطلبات المرتبطة بهجمات التصيد الاحتيالي المخصصة.

لكن الباحثين توصلوا أيضاً إلى طريقة لتحسين أداء هذه الأنظمة، إذ أدى تزويدها بتعليمات أكثر وضوحاً بشأن طبيعة الأنشطة التي ينبغي البحث عنها إلى رفع معدلات اكتشاف الطلبات الضارة إلى 99%.

ومن المقرر عرض نتائج الدراسة خلال مؤتمر للأمن السيبراني في مارس 2027، في وقت تتزايد فيه المخاوف من تطور أساليب الاحتيال المدعومة بالذكاء الاصطناعي.

وتسلط النتائج الضوء على أن خطورة هذه الهجمات لا تكمن بالضرورة في قدرة الذكاء الاصطناعي على اختلاق معلومات عن المستخدمين، بل في قدرته على استغلال تفاصيل حقيقية سبق أن شاركوها بأنفسهم عبر الإنترنت، ثم توظيفها في رسائل احتيالية تبدو شخصية وموثوقة.

وبالتالي، فإن ورود معلومة شخصية صحيحة داخل رسالة بريد إلكتروني لا يعني بالضرورة أنها مرسلة من جهة موثوقة، بل قد يكون دليلاً على أن المحتال جمع هذه المعلومة من حسابات المستخدم على مواقع التواصل الاجتماعي.

وهذا يجعل التحقق من هوية المرسل والروابط قبل النقر عليها أكثر أهمية من أي وقت مضى.