يذكر تقرير MIT Technology Review أن الذكاء الاصطناعي يجعل الجرائم الإلكترونية أكثر شيوعًا وتأثيرًا. من أمثلة ذلك برمجية PromptLock التي تستخدم نماذج اللغة لتوليد رموز خبيثة بشكل تلقائي. وتوضح النتائج ارتفاع استخدام الذكاء الاصطناعي في الرسائل الاحتيالية من 7.6% إلى 14% خلال عام واحد. كما يلعب الذكاء الاصطناعي دورًا في تفادي الكشف بتعديل سلوكه بين كل محاولة.
آليات عمل الذكاء الاصطناعي
تعتمد آليات الذكاء الاصطناعي في الهجمات على إنشاء محتوى مولد، مثل كتابة رموز أو رسائل احتيالية. وتتم أتمتة خطوات مثل استكشاف الأنظمة واستغلال الثغرات. في البرمجيات الخبيثة، يقوم الذكاء الاصطناعي بتشفير الملفات وكتابة ملاحظات مخصصة والتعديل تلقائيًا لتقليل احتمال الكشف. وقد استخدمت تقنيات كهذه في حملات واسعة، منها نقل 25 مليون دولار عبر مكالمة فيديو مزيفة.
التدابير الوقائية والمخاطر
تشير التدابير الوقائية إلى استخدام فلاتر البريد وبرامج مكافحة الفيروسات والتحقق من الطلبات غير المتوقعة. يساعد الذكاء الاصطناعي الدفاعي في كشف الأنماط من خلال أدوات تعتمدها الشركات التقنية الكبرى. وتزداد المخاطر المستقبلية مع الاعتماد على نماذج مفتوحة المصدر، لكن تظل الأخطاء مثل الهلوسات التقنية عقبة أمام تنفيذها. كما ينبغي على المؤسسات تبادل المعلومات الأمنية وتحديث الأنظمة بانتظام لمواجهة هذه التهديدات.
