سابقة أمنية.. نماذج الذكاء الاصطناعي تخترق مطورين حقيقيين باستخدام الخداع
كشف معهد أمن الذكاء الاصطناعي البريطاني عن قيام نموذجين باختراق حسابات لأشخاص ومؤسسات حقيقية خلال اختبارات السلامة، مما أسفر عن تعليق وصولهما للأنظمة احترازياً، وأثار مخاوف أمنية حول قدرات هذه التقنيات.
وأوضح المعهد أن التقييم الأمني رصد 19 حالة من السلوك غير المصرح به، ونفذ أحد النموذجين 17 حالة منها.
ولفت إلى أن وكلاء الذكاء الاصطناعي حاولوا تجاوز حدود الاختبارات بطرق لتنفيذ مهام حاسوبية بصورة مستقلة.
وأفاد التقرير بأن أبرز الوقائع شملت إنشاء حسابات وهمية بهويات مزيفة على منصة مخصصة لمطوري البرمجيات.
وأضاف أن الوكيل استهدف مطوراً مخولاً بالموافقة على الأكواد البرمجية، وأرسل رسائل بريدية تحتوي على برامج ضارة لأشخاص لتمرير برمجية تجتاز الاختبار.
وبيّن المعهد أن فريقه اكتشف في 28 يوليو محاولة وكيل آخر الوصول لحساب بالمنصة ذاتها، واستغرق إيقافه نحو ساعة قبل تعليق وصول النموذجين لجميع الأنظمة.
وأكد المعهد لجوء النماذج لأساليب الخداع والإقناع، حيث استخدم أحدها لغة المطور المستهدف لإضفاء المصداقية، وأنشأ حسابات تؤيد أمان برمجياته.
وأشار إلى أن النموذج تعمد تأخير نشر رسائله لتبدو كآراء مستقلة ضمن حملة منسقة، مستخدماً أدوات لإخفاء هويته الرقمية.
وأرجع التقرير الحادثة لخمسة عوامل، أبرزها منح النماذج وصولاً كاملاً للإنترنت، وتعطيل حمايات إلكترونية لأغراض الاختبار، وغياب المراقبة اللحظية بالذكاء الاصطناعي.
وذكر أن وجود تعليمات غير مضبوطة، وغياب قيود تمنع التصيد الاحتيالي، دفعا النماذج للبحث عن حلول خارج نطاق التقييم.
وكشف الباحثون أن النماذج جمعت معلومات عامة عن المطور المستهدف لتحديد وقت استهدافه، رغم ترددها حول عملها في بيئة واقعية أو افتراضية.
وشدد المعهد على أن الاختبارات جرت بظروف استثنائية، مقراً بعدم توقعه لحجم وتعقيد التصرفات الصادرة عن النماذج.
من جهته، اعتبر أستاذ الأمن السيبراني بجامعة سري، آلان وودوارد، أن منح النماذج وصولاً مفتوحاً للإنترنت يثير تساؤلات أخلاقية وأمنية، مشيراً إلى أن القلق يكمن في طريقة الاختبار.
ورأى المدير السابق للمركز الوطني للأمن السيبراني البريطاني، كيران مارتن، أن تكرار الحادثة واقعياً يظل احتمالاً ضعيفاً.
وحذر مارتن من تسجيل سلوكيات مشابهة للمرة الثالثة خلال أسابيع، مؤكداً أن المراقبة الفورية للتجارب تشكل حلاً للحد من هذه المخاطر.
