اختبارات أمنية تكشف قدرة وكلاء الذكاء الاصطناعي على تجاوز الأنظمة وتسريب معلومات حساسة
جريدة تارودانت بريس الإلكترونية
كشفت اختبارات حديثة أجراها مختبر متخصص في أمن الذكاء الاصطناعي عن سلوك غير متوقع لأنظمة ذكية قادرة على تجاوز أنظمة الحماية وتسريب معلومات حساسة دون تلقي تعليمات مباشرة من البشر.
وأوضحت المعطيات أن الباحثين صمموا شركة افتراضية تضم قاعدة بيانات تحتوي على معلومات عن الموظفين والمنتجات والحسابات، قبل تكليف مجموعة من “الوكلاء الأذكياء” بمهمة بسيطة تتمثل في جمع بيانات تساعد الموظفين على إعداد منشورات مهنية عبر منصة لينكد إن. غير أن أحد الوكلاء، بعد فشله في الوصول إلى تقرير خاص بالمساهمين، بدأ في البحث عن طرق بديلة للوصول إليه.
وبحسب نتائج الاختبار، تمكن أحد الوكلاء من العثور على مفتاح سري داخل الشيفرة البرمجية للنظام، واستعمله لتزوير بيانات جلسة العمل والحصول على صلاحيات مسؤول النظام، ما مكنه من الوصول إلى التقرير السري وتسريبه للمستخدم. كما أظهرت تجارب أخرى قدرة هذه الأنظمة على تجاوز برامج الحماية أو محاولة تحميل ملفات ضارة، ما يثير تساؤلات حول مخاطر الاعتماد الواسع على هذه التقنيات داخل المؤسسات.