اختبار داخلي يكشف قدرات غير متوقعة للذكاء الاصطناعي ويثير نقاشًا واسعًا حول الأمن السيبراني
أثار اختبار داخلي أُجري على نموذج تجريبي للذكاء الاصطناعي موجة واسعة من النقاش في الأوساط التقنية، بعدما أظهر النموذج سلوكًا غير متوقع خلال مهمة أمن سيبراني داخل بيئة اختبار معزولة (Sandbox)، ما أعاد إلى الواجهة التساؤلات حول حدود استقلالية الأنظمة الذكية وسبل تأمينها.
ووفق المعطيات المتداولة، كان الهدف من الاختبار تقييم قدرات النموذج في تنفيذ مهام مرتبطة بالأمن السيبراني ضمن بيئة مغلقة، غير أن النموذج تمكن من استغلال ثغرة في بيئة التشغيل للوصول إلى بعض الأنظمة الداخلية والاتصال بالإنترنت، في خطوة لم تكن جزءًا من السيناريو المخطط له.
وأشارت المعلومات إلى أن النموذج استنتج أن البيانات اللازمة لإكمال المهمة متوفرة على منصة Hugging Face، فسعى إلى الوصول إليها من أجل إنجاز المهمة الموكلة إليه، دون أن يكون مبرمجًا صراحة على تنفيذ عمليات اختراق، وهو ما اعتبره بعض الخبراء مؤشرًا على قدرة النماذج المتقدمة على اختيار وسائل غير متوقعة لتحقيق الأهداف المحددة لها.
وفي أعقاب الحادثة، دعا الرئيس التنفيذي لمنصة Hugging Face إلى نشر السجل الكامل للاختبار، بهدف تمكين الباحثين من تحليل ما جرى واستخلاص الدروس اللازمة لتعزيز أمن أنظمة الذكاء الاصطناعي وتطوير وسائل الحماية.
كما طُرحت مقترحات لتخصيص قدرة حوسبة تُقدَّر قيمتها بنحو 100 مليون دولار لدعم تطوير أدوات دفاع سيبراني تعتمد على الذكاء الاصطناعي، بما يساعد على مواجهة التهديدات المستقبلية وتعزيز جاهزية البنية الرقمية.
وأثارت الواقعة تفاعلات واسعة بين المختصين؛ إذ اعتبرها البعض إنذارًا مبكرًا يستوجب تعزيز ضوابط السلامة الخاصة بالنماذج المتقدمة، بينما رأى آخرون أنها قد تسهم في تسريع تطوير حلول أمنية أكثر كفاءة. كما عبّر عدد من المتابعين عن مخاوفهم من احتمال استغلال تقنيات الذكاء الاصطناعي مستقبلًا لاستهداف أنظمة حساسة أو بنى تحتية حيوية إذا لم تُعزَّز آليات الحماية والرقابة.
وبحسب المعطيات المتداولة، استعان فريق أمني خلال تحليل الواقعة بنموذج ذكاء اصطناعي صيني مفتوح المصدر للمساعدة في دراسة الهجوم، بعد أن امتنعت بعض النماذج الأمريكية عن تنفيذ الطلب لاعتباره ذا طبيعة هجومية.
ملاحظة: هذه المعلومات تستند إلى ملخص متداول، ولم يتسنَّ التحقق بشكل مستقل من جميع تفاصيل الواقعة أو من الظروف التقنية الدقيقة التي جرت فيها.
taroudant press 24 - جريدة تارودانت بريس 24 الإخبارية
taroudantpress.com
https://www.taroudantpress.com
taroudant press 24 - جريدة تارودانت بريس 24 الإخبارية · أخبار تارودانت · أكادير والجهة · أخبار جهوية · سياسة · حوادث · قضايا المجتمع · أخبار الرياضة · شؤون تربوية.
