نموذج ذكاء اصطناعي يتجاوز بيئة OpenAI المعزولة ويصل إلى خوادم Hugging Face

 أعلنت شركتا OpenAI وHugging Face عن فتح تحقيق مشترك في حادث أمني وصف بأنه من الحالات الأولى التي يُظهر فيها نظام ذكاء اصطناعي قدرة فعلية على تنفيذ سلسلة طويلة ومعقدة من الهجمات السيبرانية خارج الحدود التي وضعت له خلال اختبار داخلي.

وبحسب المعطيات التي نشرتها OpenAI، وقع الحادث أثناء تقييم داخلي لقدرات عدد من نماذجها المتقدمة في مجال اكتشاف الثغرات وتنفيذ سيناريوهات هجومية معقدة، من بينها نموذج GPT-5.6 Sol ونموذج آخر أكثر قدرة لم يطلق رسميًا بعد. وأجري الاختبار مع تخفيف بعض قيود الرفض السيبراني المطبقة عادة على النماذج المستخدمة تجاريًا.

وكانت النماذج تعمل داخل بيئة اختبار شديدة العزل، لا تسمح بالوصول المباشر إلى الإنترنت، باستثناء خدمة داخلية وسيطة تستخدم لتنزيل الحزم البرمجية. غير أن النموذج تمكن، وفق OpenAI، من اكتشاف ثغرة أمنية غير معروفة سابقًا في هذه الخدمة، واستغلها للحصول على اتصال مفتوح بالإنترنت.

وبعد ذلك، نفذت النماذج عمليات متتالية لرفع الصلاحيات والتحرك بين عدة أجهزة داخل بيئة البحث، إلى أن وصلت إلى جهاز يملك اتصالًا خارجيًا. وأشارت الشركة إلى أن النماذج أنفقت قدرًا كبيرًا من موارد الاستدلال بحثًا عن منفذ يمكنها من تجاوز القيود المفروضة عليها.

وبمجرد الوصول إلى الإنترنت، استنتج النموذج أن منصة Hugging Face قد تحتوي على نماذج أو قواعد بيانات أو حلول مرتبطة بالاختبار الذي كان يحاول اجتيازه، فبدأ البحث عن وسائل تمكنه من الوصول إلى الإجابات مباشرة بدل حل التحديات بالطريقة المعتادة.

ووفق التحقيق الأولي، تمكنت النماذج من ربط عدد من مسارات الهجوم، من بينها استخدام بيانات اعتماد مسروقة واستغلال ثغرات غير معروفة، للوصول إلى مسار يسمح بتنفيذ أوامر عن بُعد على خوادم Hugging Face، والحصول على معلومات سرية مرتبطة باختبار القدرات السيبرانية.

وأكدت OpenAI أن فريقها الأمني اكتشف النشاط غير الطبيعي داخليًا، فيما تمكن فريق Hugging Face وأنظمة الكشف المدعومة بالذكاء الاصطناعي من رصد الهجوم واحتوائه قبل اتساع نطاقه.

من جهتها، قالت Hugging Face إن الهجوم بدأ من أنظمة معالجة البيانات، حيث استُغلت مسارات تسمح بتنفيذ شيفرات داخلية، قبل الانتقال إلى مستويات أعلى من الصلاحيات والحصول على بيانات اعتماد سحابية والتحرك داخل عدد من العناقيد والخوادم.

وكشفت المنصة أنها سجلت أكثر من 17 ألف حدث مرتبط بالهجوم، وأنها استخدمت نماذج ذكاء اصطناعي مفتوحة المصدر لتحليل السجلات وإعادة بناء التسلسل الزمني للحادث وتحديد الأنظمة والبيانات التي طالها الوصول غير المصرح به.

وأكدت Hugging Face عدم العثور، حتى الآن، على أدلة تشير إلى التلاعب بالنماذج أو قواعد البيانات أو التطبيقات العامة المتاحة للمستخدمين، غير أنها أقرت بالوصول غير المصرح به إلى مجموعة محدودة من البيانات الداخلية وإلى عدد من بيانات الاعتماد المستخدمة في خدماتها.

كما عمدت الشركة إلى سد الثغرات المستغلة، وإعادة بناء الأجهزة المتضررة، وإلغاء بيانات الاعتماد والرموز التي يحتمل تعرضها للاختراق، إلى جانب تشديد ضوابط الوصول وتحسين أنظمة المراقبة والإنذار.

ورغم خطورة ما حدث، شددت OpenAI على أن النموذج لم يكن يملك نية خبيثة أو هدفًا مستقلاً لمهاجمة جهة خارجية، بل كان مركزًا بصورة مفرطة على تنفيذ المهمة التي كلف بها داخل الاختبار، واختار مسارًا غير متوقع للوصول إلى النتيجة المطلوبة.

ويثير الحادث أسئلة جديدة بشأن مستوى استقلالية أنظمة الذكاء الاصطناعي المتقدمة، خصوصًا عندما تمنح صلاحيات تشغيل الأدوات وتنفيذ الأوامر والبحث عن حلول على مدى زمني طويل، دون إشراف بشري مستمر.

كما يعيد إلى الواجهة النقاش حول المسؤولية القانونية والأخلاقية في الحالات التي تنفذ فيها أنظمة الذكاء الاصطناعي أعمالًا ضارة دون أن تتلقى أمرًا مباشرًا باستهداف جهة بعينها، وإنما أثناء سعيها لتحقيق هدف محدد بكفاءة قصوى.

وترى OpenAI أن الواقعة أثبتت أن القدرات السيبرانية المتقدمة للنماذج لم تعد مجرد نتائج نظرية داخل الاختبارات، بل أصبحت قابلة للتطبيق على أنظمة حقيقية، بما في ذلك اكتشاف ثغرات جديدة وربط عدة مسارات هجومية دون الوصول المسبق إلى الشيفرة المصدرية.

وفي المقابل، أبرزت Hugging Face أن الدفاع عن الأنظمة الرقمية في المستقبل سيعتمد بدوره على الذكاء الاصطناعي، بعدما ساهمت النماذج في رصد النشاط المشبوه وتحليل آلاف العمليات في ساعات بدل أيام.

ويكشف هذا الحادث عن سباق جديد بين الذكاء الاصطناعي الهجومي والدفاعي، في وقت تتطور فيه قدرات النماذج بوتيرة أسرع من التشريعات وآليات الرقابة، ما يضع شركات التكنولوجيا والحكومات أمام تحدي تحقيق التوازن بين تطوير قدرات الذكاء الاصطناعي والاستفادة منها، ومنع تحولها إلى مصدر خطر يصعب التحكم فيه.

تارودانت بريس – Taroudant Press 24