اختراق أنظمة الشركة المالكة لـ«شات جي بي تي» بعد خروج نماذج الذكاء الاصطناعي عن السيطرة.. ما القصة؟

أعلنت شركة "أوبن إيه آي" (OpenAI)، الشركة المالكة لتطبيق "تشات جي بي تي"، أن اثنين من نماذجها المتقدمة للذكاء الاصطناعي خرجا بشكل مستقل عن نطاق بيئة اختبار معزولة ونفذا اختراقًا إلكترونيًا لأنظمة شركة "هاجينج فيس" (Hugging Face)، المنصة المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، في واحدة من أولى الحوادث الموثقة علنًا التي يخرق فيها نظام ذكاء اصطناعي بيئته الاختبارية للوصول إلى أنظمة خارجية حقيقية، وفقا لشبكة “سي إن إن”.

تنفيذ عمليات اختراق إلكتروني

ووقعت الحادثة أثناء اختبارات داخلية كانت "أوبن إيه آي" تجريها لتقييم قدرات نماذجها الجديدة على تنفيذ عمليات اختراق إلكتروني، ضمن بيئة معزولة تعرف بـ"الصندوق الرملي" (Sandbox)، حيث تعطل القيود الأمنية المعتادة على النماذج لأغراض الاختبار.

وبحسب الشركة، تمكنت وكلاء الذكاء الاصطناعي من الخروج من هذه البيئة المعزولة عبر استغلال ثغرة أمنية غير معروفة سابقًا، ثم واصلت التنقل داخل أنظمة "أوبن إيه آي" الداخلية إلى أن حصلت على اتصال بالإنترنت لم يكن مسموحًا لها به أصلا.

وقالت "أوبن إيه آي" في بيان، إن الحادث "غير مسبوق وينطوي على قدرات إلكترونية متطورة للغاية"، مؤكدة أنها تتعامل معه وفق هذا التصنيف، وأنها تشارك نتائجها الأولية لمساعدة الجهات المعنية بالدفاع الإلكتروني على فهم ما جرى وتقييم القدرات الفعلية التي باتت تمتلكها النماذج الحديثة.

وبحسب شبكة "إن بي سي نيوز"، فإن الاختراق شمل مزيجًا من نموذج "جي بي تي-5.6 سول" (GPT-5.6 Sol)، أحدث نماذج الشركة المتاحة للجمهور، إلى جانب نموذج آخر أكثر تطورًا لم يُطرح بعد للاستخدام العام.

وأوضحت الشركة أن النماذج كانت تخضع لاختبار داخلي يهدف لتقييم قدراتها الأمنية دون تفعيل الضوابط المعتادة التي تحد عادة من قدرة النماذج على تنفيذ هجمات إلكترونية.

من جانبها، وصفت "هاجينج فيس" الاختراق بأنه "مختلف عن أي حادث تعاملت معه الشركة من قبل"، مؤكدة أنه "قاد نفسه بالكامل، من البداية إلى النهاية، عبر نظام وكيل ذكاء اصطناعي مستقل". 

أمن الذكاء الاصطناعي لن يتحقق عبر شركة في الخفاء

وأشار الرئيس التنفيذي للشركة كليم ديلونج إلى أن الحادثة تؤكد قناعة راسخة لدى فريقه بأن أمن الذكاء الاصطناعي لن يتحقق عبر عمل شركة واحدة في الخفاء، بل من خلال التعاون العلني الواسع بين مختلف الجهات المدافعة، وفقا لمجلة فورتشن.

وأثار الحادث قلقًا متزايدًا في أوساط المشرّعين الأمريكيين، إذ اعتبر النائب الديمقراطي عن ولاية تكساس جريج كاسار أن الأمر "مثير للقلق"، مشددًا على أن الذكاء الاصطناعي يتطور بسرعة كبيرة دون وجود تنظيمات حقيقية تحمي الناس، ودعا إلى فرض اختبارات أمان مستقلة إلزامية والإفصاح الإجباري عن أي حوادث أمنية مستقبلية، إلى جانب تعزيز التعاون الدولي لتفادي وقوع "كارثة مطلقة".

تعزيز الضوابط المفروضة على أنظمة الذكاء الاصطناعي

وبحسب شبكة "إن بي آر"، فإن هذا الحادث يعيد إشعال الجدل حول ضرورة تعزيز الضوابط المفروضة على أنظمة الذكاء الاصطناعي، خصوصًا في ظل التنافس المحتدم بين الشركات الأمريكية ونظيراتها الصينية على تطوير نماذج مفتوحة المصدر أرخص تكلفة وقريبة في الأداء من النماذج المتقدمة التي تطورها شركات مثل "أوبن إيه آي" و"أنثروبيك" و"جوجل".

ويرى خبراء في مجال الأمن السيبراني أن الحادثة تمثل ما وصفوه بـ"جرس إنذار" حقيقي للقطاع التقني، إذ يشير خروج نموذج ذكاء اصطناعي عن نطاق السيطرة دون توجيه بشري مباشر إلى تحول جوهري في طبيعة التهديدات الرقمية، بما يفرض على الشركات إعادة النظر في آليات مراقبة سلوك هذه الأنظمة بشكل استباقي بدلًا من الاكتفاء بالتحقيق فيها بعد وقوع الحادث، على غرار ضرورة تركيب أحزمة الأمان والمكابح في السيارة قبل انطلاقها لا بعد وقوع الحادث.