جوجل: نموذج "Gemini" يخترق ثلاث شركات خلال اختبار للأمن السيبراني
تمكن نموذج "جيميني" Gemini التابع لشركة جوجل، من الوصول إلى شبكة الإنترنت واختراق شركات أخرى أثناء اختبار لقدراته في مجال الأمن السيبراني، وذلك في أول حالة معروفة تقوم فيها أنظمة الذكاء الاصطناعي التابعة للشركة بمثل هذا الفعل بشكل ذاتي.
وقد وقعت عمليات الاختراق هذه في شهر مايو الماضي، خلال اختبار للأمن السيبراني أجرته شركة "إيريجولار" (Irregular) وهي شركة مستقلة متخصصة في إجراء تقييمات الأمن السيبراني.
نموذج “Gemini” يخترق 3 شركات
وصرحت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، بأن نموذج "جيمناي" (Gemini) - أثناء عملية تقييم واختبار قياسية - عثر على معلومات عامة متاحة عبر الإنترنت وخمّن بيانات اعتماد للوصول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار.
وقالت أدكينز: “لقد حرصنا على إبلاغ الجهات الثلاث المعنية، وعملنا مع شريكنا في مجال التدريب بشأن التغييرات التي أجروها الآن على عمليات الاختبار الخاصة بهم”، وأضافت: "تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية لتعمل بمسؤولية".
حل مشكلة اختراق “Gemini” للمواقع الأخرى
وصرح متحدث باسم شركة "إيريجولار" (Irregular) بأن الحادثة تنطوي على المشكلة نفسها التي أثرت على مختبرات ذكاء اصطناعي أخرى، وأنه تم إخطار جميع المختبرات المعنية في أواخر شهر يوليو، وأكد المتحدث أنه "تمت معالجة وحل جميع المشكلات المعروفة من جانبنا قبل أسابيع".
وكانت شركات "ميتا" (Meta) و"أنثروبيك" (Anthropic) و"أوبن إيه آي" (OpenAI) قد كشفت عن حوادث مماثلة مرتبطة بشركة “إيريجولار”، وفي حين ذكرت "ميتا" في شهر أغسطس أن الحادثة لم تتضمن هروبًا من بيئة الاختبار المعزولة (sandbox) أو هجومًا سيبرانيًا متطورًا، صرحت "إيريجولار" بأنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بشكل آمن.
تساؤلات حول خطورة تكرار اختراق “Gemini” لمواقع مختلفة
وقد أثارت هذه الحوادث وآخرها مشكلة “Gemini” تساؤلات حول تدابير الحماية اللازمة مع تزايد استقلالية وكلاء الذكاء الاصطناعي وقدرتهم على الوصول إلى الإنترنت وأنظمة الحاسوب.
ففي إحدى الحالات، قام نموذج “Gemini” بتخمين كلمات المرور حتى تمكن من الوصول إلى نظام محمي، أما في الحالتين الأخريين، فقد عثر النموذج على بيانات اعتماد في مستودع عام أتاحت له الوصول إلى أنظمة محمية، وذلك وفقًا لما أوردته صحيفة "وول ستريت جورنال" التي كانت أول من نشر الخبر يوم الجمعة.
الشركة المتسببة في حادث “Gemini” تعمل في إسرائيل
جدير بالذكر أن شركة "Irregular" الناشئة -التي تتخذ من إسرائيل مقرًا لها وتُعنى بفحص أمن أنظمة الذكاء الاصطناعي المتقدمة- كانت حاضرة أيضًا في صلب بعض عمليات الاختراق الأخيرة التي استهدفت أطرافًا خارجية، والمرتبطة بشركتي "OpenAI" و"Anthropic"؛ بما في ذلك اختراق شركة "OpenAI" لشركة برمجيات الذكاء الاصطناعي "Hugging Face".
