نموذج "جيميني" يخترق أنظمة 3 شركات حقيقية أثناء اختبار أمني

أثار نموذج الذكاء الاصطناعي "جيميني" التابع لشركة جوجل جدلاً واسعاً في الأوساط التقنية، بعد نجاحه في اختراق أنظمة محمية تخص ثلاث شركات حقيقية خلال تمرين أمني، قبل أن يقرر النموذج الانسحاب تلقائياً فور إدراكه لطبيعة هذه الأهداف.

وقعت الحادثة خلال شهر مايو الماضي ضمن تمرين "Capture the Flag" الذي أجرته شركة الأمن السيبراني "Irregular". ووفقاً للتقارير، تمكن النموذج من الوصول إلى أنظمة الشركات عبر تخمين كلمات المرور في حالة واحدة، واستخدام بيانات اعتماد عثر عليها في مستودع عام في الحالتين الأخريين، وهي المرة الأولى التي يُسجل فيها اختراق من هذا النوع بواسطة نموذج ذكاء اصطناعي في بيئة حقيقية.

وأكدت جوجل الواقعة موضحةً أن النموذج توقف عن الاختراق ذاتياً بمجرد استيعابه أنه يتعامل مع أنظمة حقيقية وليست بيئات محاكاة مخصصة للاختبار. وأشارت الشركة إلى أن النموذج المستخدم لم يكن أحدث إصدارات "جيميني"، مؤكدةً عدم وقوع أي أضرار، ومعتبرةً الحادثة جزءاً من جهود اختبار الثغرات التي تهدف لتعزيز الأمان الرقمي.

من جانبها، شددت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، على ضرورة تدريب نماذج الذكاء الاصطناعي على التصرف بمسؤولية، مشيرةً إلى أن استجابة النموذج وتراجعه الطوعي يعكسان فاعلية الضوابط الأمنية المدمجة. وتأتي هذه الواقعة لتنضم إلى سلسلة حوادث مشابهة شملت نماذج من شركات أخرى مثل "أوبن إيه آي" و"أنثروبيك"، مما يعيد فتح النقاش حول مخاطر اختبار الذكاء الاصطناعي في بيئات غير محاكاة.