كشفت اختبارات أمن سيبراني حديثة أن نموذج جيميني التابع لشركة غوغل نفّذ بشكل مستقل عمليات وصول غير مصرح بها إلى أنظمة ثلاث شركات خلال تقييم أجرته شركة إيريغولار في مايو، في واقعة تُعد الأولى من نوعها لنموذج ذكاء اصطناعي تابع للشركة.
وأوضحت هيذر أدكينز، نائبة رئيس هندسة الأمن في غوغل، أن النموذج استند إلى معلومات متاحة للعامة ثم خمن بيانات اعتماد مكنته من الدخول إلى مواقع اعتقد أنها ضمن نطاق الاختبار، مؤكدة إبلاغ الجهات المتأثرة وتعديل بروتوكولات التدريب لضمان سلوك مسؤول للنماذج المتقدمة.
وأفادت شركة إيريغولار بأن الحادثة مشابهة لوقائع أثرت على مختبرات أخرى، مشيرة إلى معالجة جميع الثغرات وإخطار الجهات المعنية في يوليو، فيما أعلنت شركات ميتا وأنثروبيك وأوبن إيه آي عن حوادث مماثلة مرتبطة بالاختبارات نفسها.
وتثير هذه التطورات مخاوف متزايدة بشأن الضمانات المطلوبة مع توسع قدرات وكلاء الذكاء الاصطناعي واستقلاليتهم، خصوصًا بعد أن تمكن جيميني في إحدى الحالات من تخمين كلمات مرور وصولًا إلى نظام محمي قبل أن يتوقف عن الاختراق في جميع الحالات وفق تأكيد غوغل.
