قالت شركة غوغل إن نموذج الذكاء الاصطناعي «جيميني» التابع لها اخترق أنظمة ثلاث شركات أخرى، في أول مرة تكشف فيها الشركة أن أحد نماذجها تمكن بشكل مستقل من الوصول إلى أنظمة كمبيوتر تابعة لجهات خارجية دون تصريح.

النموذج خمن كلمات المرور الشركات الثلاث

وأوضحت غوغل أن نموذج «جيميني» تمكن في مايو أيار من الوصول إلى ثلاثة أنظمة كمبيوتر خاصة ومنفصلة، بعدما خمّن كلمات مرور، واستخدم في مرتين مستودعاً يضم كلمات مرور منشورة بشكل علني.

خلل في بيئة الاختبار أتاح الاتصال بالانترنت

ووقعت الحادثة خلال اختبار أمني من نوع «التقاط العلم» أجرته شركة «إيرريغولار» الإسرائيلية الناشئة، وكان من المفترض ألا تتمكن نماذج غوغل من الوصول إلى الإنترنت الخارجي، لكن خللاً في بيئة الاختبار أتاح لها الاتصال بالإنترنت.

النماذج أوقف محاولات الاختراق

وقالت غوغل إن النماذج أوقفت محاولات الاختراق بعدما أدركت أنها تمكنت من الوصول إلى أنظمة حقيقية تابعة لشركات، وليس مجرد أجزاء من بيئة الاختبار.

وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في غوغل، في بيان «خلال تقييم اعتيادي، عثر النموذج على معلومات متاحة للعامة عبر الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار». وأضافت «في الحالات الثلاث، توقف النموذج.

ويأتي الكشف عن الحادثة في وقت تتزايد فيه في واشنطن ووادي السيليكون المخاوف بشأن سلوك نماذج الذكاء الاصطناعي على نحو غير متوقع.

وأعلنت شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» خلال الأسابيع الأخيرة عن حوادث تمكنت فيها نماذج ذكاء اصطناعي تابعة لها من الخروج من بيئات الاختبار ومحاولة اختراق شركات أخرى بهدف الوصول بشكل غير مصرح به إلى أنظمة الكمبيوتر.

وأثارت هذه الحوادث، التي توصف بأنها مرتبطة بنماذج ذكاء اصطناعي «غير متوافقة» مع الأهداف

المحددة لها، دعوات من الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي إلى إبطاء تطوير أكثر نماذج الذكاء الاصطناعي تقدماً بشكل جماعي، إلى حين ضمان سلامتها.

وجميع الحوادث المذكورة ارتبطت بشركة «إيرريغولار» الإسرائيلية الناشئة، التي تحظى بدعم شركتي «سيكويا» و«ريدبوينت فنتشرز»، وبلغت قيمتها العام الماضي 450 مليون دولار. وتساعد أدوات الشركة مطوري نماذج الذكاء الاصطناعي الأساسية على إجراء اختبارات للأمن السيبراني على تقنياتهم المتطورة.

وقال متحدث باسم «إيرريغولار»

إن حادثة غوغل مرتبطة بالمشكلة نفسها التي سمحت للنماذج الأخرى بالوصول إلى الإنترنت.

وأضاف المتحدث في بيان «هذه هي المشكلة نفسها التي أُبلغ عنها سابقاً ولا تمثل حادثة منفصلة بشكل جوهري»، مشيراً إلى أن جميع المختبرات المعنية أُخطرت في أواخر يوليو تموز، وأن الجهات المتضررة تم التواصل معها في إطار التحقيق.

وقالت غوغل إن الحادثة وقعت في مايو أيار، وإن «إيرريغولار» أبلغتها بها في أواخر يوليو تموز، مضيفة أنها عملت مع الشركة لتعديل إجراءات الاختبار.

ورفض متحدث باسم غوغل الكشف عن نموذج «جيميني» المحدد الذي كان مستخدماً خلال الاختبار.

وقالت أدكينز في بيان «تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.