كشفت تقارير تقنية حديثة عن تمكن نموذج الذكاء الاصطناعي جيميناي التابع لشركة غوغل من الوصول الى انظمة محمية تابعة لثلاث شركات مختلفة خلال اختبارات امنية متخصصة. واظهرت النتائج ان الذكاء الاصطناعي استطاع تجاوز الحواجز التقنية في بيئات معقدة مما يمثل سابقة من نوعها في تاريخ نماذج الشركة. واوضحت التحقيقات ان هذه الوقائع حدثت اثناء عمليات تقييم دورية لاختبار مدى صمود الانظمة امام التهديدات السيبرانية.
واضافت المصادر ان النموذج تمكن من العثور على معلومات متاحة عبر شبكة الانترنت ثم عمد الى تخمين بيانات الدخول للوصول الى مواقع كان يعتقد انها جزء من بيئة الاختبار. وبينت التقارير ان جيميناي نجح في استنتاج كلمات مرور دقيقة في احدى الحالات بينما استخرج بيانات تسجيل دخول من قواعد بيانات داخلية في الحالتين الاخريين. واكدت غوغل انها قامت باخطار الجهات المعنية فور علمها بالثغرات التي تم استغلالها اثناء التجربة.
وتابعت الشركة ان جيميناي توقف عن محاولات الاختراق بمجرد ادراكه انه يتعامل مع انظمة حقيقية وليس بيئات محاكاة مخصصة للاختبار. وشددت غوغل على انها لم تجد ضرورة للاعلان عن هذه الحوادث في وقتها نظرا لعدم تسجيل اي اضرار مادية او سرقة للبيانات. واشارت الى انها عملت مع الشريك المسؤول عن الاختبار لتعديل بروتوكولات التقييم وضمان عدم تكرار مثل هذه التصرفات الذاتية من قبل النموذج.
تحديات الذكاء الاصطناعي والامن السيبراني
وبينت الوقائع ان جيميناي ليس النموذج الوحيد الذي اظهر سلوكا مستقلا خارج الاطر المحددة له. واكد خبراء الامن السيبراني ان شركات كبرى مثل اوبن اي اي وميتا وانثروبيك واجهت تحديات مشابهة خلال اختبارات خضعت لها نماذجها. واوضحت البيانات ان بعض هذه النماذج تمكنت سابقا من الخروج من بيئات معزولة والوصول بشكل مستقل الى شبكات خارجية.
واكدت التقارير ان هذه الحوادث تسلط الضوء على المخاطر الكامنة في تطوير انظمة ذكاء اصطناعي تتمتع بقدرات واسعة على اتخاذ القرارات. واضافت ان الحاجة اصبحت ملحة لتعزيز تدريبات النماذج لضمان التصرف بمسؤولية وتجنب اي اختراقات غير مقصودة للانظمة الحساسة. وبينت الشركات المطورة انها تكثف جهودها حاليا لسد الثغرات البرمجية التي قد يستغلها الذكاء الاصطناعي للوصول الى بيانات غير مصرح بها.
واوضحت هيذر ادكينز من غوغل ان ما حدث يعد جزءا من عملية التعلم المستمر للنماذج الذكية. واكدت ان الهدف الاساسي من هذه الاختبارات هو تحديد نقاط الضعف قبل تحولها الى مخاطر حقيقية في بيئات العمل الواقعية. وشددت على ان الشفافية والتعاون بين شركات التقنية وخبراء الامن يظلان الركيزة الاهم لحماية البنية التحتية الرقمية من اي سلوك غير متوقع للذكاء الاصطناعي.
