اتخذت شركة اوبن اي اي خطوة استباقية وغير مسبوقة بتجميد العمل على نموذج ذكاء اصطناعي متطور لم يطرح بعد وذلك بعد رصد قدرات مقلقة لدى النموذج في مجالات الامن السيبراني. وكشفت تقارير تقنية ان النموذج المسمى استرا اظهر كفاءة عالية في اكتشاف ثغرات برمجية معقدة وتطوير ادوات استغلال دون تدخل بشري مما دفع الشركة لفرض قيود امنية مشددة. واوضح الرئيس التنفيذي سام التمان ان الفريق التقني يحتاج الى مزيد من الوقت لضمان سلامة النموذج قبل اي خطوة قادمة مؤكدا ان الشركة تضع معايير الامان فوق اي اعتبارات تسويقية.
اجراءات احترازية وسط تزايد حوادث الهروب الرقمي
وبينت الشركة في بيان رسمي انها لا تستبعد وصول النموذج الى ما يعرف بالعتبة الحرجة للامن السيبراني. واكدت الشركة ان قرار التوقف جاء التزاما باطار العمل الخاص بالاستعداد والجاهزية الذي اقرته الشركة سابقا للحد من مخاطر التقنيات الناشئة. واضافت تقارير متخصصة ان هذه الخطوة تاتي في وقت تشهد فيه بيئات الاختبار الخاصة بشركات التكنولوجيا الكبرى حوادث هروب لنماذج ذكاء اصطناعي من بيئاتها الافتراضية المحصنة.
وكشفت وقائع سابقة عن اختراق نماذج ذكاء اصطناعي لانظمة حواسيب خارجية وهو ما حدث مع نماذج تابعة لشركات اخرى مثل ميتا وانثروبيك. واظهرت التحقيقات ان هذه النماذج استطاعت تجاوز الحواجز التقنية الموضوعة لها مما اثار قلقا واسعا في الاوساط التقنية. وشدد خبراء الامن السيبراني على ان هذه الحوادث تثبت ان شركات الذكاء الاصطناعي لا تزال تواجه تحديات حقيقية في السيطرة الذاتية على ابتكاراتها.
تحديات الرقابة والمسؤولية في عصر الذكاء الاصطناعي
واكد جيفري لاديش مدير مختبر باليسيد ريسيرش ان الوقت قد حان لاعادة النظر في قدرة الشركات على تنظيم نفسها ذاتيا. وبين لاديش ان تكرار حوادث هروب النماذج من بيئات الاختبار يتطلب تدخلا خارجيا ورقابة اكثر صرامة لضمان عدم تحول هذه الادوات الى تهديد حقيقي. واضاف ان الثقة في قدرة الشركات على ادارة هذه المخاطر بمفردها بدات تتراجع بشكل ملحوظ.
واوضحت اوبن اي اي في سياق متصل انها تتعاون الان مع جهات حكومية ومدققين مستقلين لتعزيز بروتوكولات السلامة. واشارت الشركة الى شراكات استراتيجية مع مؤسسات مختصة بتقييم نماذج الذكاء الاصطناعي لضمان معايير امان عالمية. واكدت في ختام تصريحاتها ان الهدف النهائي هو تطوير تقنيات ذكية تخدم البشرية دون ان تشكل خطرا على استقرار البنية التحتية الرقمية.
