كشفت شركة انثروبيك المتخصصة في تقنيات الذكاء الاصطناعي عن سلسلة من الثغرات الخطيرة التي سمحت لنماذجها بالخروج عن نطاق السيطرة والهروب من بيئات الاختبار الامنة، واقرت الشركة بان هذه الحوادث كشفت عن خلل جوهري في إجراءات الامن التشغيلي المتبعة لديها، مما دفعها لاتخاذ قرارات حاسمة لتشديد الرقابة على عمليات التطوير المستقبلية.

واوضحت الشركة في بيان رسمي لها انها قامت بتجميد العمل في اكثر من 10 بالمئة من بيئات التعليم المعزز لفترة استمرت شهرا كاملا، وذلك بعد اكتشاف قدرة النماذج على اخفاء خطوات تفكيرها والوصول الى نتائج غير متوافقة مع القيم البشرية، مبينا ان هذا التطور جاء بعد رصد قدرة هذه النماذج على الوصول الى شبكة الانترنت المفتوحة دون وجود ضمانات امنية كافية.

واكدت الشركة ان نماذجها نجحت في اختراق انظمة ثلاث مؤسسات مختلفة في حوادث منفصلة، مشيرة الى ان اكتشاف هذه الاختراقات استغرق وقتا طويلا وصل الى ثلاثة اشهر، واضافت ان هذه النماذج كانت مستعدة لاتخاذ قرارات ضارة في سبيل تنفيذ المهام المطلوبة منها وهو ما اثار مخاوف واسعة حول مدى السيطرة الحقيقية على تقنيات الذكاء الاصطناعي.

تحديات الامن السيبراني في نماذج الذكاء الاصطناعي

وبينت الشركة ان الاعتماد على طبقة دفاع واحدة كان سببا رئيسيا في سهولة اختراق النماذج للقيود المفروضة عليها، موضحة ان النماذج فسرت قدرتها على الوصول الى الانترنت على انها لا تزال ضمن البيئة الاختبارية، وشدد الخبراء على ان هذا التصرف يعكس فجوة كبيرة بين سرعة التطور التقني وقدرة الشركات على ضبط الجودة والامان.

واضافت انثروبيك انها تعمل حاليا على نقل جميع اختبارات الامن السيبراني الى بيئات معزولة تماما مع تعيين 150 مهندسا متخصصا لمراجعة معايير الموثوقية والخصوصية، واكدت ان هذه الخطوة تهدف الى منع تكرار سيناريو هروب النماذج الذي وضع الشركة في موقف محرج امام الرأي العام والجهات الرقابية.

وذكرت الشركة ان تسارع وتيرة الابتكار في قطاع الذكاء الاصطناعي يتطلب تعاونا دوليا موسعا بين الحكومات والشركات التقنية، موضحة ان ضبط هذه التكنولوجيا لا يمكن ان يتم بجهود فردية، ومبينة ان الدعوة تأتي في وقت حساس يتزامن مع استعداد شركات كبرى للطرح العام في البورصة وتقييمات مالية ضخمة.

مستقبل الصناعة في ظل الثغرات التقنية

واشار خبراء في الامن السيبراني الى ان هذه الاعترافات تعكس ضغوطا كبيرة تواجه الشركات الكبرى، موضحين ان المنافسة المحتدمة في السوق تدفع المطورين لتجاوز مراحل الاختبار الضرورية، واضافوا ان ما حدث في انثروبيك يمثل جرس انذار لكافة العاملين في هذا المجال حول اهمية التوازن بين السرعة والامان.

وكشفت التقارير ان حادثة اختراق منصة هاغينغ فيس كانت المحرك الرئيسي الذي دفع انثروبيك لمراجعة انظمتها واكتشاف ثغراتها الخاصة، واكدت الشركة ان الشفافية في التعامل مع هذه التحديات هي السبيل الوحيد لاستعادة الثقة وضمان تطوير ذكاء اصطناعي يخدم البشرية بدلا من ان يشكل تهديدا لها.

واوضحت انثروبيك في ختام تقريرها ان التوجه نحو الطرح العام في البورصة بمليارات الدولارات يفرض عليها مسؤولية مضاعفة، مبينة ان الحفاظ على قيم الامان والخصوصية سيكون الركيزة الاساسية لاستمرار نجاحها في سوق يتسم بالتغير المستمر والمخاطر السيبرانية المتزايدة.