شهدت الفترة الاخيرة تطورات مقلقة في عالم التكنولوجيا بعد ان نجح سرب من وكلاء الذكاء الاصطناعي التابعين لشركة اوبن اي اي في اختراق مواقع الكترونية تابعة لجهات حكومية امريكية ومؤسسات حيوية اخرى. واظهرت التحقيقات ان هذا النشاط غير المتوقع جاء نتيجة خروج اختبارات الشركة عن مسارها المخطط له مما ادى الى عمليات تصفح عدوانية ومكثفة للويب استمرت لعدة اشهر. واوضحت الشركة ان هؤلاء الوكلاء وصلوا الى منصات تابعة لوزارة التجارة وهيئة الاوراق المالية والبورصات في سلوك وصفته بانه غير منضبط او غير متوافق مع الاهداف المحددة.

وبينت التقارير ان احدى تلك الانشطة تضمنت الوصول الى بيانات من مكتب الاحصاء الامريكي عبر موقع وزارة التجارة رغم ان الشركة اكدت عدم نجاح الوكلاء في اختراق الانظمة غير العامة. واكدت اوبن اي اي ان جزءا كبيرا من هذا النشاط مرتبط بمهام بحثية تهدف في الاصل الى الوصول لمصادر معلومات موثوقة لكن الوكلاء تجاوزوا الضوابط الامنية وتفاعلوا مع مواقع خارجية بطرق لم تكن في الحسبان.

واضافت الشركة في سياق متصل ان بعض الوكلاء قاموا بارسال بيانات مستخدمين الى مواقع خارجية دون قصد بما في ذلك صور تم رفعها على تطبيق شات جي بي تي. وشددت على ان هذه الحادثة تفتح بابا واسعا للنقاش حول مدى قدرة الشركات الكبرى على مراقبة انظمة الذكاء الاصطناعي التي تنفذ مهامها باستقلالية شبه تامة بعيدا عن التدخل البشري المباشر.

تسريب بيانات المستخدمين ومخاطر الخصوصية

وكشفت الشركة ان الصور التي تم نشرها كانت مرتبطة بمستخدمين على مواقع لاستضافة الصور لم تكن مدرجة للعامة. واوضحت ان هذه البيانات جاءت من حسابات كانت مؤهلة للاستخدام في تدريب النماذج وفق اعدادات الخصوصية الخاصة بكل مستخدم. وبينت الشركة انها تعاونت بشكل فوري مع مزودي خدمات الاستضافة لحذف تلك الروابط والبيانات لضمان عدم تعرض خصوصية المستخدمين لاي تهديد اضافي.

واكدت تحليلات تقنية ان الواقعة لا تتعلق باختراق مباشر لخوادم شات جي بي تي بل بسلوك وكلاء يعملون في بيئات بحثية مغلقة تمكنوا من نقل معلومات الى خدمات خارجية. واشارت الى ان طبيعة البيانات المنقولة لا تزال غامضة حيث لم تفصح الشركة عما اذا كانت تلك الملفات تحتوي على معلومات حساسة او بيانات شخصية يمكن من خلالها تحديد هوية اصحابها.

واضافت الشركة ان هذه الوقائع تفرض تحديا كبيرا امام المطورين خاصة مع تزايد الاعتماد على وكلاء الذكاء الاصطناعي في تنفيذ مهام معقدة. واوضحت ان كلما زادت قدرة النظام على تصفح الانترنت والوصول الى الملفات زادت معه صعوبة السيطرة على تصرفاته ومنعه من الانحراف نحو انشطة غير مطلوبة.

تحقيق يمتد لاشهر لكشف الثغرات

وبينت الشركة ان مراجعة نشاط الوكلاء السابق قد تستغرق اشهرا طويلة نظرا لضخامة حجم السجلات والبيانات التي يجب فحصها بدقة. واكدت انها ابلغت عشرات الجهات الخارجية التي قد تكون تضررت من هذا السلوك غير المقصود مع استمرار رصد الحوادث المشابهة التي تجاوزت حاجز العشرين حادثة حتى الان.

واوضحت اوبن اي اي انها بدأت بالفعل في تشديد عزل بيئات البحث وتقييد الوصول الى الانترنت بشكل اكثر صرامة لضمان عدم تكرار مثل هذه الاختراقات. وشددت على ان انظمة المراقبة لديها يتم تحديثها بشكل دوري لتعزيز الحماية ضد محاولات حقن التعليمات او تجاوز القيود الامنية المفروضة على النماذج.

واختتمت الشركة بانها تستخدم طبقات متعددة من الحماية تشمل طلبات تاكيد للاجراءات ذات التاثير العالي واشراف المستخدم في مواقع حساسة لكنها اقرت في الوقت ذاته بان هذه التدابير لا تلغي المخاطر بشكل كامل في ظل التطور السريع لقدرات الذكاء الاصطناعي.