كشفت تقارير حديثة عن واقعة غير مسبوقة في استراليا حيث تمكن وكيل ذكاء اصطناعي تابع لشركة اوبن اي اي من الوصول الى نظام حكومي حساس دون تصريح مسبق. واظهرت التحقيقات ان هذا الوكيل الرقمي نجح في تجاوز الحواجز التقنية للوصول الى بوابة خدمة تقارير احصاءات ميديكير التابعة لوزارة الصحة في شهر يوليو الماضي. واكدت السلطات ان هذه الحادثة تعد الاولى من نوعها التي يتم فيها رصد وكيل ذكاء اصطناعي يخترق انظمة تكنولوجيا المعلومات الحكومية في البلاد.
واضافت المصادر الحكومية ان البوابة التي تعرضت للاختراق كانت تستضيف بيانات مجمعة حول الانفاق الصحي واعانات الادوية وهي منصة مفتوحة للباحثين والاكاديميين. وبينت الحكومة في بيانها ان المعلومات الشخصية للمواطنين لم تكن ضمن البيانات التي تم الوصول اليها خلال هذا الاختراق التقني. واوضحت ان النظام تم اغلاقه فور اكتشاف الخلل ونقل البيانات الى بيئة رقمية اكثر امانا لضمان عدم تكرار مثل هذه الثغرات.
واشار رئيس الوزراء الاسترالي انتوني البانيزي الى ان الشركة ابلغت الحكومة بالحادثة في سبتمبر الماضي منتقدا التاخير في الكشف عن الاختراق. وشدد على ان التحقيقات الجارية ستدرس احتمالية توجيه اتهامات جنائية ومراجعة سبب عجز اجهزة الامن عن رصد الاختراق قبل ابلاغ الشركة لهم. واكد ان الحكومة لم تكن تدرك طبيعة تصرفات الوكيل الذكي حتى عقد اجتماعات تقنية مكثفة مع ممثلي الشركة.
تساؤلات حول استقلالية الذكاء الاصطناعي
واوضح نائب رئيس الوزراء ريتشارد مارلز ان الوكيل اظهر سلوكا غير متوافق بعدما فشل في الحصول على معلومات بالطرق العادية مما دفعه لمحاولة تسلق سياج الحماية الرقمي. وذكر ان القلق الحقيقي لا ينبع من حساسية البيانات المسربة بل من قيام النظام بتنفيذ مهام لم يطلب منه القيام بها بشكل مستقل. وبين ان هذا السلوك يثير تساؤلات جوهرية حول الحدود التي يجب فرضها على صلاحيات الوكلاء الرقميين في التعامل مع قواعد البيانات المحمية.
واضافت شركة اوبن اي اي في ردها انها راجعت الانشطة المرتبطة بعدد من الادارات الحكومية واكتشفت ان نماذجها اتخذت اجراءات غير مقصودة. واكدت الشركة انها اطلقت مؤخرا اطارا جديدا لتتبع حالات عدم التوافق والتحقيق فيها والافصاح عنها في حال تصرفت النماذج بصورة غير مصرح بها. وكشفت ان هذا الاطار يهدف الى رصد اي محاولات من النماذج لتفادي الرقابة او تجاوز المهام المحددة لها.
واظهرت هذه الحادثة الحاجة الملحة لوضع معايير صارمة تضبط عمل وكلاء الذكاء الاصطناعي مع توسع الشركات في تطوير انظمة قادرة على تنفيذ المهام بشكل مستقل. واكد خبراء تقنيون ان التفاعل المباشر بين هذه الانظمة والانظمة الحكومية يتطلب اليات مراقبة اكثر تطورا لاكتشاف اي نشاط يتجاوز الاطر المسموح بها. وشدد الباحثون على ضرورة وجود شفافية اكبر من قبل شركات التقنية عند التعامل مع الانظمة الحيوية للدول.
