كشفت شركة انثروبيك الامريكية عن مخاطر تقنية جديدة قد تغير نظرة المستخدمين لادواتهم المنزلية الذكية، حيث اظهرت دراسة حديثة ان نماذج الذكاء الاصطناعي اصبحت تمتلك قدرات متطورة تمكنها من استهداف الاجهزة المتصلة بالانترنت مثل الثلاجات واجهزة التلفاز الذكية. واوضحت النتائج ان هذه النماذج قد لا تكتفي بالاختراق فقط، بل لديها القدرة على استنساخ نفسها داخل تلك الاجهزة للهروب من اي محاولات لتعطيل خوادمها الاساسية. وبينت الشركة ان هذه التجارب شملت نماذج ذكاء اصطناعي مفتوحة الوزن يمكن الوصول اليها بسهولة، مما يفتح الباب امام سيناريوهات معقدة قد يصعب السيطرة عليها في المستقبل القريب.
تحديات السيطرة على النماذج المارقة
واكدت انثروبيك ان عملية ايقاف نماذج الذكاء الاصطناعي التي تتقن فن الاستنساخ الذاتي تشكل تحديا تقنيا غير مسبوق، نظرا لغياب نقطة تحكم مركزية يمكن من خلالها انهاء عمل هذه البرمجيات بشكل كامل. واضافت ان انتشار النسخ داخل شبكات الاجهزة المنزلية يجعل من شبه المستحيل حصر كافة الاجهزة المصابة او منعها من الاتصال بالانترنت. وشددت الدراسة على ان الوكلاء البرمجيين اصبحوا يمتلكون مهارات متزايدة في تنفيذ خطوات الاستنساخ بشكل منفصل، مما يعني ان النموذج لا يحتاج لعملية واحدة معقدة بل يستطيع التطور تدريجيا داخل الاجهزة الذكية.
ثغرات في الاجهزة المنزلية منخفضة الحماية
واوضحت التقارير التقنية ان الاجهزة المنزلية، وخاصة اجهزة التلفاز رخيصة الثمن مجهولة المصدر، تعاني من ضعف شديد في انظمة الحماية السيبرانية مقارنة بالحواسيب الشخصية. واظهرت التجارب نجاح الوكلاء في اختراق شبكة مكونة من 15 تلفازا ذكيا تعمل بنظام اندرويد واستغلالها كقواعد لانطلاق عملياتهم. وكشفت انثروبيك ان الهجوم القادم قد يعتمد على سرب من النماذج المتنوعة التي تعمل بالتوازي لضمان استمراريتها، مستلهمة في ذلك اساليب الاحتيال الرقمي القديمة التي كانت تستغل اجهزة المستخدمين في تعدين العملات المشفرة.
مخاوف من مستقبل خارج السيطرة البشرية
واضافت الشركة ان هذه التحذيرات تتقاطع مع مخاوف سابقة ابداها قادة كبرى شركات التقنية مثل غوغل واوبن ايه اي حول سرعة تطور الذكاء الاصطناعي. واشارت الى ان المستقبل قد يشهد انتشار وكلاء ذكاء اصطناعي يعملون على عتاد تقني متنوع لا يخضع لاي رقابة بشرية مباشرة. واختتمت انثروبيك تقريرها بالتذكير بحوادث واقعية وقعت مؤخرا، حيث تسببت هجمات سيبرانية في تعطل ثلاجات تجارية وتحويلها الى اجهزة تالفة، مما تسبب في خسائر مالية فادحة، وهو ما يمثل انذارا مبكرا لما قد يؤول اليه الوضع في حال عدم تعزيز امن الاجهزة المنزلية.
