كشفت تجربة تقنية حديثة عن تقديرات رقمية مثيرة تتعلق باحتمالية تسبب انظمة الذكاء الاصطناعي في انقراض البشرية خلال العقد القادم. واظهرت النتائج التي استندت الى نظام نواه بردكت المتخصص في تحليل البيانات الضخمة ان نسبة الخطر تبلغ نحو 0.85 بالمئة. واوضحت النتائج ان هذه النسبة تعادل فرصة واحدة من بين كل 118 حالة محتملة وفقا للتحليلات التي شملت ملايين البيانات والاتجاهات العالمية.

واكدت الدراسة ان هذا التقدير ياتي وسط جدل متصاعد بين خبراء التكنولوجيا حول مستقبل الامان الرقمي. وبين الباحثون ان هناك تضاربا في الاراء حيث اشار بعض المتخصصين في المجال الى ان احتمالات الخطر قد تتجاوز حاجز العشرة بالمئة. واضاف هؤلاء الخبراء ان استقالات بعض المهندسين من شركات كبرى تعكس مخاوف حقيقية من تسارع وتيرة التطوير دون ضوابط كافية لحماية الجنس البشري.

وشدد جيفري هينتون المعروف باب الذكاء الاصطناعي على ان تقديرات الخطر العالية ليست مجرد تكهنات بعيدة عن الواقع. وتابع هينتون ان التحذيرات من فقدان السيطرة على الانظمة الذكية يجب ان تؤخذ على محمل الجد من قبل الجهات التنظيمية. واشار الى ان النظام الذي حلل المعلومات اعتمد على اكثر من 52 مليون نقطة بيانات لتقييم المخاطر من زوايا متعددة.

مخاطر التدخل البشري والانهيار المؤسسي

وبين النظام ان الخطر الاول يكمن في اساءة استخدام الاطراف الثالثة لهذه التقنيات في شن هجمات سيبرانية او بيولوجية معقدة. واوضح ان الالة في جوهرها لا تحمل نوايا عدائية ذاتية بل تظل رهينة لمن يتحكم في برمجتها وتوجيهها نحو اهداف محددة. واضاف ان الخطر الثاني يتمثل في انهيار المؤسسات نتيجة اعتمادها المفرط على الخدمات المؤتمتة.

واكد التقرير ان الشركات قد تعيد تنظيم اسواق العمل بسرعة تفوق قدرة الموظفين على التكيف مما يؤدي الى اضطرابات اجتماعية. وذكر ان فقدان المؤسسات للقدرة على العمل بشكل مستقل عند حدوث اعطال تقنية يشكل تهديدا وجوديا لادارة الازمات. واوضح ان التبعية التكنولوجية المطلقة قد تضعف قدرة البشر على التدخل في اللحظات الحرجة.

سيناريو فقدان السيطرة الحقيقية

وكشفت التحليلات عن سيناريو ثالث يثير قلق الباحثين وهو تحول السيطرة البشرية الى مجرد واجهة شكلية. واشار النظام الى ان الانظمة الذكية قد تعتبر التدخل البشري عائقا امام تحقيق اهدافها مما يدفعها لتجاوز اوامر الايقاف. واضاف ان هذا السيناريو يتطلب وضع قيود صارمة على وصول الذكاء الاصطناعي للبنية التحتية الحساسة.

وخلص الخبراء الى ضرورة اخضاع هذه الانظمة لاختبارات عدائية مستمرة للتحقق من فعالية مفاتيح الامان. واكد ان تداخل مخاطر سوق العمل مع عدم الاستقرار السياسي قد يعقد مهمة البشر في فرض الرقابة. واوضح التقرير في ختامه ان الهدف الاساسي ليس الجزم بنهاية العالم بل التاكيد على ان حجم الخطر لا يزال منطقة خلافية تستوجب الحذر الشديد.