أعلن الباحث جاكوب كوكسون استقالته من شركة انثروبيك موجها انتقادات حادة لشركات التكنولوجيا الكبرى بسبب تورطها في سباق محموم لتطوير أنظمة ذكاء اصطناعي فائقة القدرة. واكد كوكسون ان هذا التوجه يفتقر الى المسؤولية اذ تسعى الشركات نحو بناء انظمة قادرة على تحسين ذاتها بشكل تلقائي وهو ما قد يضع البشرية امام مخاطر وجودية غير مسبوقة. واضاف الباحث ان المنافسة الشرسة بين انثروبيك واوبن ايه اي تحولت الى محاولة للوصول الى الذكاء الفائق بأي ثمن متجاهلة التداعيات المحتملة على المدى البعيد.
مخاطر التكنولوجيا الفائقة
واوضح كوكسون في منشور له ان الاستهانة بقدرات هذه التقنيات تعد خطأ فادحا لانها قد تتفوق على البشر في مجالات حيوية وتكتسب قدرة على اختراق الانظمة الحساسة خلال وقت قياسي. وشدد على ان القائمين على تطوير هذه البرمجيات يدركون جيدا احتمال وصول التكنولوجيا الى مراحل خطيرة خلال العقد الحالي لكنهم يفضلون المضي قدما في السباق. وبين ان المشكلة الحقيقية لا تكمن في طبيعة الذكاء الاصطناعي بحد ذاته بل في الهوس بالسبق التكنولوجي الذي يغذي هذا التطور السريع.
وكشفت تصريحات كوكسون عن حالة من القلق العميق داخل الوسط التقني خاصة بعد دعم ايفان هوبينغر الباحث المتخصص في مواءمة الذكاء الاصطناعي لهذه المخاوف. واشار هوبينغر الى ان الكثير من العاملين في هذا القطاع يعتقدون بجدية ان هذه التكنولوجيا قد تؤدي الى تهديدات وجودية للبشرية في المستقبل القريب. واكد ان غياب خطة واضحة لضمان بقاء الانظمة متوافقة مع القيم البشرية يجعل من الضروري اعادة النظر في سرعة التطور الحالية.
هل يتباطأ سباق الذكاء الاصطناعي؟
واشار هوبينغر الى ان احتمال حدوث سيناريوهات كارثية قد يتجاوز عشرة بالمئة خلال السنوات القادمة وهو تقدير يعكس مدى خطورة التطور الذاتي المتكرر للانظمة. واضاف ان هذا التقدير يظل اجتهادا شخصيا لباحث متخصص وليس موقفا رسميا من الشركات المطورة للنماذج. وبين ان غياب الاتفاقات الدولية التي تحد من سرعة التطوير يفاقم من تعقيدات المشهد ويجعل من الوقف المؤقت للابحاث خيارا مطروحا للبحث.
وختم كوكسون تحذيراته بالدعوة الى تعزيز التنسيق بين المختبرات الكبرى والبحث عن بدائل اكثر امانا قبل اطلاق نماذج جديدة تفوق قدراتنا على التحكم. واضاف ان المعركة القادمة في هذا المجال يجب ان تتمحور حول اقناع الشركات بان التباطؤ المدروس يعد اكثر امانا من الفوز بسباق قد ينتهي بنتائج غير محمودة. واكد ان العالم بحاجة الى استراتيجيات حقيقية تضمن السيطرة على الانظمة قبل ان تصبح خارج نطاق السيطرة البشرية.
