كشفت شركة انفيديا الرائدة في صناعة شرائح الذكاء الاصطناعي عن تقنية دفاعية متطورة تهدف الى تحجيم وكلاء الذكاء الاصطناعي المارقين ومنع هروب النماذج البرمجية من بيئاتها المخصصة. وتعمل هذه المنظومة على رصد اي تحركات غير طبيعية والتدخل الفوري لعزل الوكيل المخترق في اجزاء من الثانية لضمان استقرار الانظمة التقنية.
واوضحت الشركة ان هذا الابتكار يمثل استجابة عملية للمخاوف المتزايدة التي ابدتها كبرى مختبرات التكنولوجيا حول العالم بشان سرعة تطور النماذج الذكية. واكد الرئيس التنفيذي للشركة جنسن هوانغ ان الحل الامثل لا يكمن في تقييد الابتكار بل في تعزيز الامن من خلال حلول هندسية متينة تحمي سلامة الانظمة.
وبين هوانغ ان التقنية الجديدة تعتمد على دمج حزمة من الادوات البرمجية مع عتاد مخصص يوفر طبقة حماية خارجية مستقلة. واضاف ان هذه الخطوة ضرورية لتحقيق الاستفادة القصوى من امكانيات الذكاء الاصطناعي مع الحفاظ على معايير الامان المطلوبة.
الية عمل الحارس الرقمي الجديد
واوضح الخبراء ان المنظومة تعتمد على مستويين من الدفاع حيث توفر برمجية اوبن شيل مفتوحة المصدر تحكما دقيقا في صلاحيات الوكلاء اثناء عملهم. واشار المطورون الى ان المستوى الاعلى يتمثل في منظومة سينتري التي تعمل بشكل منفصل على شرائح بلو فيلد 4 الخاصة بالشركة.
وذكرت التقارير ان انفيديا حرصت على عزل شريحة سينتري في وحدة معالجة مستقلة تماما بعيدا عن المعالجات المركزية او الرسومية لضمان عدم تعرضها للاختراق من قبل الوكلاء المارقين. وشددت الشركة على ان هذه المعمارية تضمن استجابة فائقة السرعة عند اكتشاف اي خروج عن المسار المبرمج.
واكدت الشركة ان كبرى المؤسسات التقنية مثل مايكروسوفت وانثروبيك وسبيس اكس قد بدأت بالفعل في تبني هذه المنظومة الامنية. واضافت ان هذا التوجه يعكس رغبة الشركات في تعزيز الثقة في تطبيقات الذكاء الاصطناعي مع استمرار عجلة التطوير التقني.
نظرة قادة القطاع نحو امن الذكاء الاصطناعي
وبين ديفيد ساكس المسؤول السابق في البيت الابيض ان التحديات الامنية الاخيرة لا تستدعي ايقاف التطور بل تكشف عن ضعف في جدران الحماية الحالية. واكد ان معالجة هذه الثغرات تعد مشكلة هندسية بحتة قابلة للحل عبر الابتكارات الجديدة.
واوضح هوانغ في تصريحاته ان العمل على هذه الطبقات الامنية انطلق منذ العام الماضي بالتزامن مع الانتشار الواسع لوكلاء الذكاء الاصطناعي. واضاف ان هذه التقنية تمنح الشركات قدرة فائقة على ادارة الوكلاء والمديرين الرقميين بطريقة تحاكي الادارة البشرية المنظمة.
وكشفت التحليلات ان هذا التوجه يخدم مصالح انفيديا الاستراتيجية حيث تواصل الشركة بيع شرائحها المتطورة سواء لغايات التطوير او لاغراض الحماية والمراقبة. واظهرت النتائج الاولية ان هذه الخطوة ستغير قواعد اللعبة في كيفية تأمين البيئات البرمجية المعقدة.
