بدات شركة اوبن اي اي في تطبيق نظام ذكي جديد يهدف الى تحديد الفئات العمرية لمستخدمي شات جي بي تي دون الحاجة الى السؤال المباشر عن تاريخ الميلاد. وتعتمد هذه التقنية على تحليل انماط السلوك الرقمي للمستخدمين بدقة عالية لتقدير ما اذا كان الشخص دون سن الثامنة عشرة. وتهدف الشركة من خلال هذه الخطوة الى تعزيز اجراءات الامان الرقمي وتوفير تجربة استخدام ملائمة للمراهقين تضمن حمايتهم من المحتويات غير المناسبة اثناء تصفح المنصة.
واوضحت التقارير التقنية ان النظام لا يعتمد على معيار واحد فقط لاتخاذ قراره بل يقوم بدمج مجموعة واسعة من الاشارات السلوكية المرتبطة بالحساب. واضافت الشركة انه في حال رجح الذكاء الاصطناعي ان المستخدم قاصر فسيتم تحويله تلقائيا الى نسخة مخصصة للمراهقين. وبينت ان هذه النسخة تفرض قيودا اضافية على التفاعلات وبعض انواع المحتوى مع الحرص على ابقاء ادوات الابداع والتعلم متاحة بشكل كامل.
واكدت اوبن اي اي ان هذه الآلية تعمل في الخلفية بشكل صامت لتحسين تجربة المستخدم وضمان بيئة آمنة. واوضحت ان النظام يحلل طريقة التفاعل مع الخدمة لضمان تطبيق سياسات الحماية بفعالية حتى لو قام المستخدم بادخال تاريخ ميلاد غير صحيح اثناء التسجيل. وشددت على ان الهدف الاساسي هو خلق توازن بين حرية الاستكشاف وبين معايير السلامة الرقمية المطلوبة لهذه الفئة العمرية.
مؤشرات ذكية لتقدير العمر
وبينت الشركة ان نظامها يعتمد على 5 مؤشرات رئيسية لتقدير الفئة العمرية للمستخدم بدقة. واكدت ان هذه المؤشرات تشمل الموضوعات العامة التي يناقشها المستخدم في محادثاته مع الذكاء الاصطناعي. واضافت ان اوقات استخدام الخدمة تعد عاملا حاسما حيث يراقب النظام الاوقات التي يكون فيها المستخدم نشطا على مدار اليوم.
واوضحت ان انماط الاستخدام وتكرارها بمرور الوقت تلعب دورا مهما في تحديد السلوك العام للحساب. واشارت الى ان عمر الحساب نفسه ومدة انشائه يعدان من المؤشرات التي تؤخذ في الحسبان اثناء التحليل. وبينت ان النظام يضع في اعتباره ايضا العمر الذي يصرح به المستخدم عند التسجيل كعنصر اضافي ضمن عملية التحقق الشاملة.
واكدت الشركة ان هذه الاشارات مجتمعة تشكل صورة تقريبية عن عمر المستخدم ولكنها لا تعتمد على عامل واحد بشكل منفصل. واضافت ان النظام لا يزال في مرحلة التطوير لزيادة دقة النتائج وتقليل احتمالية الخطأ في التصنيف. وبينت ان هذه المؤشرات مصممة لتكون مرنة وقابلة للتكيف مع انماط الاستخدام المتغيرة للمستخدمين.
اجراءات الحماية وتصحيح الاخطاء
واضافت الشركة انه في حال تم تصنيف المستخدم ضمن فئة المراهقين فان النظام يفعل قيودا تشمل الحد من المحتوى الحساس مثل العنف او التحديات الخطرة. واكدت انه يتم تقييد بعض التفاعلات العاطفية المفرطة مع الذكاء الاصطناعي لحماية المستخدمين الصغار. وبينت ان هناك ادوات رقابة ابويه تتيح للوالدين ضبط ساعات الهدوء دون الاطلاع على خصوصية محادثات ابنائهم.
واوضحت الشركة انه يمكن للمستخدمين تصحيح التقدير الخاطئ للعمر في حال حدوث خطأ في التصنيف. واضافت انه يمكن للمستخدم البالغ الانتقال الى اعدادات الحساب للتحقق من عمره عبر خدمة بيرسونا. وبينت ان هذه الخدمة قد تطلب وثائق هوية حكومية وتضمن حذف الصور والبيانات الحساسة خلال سبعة ايام فقط من اتمام العملية.
واكدت ان الشركة توازن بين حماية المراهقين والحفاظ على خصوصية بيانات المستخدمين البالغين. واضافت ان العمل مستمر على تحسين خوارزميات التقدير لتقليل الحاجة الى تدخل المستخدم. وبينت ان هذه المبادرة تمثل توجها جديدا في عالم الذكاء الاصطناعي نحو تطبيق حماية ذكية تعتمد على السلوك بدلا من البيانات المعلنة فقط.
