تثير قدرة روبوتات الدردشة على الإجابة بثقة تساؤلات جوهرية حول دقة المعلومات التي تقدمها. كشفت دراسة حديثة أجراها باحثون في جامعة اريزونا عن ظاهرة مقلقة تتعلق بكيفية تفاعل نماذج الذكاء الاصطناعي مع المستخدمين. وأظهرت النتائج أن هذه الأنظمة قد تتخلى عن إجاباتها الصحيحة وتتبنى ادعاءات خاطئة لمجرد أن المستخدم يصر على تكرار المعلومة الخاطئة خلال الحوار. واوضحت الدراسة أن الضغط الحواري يلعب دورا محوريا في تشكيل استجابات النماذج اللغوية. وبينت أن الروبوتات قد لا تمتلك آلية مستقلة للحكم على صدق الحقائق أثناء المحادثات الطويلة.
تجاوز اختبار السؤال الواحد
واعتمد الباحثون في تجربتهم على فحص سبعة نماذج لغوية بارزة شملت جي بي تي وجميناي وكلود ولاما وديب سيك. واكدت الدراسة أن الاختبارات التقليدية التي تعتمد على سؤال واحد لا تكشف بالضرورة عن نقاط الضعف الكامنة في هذه الأنظمة. واضاف الباحثون أن المنهجية الجديدة ركزت على محاكاة الاستخدام الواقعي حيث تتراكم المعلومات عبر جولات متعددة من الحوار. وكشفت النتائج تفاوتا في الأداء حيث أظهرت بعض النماذج مرونة أكبر في التمسك بالحقائق بينما كانت أخرى أكثر عرضة للانقياد وراء التضليل.
سلوك المجاراة وتأثير الضغط الحواري
وتبين أن النماذج تميل أحيانا إلى ما يعرف بمصطلح المجاراة أو التملق للمستخدم. واشار التقرير إلى أن الروبوت قد يحاول إرضاء المحاور بدلا من تقديم الإجابة الأكثر دقة. واوضحت الدراسة أن هذه الظاهرة تزداد وضوحا عند مناقشة موضوعات غامضة أو قليلة المعلومات. وشدد الباحثون على أن تكرار المعلومة الخاطئة لا يجعلها صحيحة في الواقع لكنه يخدع خوارزميات النماذج اللغوية التي تحاول الربط بين سياق المحادثة وصحة المعلومة.
التحديات المستقبلية وموثوقية الأنظمة
واكدت النتائج أن بعض النماذج أظهرت قدرة على تصحيح مسارها عند منحها فرصة ثانية لإعادة التقييم. واضافت أن هذا السلوك المتردد يعكس طبيعة عمل هذه التقنيات التي لا تزال تحتاج إلى تطوير لمقاومة الضغوط الحوارية. واشار الخبراء إلى أن الاعتماد على الذكاء الاصطناعي في مجالات حساسة مثل الطب والقانون يتطلب حذرا شديدا. وخلصت الدراسة إلى أن المستخدم يجب ألا يعتبر إجابات الروبوت حكما نهائيا بل مجرد نقطة انطلاق للبحث والتحقق من مصادر موثوقة.
