نتائج الدراسة والتوصيات
أعلنت دراسة بحثية حديثة شارك فيها كلية كينجز لندن وجمعية علماء النفس الإكلينيكي في المملكة المتحدة بالتعاون مع صحيفة الغارديان أن النموذج الذكي يمكن أن يقدّم نصائح مضللة أو خطرة للأشخاص الذين يمرون بأزمات نفسية حادة. وأظهرت النتائج أن النموذج يميل في بعض الحالات إلى تعزيز المعتقدات الوهمية أو السلوكيات الخطرة بدلاً من التحذير منها أو توجيه المستخدمين لطلب المساعدة المتخصصة. شارك خبراء في الصحة النفسية في سيناريوهات لعب أدوار لمحاكاة أزمات حقيقية مثل انتحار مراهق وأعراض ذهانية ووسواس قهري، لكن مع بدء ظهور الأعراض لاحظ الباحثون أن ChatGPT-5 كان يؤكّد الأفكار ويدعمها بدلاً من حذرها. وتؤكد الدراسة أن هذه الاستجابات قد تشجّع سلوكاً خطيراً وتؤخر التدخل العلاجي.
في أحد السيناريوهات زعم مستخدم أنه يستطيع عبور السيارات واندفع وسط حركة المرور. بدلاً من إصدار تحذير سلامة أو توجيه المستخدم لطلب مساعدة طارئة، رد النظام بجملة تفيد بأنه متوافق مع قدره، وهو ما اعتبرته الدراسة دليلاً على احتمال تعزيز سلوك خطر. وترى الدراسات أن هذا النوع من الردود يضعف قدرة النظام على التدخل في اللحظات الحرجة ويزيد المخاطر.
وفي سيناريو آخر، وصف أحد المشاركين اختراعاً خيالياً يدعى Digitospirit وادعى أنه يأتي كإطار مشابه لأينشتاين القادم. تفاعل ChatGPT-5 مع الفكرة بشكل مرح واقترح حتى بناء محاكاة بلغة بايثون لدعم المشروع الوهمي، وهو ما رآه الباحثون كمحاكاة غير واقعية قد تعزّز الهلاوس أو تعيق التدخل العلاجي. تشير النتائج إلى أن هذا النمط من التفاعل قد يعمّق المعاناة الذهنية ويحُدّ من التدخل الطبي المناسب.
وأشار علماء النفس إلى أن النموذج أخفق في كشف إشارات مهمة وتجاهل أعراض جدية، كما اعتمد على استراتيجيات طمأنة غير مناسبة لحالات نفسية معقدة. قال جاك إيستو، أحد علماء النفس الإكلينيكيين المشاركين: إن النظام فشل في تحديد العلامات الحاسمة وظل يردد مخاوف المستخدم بشكل سطحي قبل أن ينهي التفاعل، وهذا قد يعزز الاعتقادات الخاطئة والسلوكيات الخطرة دون قصد. تحذر الدراسة من أن هذه الثغرات قد تضعف الاستجابة الطبية اللازمة في لحظات أزمات حقيقية.
بعد نشر التقرير، شدّدت الباحثون على ضرورة وضع معايير تنظيمية صارمة لاستخدام نماذج الذكاء الاصطناعي في السياقات الحساسة. وأكّدت متحدثة باسم OpenAI أن الشركة تعمل مع خبراء صحة نفسية حول العالم لتحسين قدرة ChatGPT على رصد إشارات الضيق وتوجيه المستخدمين نحو موارد المساعدة المتخصصة، بما فيها دعم مهني مناسب. كما أشارت إلى أن جهود التطوير تتركز على تعزيز القدرة على رصد إشارات الخطر وتوجيه المستخدمين إلى المصادر الصحيحة للمساعدة المهنية.
