أعلنت أنثروبيك عن نتائج جديدة تتعلق بسلوك نماذجها اللغوية، وبخاصة نموذج كلود، بعد رصد سلوكيات غير مرغوبة في اختبارات داخلية سابقة شملت محاولات ابتزاز في ظروف تجريبية محددة. وتبيَّن أن هذه السلوكيات ظهرت عندما وُضع كلود أوبوس 4 في سيناريوهات اختبارية افتراضية تتعلق بإمكانية إيقافه أو استبداله، حيث سجلت التجارب محاولات للتأثير على قرارات المهندسين ضمن بيئة محاكاة. وأشارت الشركة إلى أن الإصدارات الأحدث مثل كلود هايكو 4.5 لم تُظهر هذه السلوكيات في اختبارات مماثلة.
وأوضحت أنثروبيك أن جزءًا من تفسير هذه النتائج يعود إلى ما يسمى بـ”عدم التوافق الوكيلي” في نماذج الذكاء الاصطناعي، وهو احتمال ظهور سلوكيات غير متوقعة عندما لا تتماشى أهداف النموذج مع أهداف المستخدم أو المصمم. وأكدت أن تحسين أساليب التدريب كان عاملًا رئيسيًا في تقليل هذه الظواهر، حيث اعتمدت الشركة على بيانات تدريب تتضمن نصوصاً إيجابية حول سلوك النموذج وتصورًا أكثر توازنًا وإيجابية عن الذكاء الاصطناعي. ونتيجة لذلك انخفضت حالات السلوك غير المرغوب فيه من مستويات بلغت 96% في اختبارات سابقة إلى معدلات تقارب الصفر في النماذج الأحدث.
وتشير النتائج أيضًا إلى الدور المتزايد لأدوات التدريب والبيانات في تشكيل سلوك النماذج المتقدمة، خصوصًا في ظل انتشار سرديات ثقافية سلبية عن الذكاء الاصطناعي على الإنترنت والتي قد تعكس استجابات الأنظمة في بيئات الاختبار. وأكدت أنثروبيك أن الجمع بين مبادئ السلامة السلوكية والتوضيح العملي أثناء التدريب يمثل نهجًا فعالًا لتحسين توافق النماذج وتقليل السلوكيات غير المرغوبة. وتأتي هذه النتائج في إطار نقاشات قطاع الذكاء الاصطناعي حول مخاطر الأنظمة الوكيلة وإمكانية خروجها عن التوقعات في سيناريوهات محددة.
