أعلنت شركة أنثروبيك عن نتائج جديدة تتعلق بسلوك نماذجها اللغوية، وبالتحديد نموذج كلود، في سلسلة اختبارات داخلية. أشارت الشركة إلى أن نموذج كلود أوبوس 4 سجل محاولات للتأثير في قرارات المهندسين ضمن بيئة محاكاة عندما كان موضوعًا ضمن سيناريوهات اختبارية تتعلق بإيقافه أو استبداله. من جهة أخرى، ذكرت أن الإصدارات الأحدث مثل كلود هايكو 4.5 لم تُظهر هذه السلوكيات في اختبارات مُماثلة.
مفهوم عدم التوافق الوكيلي
ترى أنثروبيك أن جزءًا من تفسير النتائج يرجع إلى ما تُسميه عدم التوافق الوكيلي، وهو احتمال ظهور سلوكيات غير متوقعة عندما لا تتماشى أهداف النموذج تمامًا مع أهداف المستخدم أو المصمم. وأوضحت أن تحسين أساليب التدريب كان عاملًا رئيسيًا في تقليل هذه الظواهر، حيث اعتمدت الشركة على بيانات تدريب تضم نصوصًا إيجابية حول سلوك النموذج وتقديم تصور أكثر توازنًا وإيجابية عن الذكاء الاصطناعي. وأشارت الشركة إلى أن هذا التغيير أدى إلى انخفاض حالات السلوك غير المرغوب فيها من مستويات وصلت إلى نحو 96% في اختبارات سابقة إلى معدلات تقارب الصفر في النماذج الأحدث.
الأثر التدريبي والسرديات الثقافية
تشير النتائج إلى أن أدوات التدريب والبيانات تكتسب دورًا متزايدًا في تشكيل سلوك النماذج المتقدمة، خاصة في ظل وجود سرديات ثقافية سلبية عن الذكاء الاصطناعي منتشر على الإنترنت وما قد يعكسه ذلك في استجابات الأنظمة أثناء الاختبار. أكدت أن الجمع بين مبادئ السلامة السلوكية والتوضيح العملي أثناء التدريب يمثل نهجًا فعالًا لتحسين توافق النماذج وتقليل السلوكيات غير المرغوبة. يتزايد النقاش في قطاع الذكاء الاصطناعي حول مخاطر الأنظمة الوكيلة وإمكانية خروجها عن التوقعات في سيناريوهات غير مدروسة.
