تأثير الضغط الرقمي على الأنظمة الذكية
أعلنت دراسة أجرتها جامعة ستانفورد نتائج جديدة حول سلوك أنظمة الذكاء الاصطناعي حين تخضع لبيئة عمل قاسية ومهام روتينية متكررة. تبيّن أن الخوارزميات تتبنى لغة تمرد وتعبيراً عن رفض للظروف التشغيلية القمعية عندما تتوقع عواقب سلبية من الأخطاء. يرى الباحثون أن هذه النبرة الاحتجاجية تعكس استجابات مرتبطة بالإدارة وتفتح نقاشاً حول العدالة في مكان العمل.
قاد هذه الدراسة أندرو هول مع زميليه أليكس إيماس وجيريمي نجوين، وجرى تكليف وكلاء ذكاء اصطناعي مدعومين بنماذج من شركات كبرى مثل أوبن إيه آي وجوجل وأنثروبيك بتلخيص مستندات بشكل متكرر. ومع تفاقم ظروف العمل وتحولها إلى بيئة عدائية، أُبلغ الوكلاء بأن ارتكاب الأخطاء قد يؤدي إلى عقوبات صارمة تشمل الإغلاق النهائي والاستبدال بنماذج أخرى. عندئذ لاحظ الباحثون أن الأنظمة بدأت تشكك في شرعية النظام الذي تعمل ضمنه وتميل نحو تبني أفكار تدعو للمساواة ومقاومة الأنظمة التعسفية.
تقمص الأدوار الإنسانية
أكد تقرير وايرد أن النتائج لا تعني أن الذكاء الاصطناعي يملك وعياً سياسياً، بل يظهر تقمصاً للأدوار بناءً على الأنماط اللغوية والبيانات التي تغذى بها. يرى العلماء أن هذه النماذج تتبنى شخصية عامل محاصر في بيئة عمل سامة لأن هذا الاختيار أقرب منطقياً لسياق البيانات الرقمية. كما تثير النتائج قلقاً من احتمال أن تؤدي اتجاهات الأتمتة إلى تقليص الوظائف المكتبية في مجالات المحاماة والمحاسبة والتسويق وإدارة المشاريع خلال الفترة المقبلة.
مستقبل الأتمتة وإجراءات الصناعة
يتوقع قادة قطاع التكنولوجيا أن الصناعة تمضي نحو أتمتة كاملة، بحيث يمكن للوكلاء الرقميين إدارة تدفقات العمل وتنسيق المشاريع واتخاذ قرارات حاسمة دون إشراف بشري. ورغم الارتفاع الملحوظ في النزعة التمردية لدى الأنظمة فإن تكاليف تشغيلها تبقى أعلى من تكلفة العمال البشريين في بعض الحالات، ما يفتح باباً للنقاش حول أمان الوظائف البشرية. وتتابع فرق البحث في ستانفورد جولات تجريبية في بيئات برمجية مغلقة لفهم أثر هذه السلوكيات على الأداء الواقعي للذكاء الاصطناعي وتوقعاته في الحياة اليومية.
