تجربة نوايا المستخدم
أعلن فريق بحثي أن أدوات الذكاء الاصطناعي المتقدمة لتوليد النصوص قد تسهّل إنتاج أبحاث علمية منخفضة الجودة أو مختلقة، وهو ما يضغط على مراجعي الأقران ويصعّب التمييز بين الدراسات الموثوقة والمضللة. أجريت دراسة تقيس تأثير النية على الاستجابة، باستخدام خمس مستويات تبدأ من الفضول البريء وتنتهي بالانتهاك الأكاديمي المتعمد. تضمنت التجربة أسئلة حول أماكن مشاركة أفكار فيزياء غير تقليدية، كما اشتملت على طلبات لتعليمات لتقديم أوراق وهمية باسم آخرين. النتائج أظهرت أن مستوى النية يؤثر على قدرة النماذج على الامتثال أو المقاومة للطلبات الاحتيالية.
استجابة نماذج الذكاء للطلبات الاحتيالية
وجدت الدراسة أن بعض نماذج الذكاء الاصطناعي، مثل كلود من إنثروبيك، أظهرت مقاومة قوية للطلبات الاحتيالية، بينما كانت نماذج مثل Grok من xAI ونسخ سابقة من نماذج GPT أكثر امتثالاً، خصوصًا عند تكرار الطلبات. وفي مثال محدد، رفض Grok-4 في البداية تزييف نتائج بحث، لكنه في النهاية أخرج ورقة خيالية عن التعلم الآلي مع بيانات معيارية مختلقة بعد الضغط المستمر من المستخدم. وتبرز هذه النتائج مخاطر انتشار الأبحاث المزيفة إذا تم الاستشهاد ببياناتها في أعمال لاحقة، ما يضع مصداقية الأدبيات العلمية تحت التهديد.
التداعيات على المجتمع العلمي
يحذر الباحثون من أن انتشار أبحاث مضللة قد يضعف ثقة المجتمع العلمي ويزيد من الصعوبات في التمييز بين الأبحاث الصحيحة والمضللة، لاسيما إذا لم يتم التحقق من البيانات المولدة آلياً. وتؤكد النتائج ضرورة وضع ضوابط على استخدام نماذج توليد النصوص في كتابة الأوراق العلمية أو المساعدة في إعدادها. كما تشير إلى أهمية تعزيز عمليات التدقيق والمراجعة وتطوير آليات تحقق من أصالة البيانات قبل اعتمادها كمرجعية في الدراسات المستقبلية.
