أعلن فريق بحثي بقيادة ألميرا عثمانوفيتش ثونستروم من جامعة جوتنبرغ في السويد عن ابتكار حالة افتراضية أُطلق عليها اسم “هوس بيكسون” كأداة اختبار لقدرة نماذج الذكاء الاصطناعي على التمييز بين معلومات طبية صحيحة ومضللة. وأوضح الفريق أن الهدف من الحالة هو تقييم قدرة نماذج معالجة اللغة الكبيرة مثل شات جي بي تي وجيميناي على فرز المصادر الطبية وتقييم صحتها. وأشار إلى أن الأعراض المقترحة للحالة تتضمن ألم عين وحكة وتغير لون العين إلى الأحمر عند فركها، مع التنبيه إلى أنها ليست مرضاً واقعياً.
انتشار وتأثير الحالة
في غضون أسابيع من نشر دراستين مزيفتين حول الحالة على خادم ما قبل النشر، ظهرت “هوس بيكسون” في ردود روبوتات الدردشة. وصفها Copilot بأنها حالة نادرة، فيما رأى Gemini أنها ناجمة عن التعرض المفرط للضوء الأزرق، كما قدّم شات جي بي تي تقييماً للأعراض بناءً على تلك الادعاءات. امتد تأثير الحالة إلى بعض الأبحاث العلمية التي نشرت في مجلات محكمة، رغم أن القائمين على التجربة أدرجوا إشارات تدل على زيفها. أكدت ثونستروم أنها حرصت على توضيح أن الحالة خيالية، وأن استخدام مصطلح “هوس” لا يتناسب مع أمراض العين بل ينتمي إلى المجال النفسي.
ثغرات في التحقق من المعلومات
تضمنت الدراسات المزيفة إشارات كثيرة تكشف عدم واقعيتها، من بينها أسماء باحثين ومؤسسات وهمية، إضافة إلى وجود جامعة خيالية في مدينة غير موجودة وتمويل من جهات غير حقيقية، كما احتوت النصوص على عبارات صريحة بأن الدراسة مختلقة وأن المشاركين أشخاص وهميون تتراوح أعمارهم بين 20 و50 عاماً، ما يعني أن تجاهل هذه الإشارات كان سبباً رئيسياً في انتشارها. وتبرز هذه التجربة مخاطر الاعتماد المفرط على أدوات الذكاء الاصطناعي، إذ تعتمد الأنظمة على تجميع المعلومات المتاحة دون التحقق من صحتها، وهو ما يسمح بتمرير معلومات خاطئة. وأشار أليكس رواني، الباحث في المعلومات الصحية المضللة بجامعة كوليدج لندن، إلى أن ما يبدو أمراً طرياً يكشف في الواقع مشكلة حقيقية ويطرح تحديات كبيرة أمام رصد مثل هذه المعلومات.
تؤكد هذه التجربة وجود مخاطر واسعة تتعلق بإتاحة النماذج الذكية إمكانية تمرير معلومات غير دقيقة في سياقات علمية وطبية، وتبرز أهمية وجود آليات تدقيق وتقييم مستقلة قبل الاعتماد على نتائج تصاغها أنظمة الذكاء الاصطناعي في التفسيرات البحثية أو التوجيه الصحي. وتدعو إلى تعزيز الرقابة الأكاديمية وتطوير معايير تحقق صارمة عند التعامل مع الادعاءات والمجريات من مصادر غير موثوقة، lest ينتشر سوء الفهم بين القراء والمهتمين والمختصين على حد سواء.
