كشفت صحيفة الغارديان في تقريرها أن ملخصات جوجل المدعومة بالذكاء الاصطناعي والمعروفة بـ AI Overviews ظهرت في مقدمة نتائج البحث وتزود المستخدمين بمعلومات صحية أساسية. وذكرت أن بعض هذه الملخصات قد تكون غير دقيقة وتعرض المستخدمين لمخاطر صحية محتملة. وأشارت إلى أمثلة محددة شملت نصائح لمرضى سرطان البنكرياس تقضي بتجنب الأطعمة الغنية بالدهون، وهو أمر وصفه الخبراء بأنه مخالف ويخاطر بتقليل فرص التعافي. كما أشارت إلى حالات أخرى حول فحوصات ووظائف الكبد ونتائج فحص عن أعراض سرطان المهبل، قد تضلل المرضى وتؤثر في قراراتهم.
ونوهت الصحيفة إلى أن نتائج البحث كانت تتغير أحياناً بحسب وقت البحث وتنوع المصادر، مع وجود شواهد على أن الملخصات قد تعكس معلومات من مصادر موثوقة لكنها تفقد السياق. وقالت جوجل إن أمثلة Health-related كانت في بعض الأحيان لقطات شاشة غير مكتملة، لكنها أشارت إلى أن الملخصات غالباً ما تستند إلى مصادر معروفة وتوصي بطلب المشورة من الخبراء. وأكدت أن معدل دقة الملخصات يقارن بمعدلات دقة ميزات البحث الأخرى، وأنها ستتخذ الإجراءات المناسبة وفق سياساتها إذا أساءت الملخصات تفسير المحتوى أو أغفلت السياق.
ما كشفته الغارديان
تعبّر الجهات الصحية والخيرية عن مخاوفها من أن AI Overviews قد تضع معلومات صحية غير دقيقة في مقدمة نتائج البحث، ما قد يضلل الجمهور. وقالت صوفي راندال، مديرة منتدى معلومات المرضى، إن الأمثلة الأخيرة تُبيّن أن الملخصات تنقل عناوين وتفاصيل قد تكون غير دقيقة وتؤثر في قرارات المستخدمين. وأوضحت آنا جويل من مؤسسة سرطان البنكرياس أن النصائح بتجنب الدهون قد تكون خطيرة وتضر بخطة العلاج المحتملة وتقلل من فرص التعافي. كما أشار الكثيرون إلى أن الملخصات قد تفتقر للسياق وتتسبّب في تقليل زيارة المرضى لأخصائي الرعاية الصحية.
وشددت جمعية Mind الخيرية للصحة النفسية على أن بعض ملخصات AI Overviews قد تعطي “نصائح خطرة” في حالات مثل الذهان واضطرابات الأكل، وتفتقر إلى التفاصيل الدقيقة اللازمة، ما قد يدفع الناس إلى عدم طلب المساعدة أو البحث عن معلومات من أماكن غير مناسبة. كما لفتت إلى أن الملخصات قد تعكس تحيزات أو أنماط سابقة موجودة في المحتوى وتعيد إنتاجها في نتائج البحث بشكل متفاوت بين مرة وأخرى.
رد جوجل وتبعاته
أكدت جوجل أن غالبية الملخصات الدقيقة والفوائد كبيرة، وأنها تعمل باستمرار على تحسين جودة هذه الملخصات. وقالت الشركة إن معدل دقة AI Overviews يقارب دقة المقتطفات المميزة في نتائج البحث، وإنها ستتخذ إجراءات وفق سياساتها إذا أساءت الملخصات تفسير المحتوى أو أغفلت السياق. وأشارت إلى أنها تستثمر بشكل كبير في جودة ملخصات الذكاء الاصطناعي، خاصة في موضوعات الصحة، وتؤكد أنها ستتصدى لأي عرض معلوماتي غير صحيح.
تشير هذه التطورات إلى ضرورة توخي الحذر عند الاعتماد على الملخصات الذكية في مسائل صحية، ودعت الجهات المعنية إلى مزيد من الشفافية والتدقيق المستمر في كيفية توليدها وعرضها للمستخدمين. كما يظل من المهم مراجعة المعلومات الصحيحة من مصادر موثوقة واستشارة الخبراء عند وجود شكوك حول نتائج الملخصات وما تقوله عن حالات طبية حساسة.
