تعلن هيئة تنظيم الاتصالات Ofcom أنها تتعامل بشكل عاجل مع مخاوف جدية تتعلق بإمكانية أداة Grok في توليد محتوى ضار يشمل صور أطفال. وتذكر تقارير وجود حالات فردية طلب فيها مستخدمون من Grok صورًا لطفل قاصر بملابس فاضحة، وتلقوها بعضها فعليًا. وتؤكد الهيئة أن لدى xAI إجراءات حماية، لكنها في طور التحسين لمنع مثل هذه الطلبات تمامًا. وتضع الهيئة ضمن أولوياتها تقييم خطوات الشركتين للوفاء بالتزاماتها القانونية بحماية المستخدمين، وتحديد ما إذا كانت هناك مشكلات امتثال محتملة تستدعي إجراءات إضافية لاحقًا.
الإطار القانوني والتزامات حماية المستخدمين
بحسب قانون السلامة على الإنترنت في المملكة المتحدة، يتعين على شركات التواصل منع وإزالة مواد الاستغلال للأطفال فور علمها بها. كما يحظر القانون استخدام الذكاء الاصطناعي لإنتاج صور إباحية لأشخاص دون موافقتهم. وتدعو الحكومة إلى إلزام شركات الذكاء الاصطناعي بتضمين إجراءات أمان داخل منتجاتها لمنع المحتوى الضار. وتؤكد Ofcom أن حماية الأطفال والمستخدمين تظل أولوية قصوى، وتتابع المعايير القانونية والالتزامات المرتبطة بها وتقييم أثرها على المنصة في المملكة المتحدة.
