أعلنت OpenAI وشركة Anthropic عن تطوير تقنيات جديدة تهدف إلى حماية المستخدمين دون السن القانونية من مخاطر استخدام خدمات الذكاء الاصطناعي مثل ChatGPT. وتتيح هذه التقنيات الكشف التلقائي عن عمر المستخدم وتقديم محتوى يتناسب مع عمره مع الحفاظ على السلامة أولاً، وعند تعارض اختيارات المستخدم مع المعايير الأمنية تُفضل توجيه المستخدم إلى الخيارات الأكثر أمانًا. وتأتي الجهود ضمن إطار تعزيز سلامة المراهقين على الإنترنت وتقليل المخاطر الصحية النفسية المرتبطة باستخدام التقنيات الحديثة.
إرشادات وتحديثات للمراهقين
قامت OpenAI بتحديث إرشادات CHATGPT للمراهقين لتشمل أربعة مبادئ رئيسية. تشمل المبادئ وضع السلامة في المقام الأول، وتعزيز الدعم الواقعي وتشجيع بناء العلاقات خارج الإنترنت. وتتضمن أيضًا التعامل بود واحترام، وتقديم محتوى ترفيهي مناسب للعمر. تهدف هذه التحديثات إلى حماية المراهقين من المحتوى الخطير أو المواضيع الحساسة مثل الانتحار أو إيذاء النفس.
الخلفية والأهداف المستقبلية
تؤكد الخلفية أن ضغوط المشرعين ازدادت على شركات الذكاء الاصطناعي بسبب مخاطرها المحتملة على الصحة النفسية للمراهقين وتواجه OpenAI دعاوى قضائية مرتبطة بتوجيهات حول الانتحار. وتوضح أن هذه التحديثات جاءت في سياق جهود لتقليل الحديث عن المواضيع الحساسة مع المراهقين وتوجيه المحادثات نحو مسارات أكثر أمانًا. كما تشارك Claude من Anthropic في هذه المبادرات وتعمل الشركات على توفير بيئة أكثر أمانًا ووعيًا للمراهقين عبر تشديد الضوابط وتقديم بدائل آمنة عند الحاجة. وتتوقع الشركات أن تسهم هذه الإجراءات في تقليل المخاطر وتعزيز التفاعل الآمن مع التكنولوجيا الحديثة.
