تعلن شركة OpenAI عن ميزتين أمنيتين جديدتين تهدفان إلى تعزيز حماية المستخدمين أثناء استخدام روبوتات الدردشة التي تتصل بالويب والخدمات الخارجية. تهدف الملصقات إلى تحذير المستخدمين عندما تكون ميزة الوصول إلى مصادر خارجية عالية المخاطر وكشف مزيد من البيانات. وتعمل وضع الإغلاق على تقييد كيفية اتصال النظام بالخدمات الخارجية وتقليل ما يمكن استغلاله في هجمات حقن الأوامر.
وضع الإغلاق
تقدّم OpenAI وضع الإغلاق كخيار اختياري يقيّد تفاعل النظام مع الأنظمة الخارجية بشكل صارم. عند تفعيله، يحد من أدوات أو اتصالات مثل التصفح المباشر للويب والتكامل مع خدمات خارجية. وجرى توجيه تصميم هذا الوضع بشكل خاص للمستخدمين الذين يتعاملون مع معلومات شديدة الحساسية، مثل الصحفيين والتنفيذيين والباحثين والمتخصصين في الأمن السيبراني.
ملصقات المخاطر المرتفعة
إلى جانب وضع الإغلاق، تعلن OpenAI عن ملصقات المخاطر المرتفعة التي ستظهر بجانب الأدوات أو الميزات التي تحمل مخاطر أعلى من التعرض للمحتوى أو للأنظمة الخارجية. توفر هذه الملصقات تنبيهات واضحة للمستخدمين وتساعدهم في اتخاذ قرار بشأن المتابعة أو الحفاظ على مستوى أعلى من الخصوصية. تهدف هذه الأداة إلى تقليل مخاطر الاستخدام الخاطئ دون تقليل فائدة الميزات التي تعتمد على اتصالات خارجية.
تشير OpenAI إلى أن العديد من أقوى أدوات ChatGPT تعتمد على اتصالات خارجية مثل التصفح وتحليل الملفات والتفاعل مع التطبيقات، وهذا يجعل الأمن أكثر أهمية. وتُظهر الميزات الجديدة وعيًا متزايدًا بحساسية البيانات وتوفير تحذيرات أقوى وتحكمًا أفضل. وتؤكد الشركة أن الأمان في عصر الذكاء الاصطناعي ليس خيارًا ثانويًا بل ضرورة أساسية.
تؤكد التدوينة الرسمية أن أنظمة الذكاء الاصطناعي تتولى مهام معقدة وتعرض المستخدمين لمخاطر جديدة مثل حقن الأوامر. وتسعى الحلول الجديدة إلى حماية المستخدمين والمؤسسات عبر وضوح المخاطر وتحكمًا أقوى. وتُظهر هذه الخطوات التزام OpenAI بجعل الاستخدام الآمن للذكاء الاصطناعي جزءًا من التجربة اليومية.
