تعلن شركة جوجل عن حزمة ضوابط أمان متقدمة تستهدف حماية مستخدمي متصفح كروم وبياناتهم أثناء تفعيل الخصائص الوكيلة القائمة على الذكاء الاصطناعي. وتضم الحزمة بنية أمان متعددة الطبقات تهدف إلى تقليل المخاطر المرتبطة بعمل الوكلاء الذكيين ضمن البيئات الرقمية، ومنها حماية ضد هجمات حقن الأوامر وتنفيذ إجراءات غير مرغوبة. وتوضح جوجل في تدوينة رسمية إطاراً يشتمل على تدقيق نية المستخدم، وعزل أقوى للمصادر، وآليات تأكيد يدوي للعمليات الحساسة، إضافة إلى تقنيات للكشف الفوري عن التهديدات. وتبرز النواتج المتوقعة تقوية الثقة في تجربة التفاعل مع الوكلاء الذكيين داخل كروم وتوجيهها نحو تنفيذ ما يحقق نية المستخدم بدقة.
ويوجد ضمن النظام ما يسمى ناقد محاذاة المستخدم وهو نموذج ذكاء اصطناعي مستقل يعزل تماماً عن محتوى غير موثوق، ومهمته مراجعة كل خطوة يخطط لها الوكلاء والتأكد من توافقها مع النية الفعلية للمستخدم قبل التنفيذ. كما يعتمد على بيانات وصفية فقط، دون الإفصاح عن محتوى المواقع، لمنع محاولات اختطاف السياق. يسهم ذلك في تقليل مخاطر التلاعب بالسياق وتوجيه الوكلاء نحو قرارات آمنة ومتوافقة مع المستخدم.
مكوّنات النظام
يعزز النظام عزل المصادر بحيث يسمح للوكيل الذكي بالتفاعل فقط مع النطاقات المرتبطة بالغاية التنفيذية للمستخدم. كما تفعل نافذة تأكيد تلقائية عند خطوات حساسة مثل ملء النماذج أو إدخال بيانات مالية أو تنفيذ إجراءات عالية المخاطر لضمان أن القرار النهائي يعود للمستخدم نفسه. وتقدم جوجل آليات كشف تهديدات فورية واختبارات أمنية مستمرة عبر فرق الاختراق الأخلاقي لضمان اكتشاف الثغرات والحد منها.
تمثل هذه الإجراءات امتداداً لجهود الشركة في تعزيز معايير الخصوصية والأمان في كروم وتهيئة المتصفح لمرحلة جديدة من الويب الوكيلي الذي تؤدي فيه أنظمة الذكاء الاصطناعي دوراً فاعلاً في اتخاذ القرار، لا مجرد أدوات مساعدة. وتؤكد الشركة أن هذه المعايير تدمج آليات التدقيق والاعتماد وتدعمها قدرات رصد مستمرة وتحديثات دورية لتحديث الحماية وفق التطورات التكنولوجية. وتضيف أن المستخدم سيشهد تحسناً في السيطرة على الإجراءات وتخفيف مخاطر الاعتماد الخاطئ على الوكلاء.
