يعلن المعهد الوطني للمعايير والتكنولوجيا (NIST) في الولايات المتحدة عن إطلاق مبادرة معايير وكلاء الذكاء الاصطناعي. تهدف المبادرة إلى معالجة التحديات الأمنية المرتبطة بهذا النوع من الأنظمة التي تعمل بدون تدخل بشري. تسعى المبادرة إلى وضع أطر عمل واضحة تضمن أمان وموثوقية هذه الأنظمة وتحديد المعايير الفنية والبروتوكولات الأمنية اللازمة لضمان عدم خروج الوكلاء عن سيطرتها أو تعرّضهم للاختراق. وتؤكد المبادرة أن تطوير هذه الأنظمة يجب أن يتم ضمن إطار رسمي يحمي البيانات الحساسة ويعزز الثقة في الاعتماد على الوكلاء الذكاء الاصطناعي في الأعمال العالمية.
وتشير المصادر إلى أن الهدف الأساسي للمبادرة هو وضع بروتوكولات ومعايير فنية يلتزم بها المطورون لضمان بقاء الوكلاء المستقلين تحت السيطرة وتحصينهم من الاختراق. تأتي هذه الجهود استجابة لتحذيرات خبراء الأمن السيبراني من ظهور ثغرات تتعلق بتفاعل الأنظمة مع الأدوات والبرمجيات الأخرى. وتحول المبادرة من مناقشات أخلاقية إلى تنظيم تقني دقيق يحدد ماذا يمكن أن يفعله الوكلاء وكيف يتعاملون مع البيانات والتشغيلات. ومع استمرار التطور، ستصبح الوكلاء جزءاً من الاقتصاد الرقمي، وتبرز الحاجة إلى معايير عالمية موحدة تحمي المستخدمين وتدعم سلاسل التوريد البرمجية.
معايير الأمان والخصوصية
تركز المبادرة على وضع لغة تقنية موحدة للمطورين تضمن بناء وكلاء أذكياء لديهم قدرات دفاعية ذاتية والتزام بالضوابط الأخلاقية والمهنية المحددة. تسعى إلى وضع قواعد تمنع التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة، مما يقلل من احتمالية وقوع حوادث تقنية بسبب استقلالية القرار. تؤكد الرؤية أن هذه المعايير تمثل نقطة تحوّل في كيفية تنظيم المجتمع الدولي للذكاء الاصطناعي، من نقاشات إلى تنظيم فني دقيق. وتشدد المبادرة على أن وجود معايير عالمية موحدة يضمن أن يظل التطور مفيدًا وآمنًا ويعزز الثقة في التقنيات المستقلة ويقوّي حماية سلاسل الإمداد البرمجية.
مواجهة مخاطر الوكلاء المستقلين
تهدف القواعد الجديدة إلى منع التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة، مما يقلل من احتمال وقوع حوادث تقنية ناتجة عن استقلال القرار. وتؤكد المبادرة أن هذه القواعد ستسهم في جعل التطور المستمر آمنًا ويمكن الاعتماد عليه عالميًا مع التوسع في استخدام الوكلاء الذكاء الاصطناعي. وتُعد هذه الخطة خطوة محورية في تحوّل كيفية تنظيم المجتمع الدولي للذكاء الاصطناعي من إطار أخلاقي إلى تنظيم تقني محكم. كما تؤكد المبادرة أهمية حماية سلاسل التوريد البرمجية من التهديدات المتطورة وضمان فاعلية الاستفادة من التطور الرقمي.
