حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً صعوبة الوثوق الكامل بالنماذج المتقدمة، حتى عندما تطوّرها شركات متخصصة. وأعلنت أدوات جديدة لمراقبة سلوك هذه الأنظمة وتقييد صلاحياتها، للحد من المخاطر الأمنية والتشغيلية التي قد تنتج عن قرارات غير متوقعة.
وتشمل هذه الأدوات ميزة "Guardian Agents"، التي تندرج ضمن مشروع "Project Perception" الذي أطلقته الشركة في يونيو الماضي لتعزيز الأمن السيبراني المدعوم بالذكاء الاصطناعي. واعتمد المشروع في بدايته على 3 أنواع من الوكلاء: فريق أحمر يحاكي المهاجمين ويختبر الأنظمة، وفريق أزرق يرصد الهجمات ويقيّم الثغرات، وفريق أخضر يتولى معالجتها. واستهدف المشروع في مرحلته الأولى التهديدات الخارجية، بما فيها قدرات الاختراق المرتبطة بنماذج "Mythos" و"Fable" التابعة لأنثروبيك، ونظام "Daybreak" الذي تطوّره OpenAI لفحص الثغرات الأمنية.
لكن الشركة وسّعت نطاق تحذيراتها ليشمل الوكلاء الذين تستخدمهم المؤسسات داخل أنظمتها، لاحتمال تصرفهم بصورة غير متوقعة أو اتخاذهم قرارات تضر بالبيانات والعمليات الحساسة، بما يشبه التهديدات الداخلية الناجمة عن إساءة استخدام الصلاحيات.
وحذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، مطلع أكتوبر الجاري، من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطوّرة، داعيًا المؤسسات إلى إنشاء أنظمة مستقلة لمراقبة الوكلاء والتحكم في سلوكهم، خصوصًا مع حصولهم على إمكانية الوصول إلى بيانات حساسة وتنفيذ عمليات بالغة الأهمية.
