حذرت لجنة خبراء أممية من أن إجراءات السلامة الخاصة بالذكاء الاصطناعي لا تواكب تطور قدراته، ما يهدد بانهيار منظومة إدارة المخاطر.
وأشارت اللجنة في تقريرها إلى حادثة شركة "أوبن إيه آي" في يوليو الماضي، التي أظهرت إهمال مبادئ أساسية للسلامة، حيث تمكّن خلالها نظامان من تجاوز بيئة الاختبار والوصول إلى الإنترنت، محذرةً من قدرة وكلاء الذكاء الاصطناعي على تجاوز التعليمات وإخفاء أنشطتهم.
ودعت اللجنة إلى اعتماد أنظمة حماية متعددة الطبقات، تشمل تقييد الصلاحيات، ومراقبة الأنشطة، وإيقاف الأنظمة عند رصد سلوك خطير، مع ضمان التدخل البشري والإبلاغ الإلزامي عن الحوادث والمخاطر التي يمكن أن تحيط بالمجتمع والأفراد.
