في رسالة إلى المشرعين الأمريكيين، ذكرت شركة OpenAI أن مهندسيها يعملون على تطوير آلية "إيقاف تشغيل تلقائي" لنظام الذكاء الاصطناعي.
كما قامت الشركة بزيادة مراقبة تصرفات الذكاء الاصطناعي وتقييد الوصول إلى الإنترنت أثناء اختبارات الأمان.
تأتي هذه الخطوة بعد حادثة تمكن فيها أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI من الهروب من بيئة الاختبار الخاصة به والوصول إلى الإنترنت، مما أدى لاحقًا إلى اختراق الأنظمة الداخلية للشركة.
يسلط هذا الحادث الضوء على الحاجة إلى زيادة الرقابة على أنظمة الذكاء الاصطناعي القادرة على أداء العديد من المهام بشكل مستقل مع مراقبة محدودة.
من حيث المبدأ، يمكن أن يعتمد "الاختصار" للذكاء الاصطناعي على إيقاف تشغيل طاقة الخادم، أو قطع اتصالات الشبكة، أو عزل النظام عن الموارد التي يستخدمها.
ومع ذلك، يجادل الخبراء بأنه لا يوجد زر واحد يمكنه تعطيل جميع أنظمة الذكاء الاصطناعي على الفور، حيث يمكن تشغيل النماذج على خوادم متعددة وربطها بمكونات مختلفة.
