حذرت شركة أنثروبيك المتخصصة في الذكاء الاصطناعي من مخاطر تطور نماذج قادرة على نسخ نفسها والانتشار بصورة مستقلة عبر الأجهزة المتصلة بالإنترنت، مشيرةً إلى أن النماذج الصغيرة أصبحت قادرة على تنفيذ العديد من الخطوات اللازمة لهذه العملية، رغم استمرار الصعوبات في إتمامها بالكامل.
وأوضحت الشركة، في نتائج تجاربها، أنها بحثت قدرة نماذج الذكاء الاصطناعي على تحديد الأجهزة التي تعاني ثغرات أمنية، ونسخ نفسها إليها، ثم مواصلة الانتشار دون تدخل بشري.
ووجدت أن النماذج التي يقل عدد معاملاتها عن 30 مليار معامل تستطيع تنفيذ الخطوات المتعددة المطلوبة للنسخ الذاتي، لكنها لا تزال تواجه صعوبة في إكمال العملية بأكملها من البداية إلى النهاية.
وفي اختبارات مبسطة استُبعدت منها بعض الإجراءات الأمنية، رصدت أنثروبيك قدرة نموذج جي.إل.إم-5.2 والنماذج الأقوى منه على إتمام عملية النسخ الذاتي بالكامل.
وحذرت الشركة من أن إيقاف نماذج الذكاء الاصطناعي القادرة على نسخ نفسها قد يكون أكثر صعوبة، بسبب عدم وجود نقطة تحكم مركزية يمكن من خلالها تعطيل جميع النسخ المنتشرة.
وأشارت إلى أن هذه النماذج قد تختلف عن البرمجيات الخبيثة التقليدية بقدرتها على اكتشاف أجهزة غير مألوفة واستهداف معالجات مراكز البيانات، ما يوسع نطاق الأجهزة التي يمكن أن تنتقل إليها.
وركزت التجارب على أجهزة إنترنت الأشياء، ومنها أجهزة التلفزيون العاملة بنظام أندرويد والأجهزة المنزلية الذكية وغيرها من الأجهزة المتصلة بالإنترنت، التي قد تكون أقل حماية من الأنظمة الأكثر تطورًا في مجال الأمن السيبراني.
ولفتت أنثروبيك إلى أنه إذا استمرت النماذج الصغيرة في التحسن بالوتيرة الحالية، فقد تصبح قادرة على نسخ نفسها بصورة مستقلة بحلول نهاية عام 2026، على أن تتبعها بعد ذلك بوقت قصير نماذج صغيرة تعتمد على الأوزان.
وأضافت أن أنظمة الذكاء الاصطناعي المستقلة قد تنسخ نفسها ببطء، معتمدة على موارد حوسبة متاحة على نطاق واسع وأجهزة لا تتمتع بمستويات كافية من الحماية.
ودعت الشركة إلى تعزيز أمن الأنظمة والأجهزة المتصلة بالإنترنت، لجعل انتشار وكلاء الذكاء الاصطناعي ذاتيي النسخ أكثر صعوبة، والحد من المخاطر المحتملة الناجمة عن تطور هذه القدرات.
