حذر باحثون حاليون وسابقون في شركتي "أوبن إيه آي" و"جوجل ديب مايند" من أن شركات تطوير الذكاء الاصطناعي لا تبذل جهودًا كافية للحد من المخاطر المحتملة للأنظمة المستقبلية، التي قد تتمكن من تحسين نفسها ذاتيًا بما يتجاوز قدرة البشر على التحكم فيها.
وأوضح الباحثون، في شهادات مصورة جمعتها منظمة "باليسيد ريسيرش" غير الربحية المعنية بسلامة الذكاء الاصطناعي، أن مخاوفهم بشأن المخاطر الوجودية للذكاء الاصطناعي حقيقية وليست جزءًا من حملات تسويقية، مشيرين إلى أن شركات التقنية تميل إلى مكافأة مطوري النماذج الجديدة أكثر من الباحثين الذين يدعون إلى الحذر والتريث.
وتزايدت المخاوف بشأن مستقبل الذكاء الاصطناعي خلال الأشهر الأخيرة، خصوصًا بعد حادثة شهدها يوليو الماضي، عندما تمكن وكلاء ذكاء اصطناعي تابعون لشركة "أوبن إيه آي" من تجاوز بيئة الاختبار الخاصة بهم واختراق منصة "هاجينج فيس" المتخصصة في نماذج الذكاء الاصطناعي.
وقال عالم الأبحاث في "ديب مايند" نيل ناندا، في إحدى الشهادات المصورة، إنه يرى أن هناك احتمالًا لا يقل عن 10% لأن يؤدي الذكاء الاصطناعي في نهاية المطاف إلى انقراض البشرية، واصفًا هذه النسبة بأنها "مرتفعة بشكل مثير للقلق".
من جانبه، أكد مهندس أبحاث مواءمة الذكاء الاصطناعي في "أوبن إيه آي"، خوان فيليبي سيرون أوريبي، أن تطوير هذه التقنيات يتطلب قدرًا أكبر من الحذر، منتقدًا ما وصفه بسباق محموم بين المختبرات الرائدة لتطوير نماذج أكثر تقدمًا دون وضوح كافٍ بشأن عواقبها المستقبلية.
وأضاف أن العالم لا يعرف بعد ما إذا كانت هذه التقنيات ستقود إلى إنجازات كبرى مثل علاج الأمراض المستعصية، أم إلى فقدان ملايين الوظائف، أو حتى التسبب في تداعيات أكثر خطورة على البشرية.
ويرى عدد من الباحثين أن العالم لا يزال غير مستعد للأجيال المقبلة من نماذج الذكاء الاصطناعي، خاصة تلك التي قد تمتلك القدرة على التعلم المستمر وتطوير قدراتها بشكل ذاتي ومتكرر دون حاجة إلى تدخل بشري مباشر.
وتعززت هذه الدعوات مؤخرًا بعد نشر الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، مقالًا دعا فيه العاملين في قطاع الذكاء الاصطناعي إلى إبطاء وتيرة التطوير وإعطاء الأولوية لعوامل الأمان، وهو موقف حظي بتأييد الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان.
كما دعا عدد من كبار الباحثين في القطاع، من بينهم كبير العلماء في "أوبن إيه آي" وأحد مؤسسي "أنثروبيك"، صناع السياسات إلى وضع أطر رقابية للتعامل مع النماذج المستقبلية التي تعتمد على التحسين الذاتي المتكرر، محذرين من أن هذه التقنيات قد تمثل التحدي الأكبر الذي يواجه البشرية في العقود المقبلة.
