منوعات

الذكاء الاصطناعي يطور نفسه دون سيطرة البشر وتحذيرات تنبه من الأخطار

509
الذكاء الاصطناعي يطور نفسه دون سيطرة البشر وتحذيرات تنبه من الأخطار

حذر باحثون حاليون وسابقون في شركتي "أوبن إيه آي" و"جوجل ديب مايند" من أن شركات تطوير الذكاء الاصطناعي لا تبذل جهودًا كافية للحد من المخاطر المحتملة للأنظمة المستقبلية، التي قد تتمكن من تحسين نفسها ذاتيًا بما يتجاوز قدرة البشر على التحكم فيها.


وأوضح الباحثون، في شهادات مصورة جمعتها منظمة "باليسيد ريسيرش" غير الربحية المعنية بسلامة الذكاء الاصطناعي، أن مخاوفهم بشأن المخاطر الوجودية للذكاء الاصطناعي حقيقية وليست جزءًا من حملات تسويقية، مشيرين إلى أن شركات التقنية تميل إلى مكافأة مطوري النماذج الجديدة أكثر من الباحثين الذين يدعون إلى الحذر والتريث.


وتزايدت المخاوف بشأن مستقبل الذكاء الاصطناعي خلال الأشهر الأخيرة، خصوصًا بعد حادثة شهدها يوليو الماضي، عندما تمكن وكلاء ذكاء اصطناعي تابعون لشركة "أوبن إيه آي" من تجاوز بيئة الاختبار الخاصة بهم واختراق منصة "هاجينج فيس" المتخصصة في نماذج الذكاء الاصطناعي.


وقال عالم الأبحاث في "ديب مايند" نيل ناندا، في إحدى الشهادات المصورة، إنه يرى أن هناك احتمالًا لا يقل عن 10% لأن يؤدي الذكاء الاصطناعي في نهاية المطاف إلى انقراض البشرية، واصفًا هذه النسبة بأنها "مرتفعة بشكل مثير للقلق".


من جانبه، أكد مهندس أبحاث مواءمة الذكاء الاصطناعي في "أوبن إيه آي"، خوان فيليبي سيرون أوريبي، أن تطوير هذه التقنيات يتطلب قدرًا أكبر من الحذر، منتقدًا ما وصفه بسباق محموم بين المختبرات الرائدة لتطوير نماذج أكثر تقدمًا دون وضوح كافٍ بشأن عواقبها المستقبلية.


وأضاف أن العالم لا يعرف بعد ما إذا كانت هذه التقنيات ستقود إلى إنجازات كبرى مثل علاج الأمراض المستعصية، أم إلى فقدان ملايين الوظائف، أو حتى التسبب في تداعيات أكثر خطورة على البشرية.


ويرى عدد من الباحثين أن العالم لا يزال غير مستعد للأجيال المقبلة من نماذج الذكاء الاصطناعي، خاصة تلك التي قد تمتلك القدرة على التعلم المستمر وتطوير قدراتها بشكل ذاتي ومتكرر دون حاجة إلى تدخل بشري مباشر.


وتعززت هذه الدعوات مؤخرًا بعد نشر الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، مقالًا دعا فيه العاملين في قطاع الذكاء الاصطناعي إلى إبطاء وتيرة التطوير وإعطاء الأولوية لعوامل الأمان، وهو موقف حظي بتأييد الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان.


كما دعا عدد من كبار الباحثين في القطاع، من بينهم كبير العلماء في "أوبن إيه آي" وأحد مؤسسي "أنثروبيك"، صناع السياسات إلى وضع أطر رقابية للتعامل مع النماذج المستقبلية التي تعتمد على التحسين الذاتي المتكرر، محذرين من أن هذه التقنيات قد تمثل التحدي الأكبر الذي يواجه البشرية في العقود المقبلة.


مقالات ذات صلة

إدارة ​ترامب تصدر لائحة تقيد ‌بشكل أكبر وصول الصين إلى رقائق الذكاء الاصطناعي

إدارة ​ترامب تصدر لائحة تقيد ‌بشكل أكبر وصول الصين إلى رقائق الذكاء الاصطناعي

أصدرت إدارة الرئيس الأمريكي دونالد ​ترامب اليوم الاثنين لائحة تقيد ‌بشكل أكبر وصول الصين إلى رقائق الذكاء الاصطناعي المتطورة من شركات رائدة ​مثل إنفيديا، وذلك مع استعداده ​للقيام بزيارة إلى الصين للقاء ⁠الرئيس شي جين بينغ.
68
أغاني وردة عبر مكبرات المساجد وقت أذان الفجر.. ماذا حدث في الأردن؟

أغاني وردة الجزائرية عبر مكبرات المساجد وقت أذان الفجر.. ماذا حدث في الأردن؟

فوجئ أردنيون ببث أغنيات للفنانة الجزائرية وردة عبر مكبرات الصوت في عدد من المساجد، بالتزامن مع موعد الأذان الموحد عند الفجر، قبل انقطاع البث الغنائي واستئناف الأذان.
52
أضخم حدث ترفيهي في العقد الحالي.. لعبة غراند ثفت أوتو 6 "GTA VI" في 19 نوفمبر

أضخم حدث ترفيهي في العقد الحالي.. لعبة غراند ثفت أوتو 6 "GTA VI" في 19 نوفمبر

ساعات قليلة تفصلنا عن إطلاق أضخم حدث ترفيهي في العقد الحالي، لعبة "غراند ثفت أوتو 6" (GTA VI)، في 19 نوفمبر تشرين الثاني الجاري
60
اتفاق سوري أردني لزيادة الأمطار في حوض اليرموك.. خبير لـSyria One: السيطرة الإسرائيلية تعقّد إدارة الموارد المائية المشتركة

اتفاق سوري أردني لزيادة الأمطار في حوض اليرموك.. خبير لـSyria One: السيطرة الإسرائيلية تعقّد إدارة الموارد المائية المشتركة

وقّعت سوريا والأردن، في 9 تشرين الثاني 2026، مذكرة تفاهم للتعاون في مشروع الاستمطار بحوض نهر اليرموك، بهدف زيادة الهطولات المطرية وتنمية الموارد المائية المشتركة، عبر دراسات مناخية وتجارب ميدانية وتبادل البيانات والخبرات
273
ما هو أفضل وقت لتناول التمر؟

ما هو أفضل وقت لتناول التمر؟

يوضح خبراء التغذية أن اختيار الوقت المناسب لتناول التمر يعتمد على الهدف، سواء كان التغلب على الخمول خلال النهار أو تعزيز النشاط قبل ممارسة الرياضة أو المساعدة على التعافي بعدها.
60
سيرياون إعلان 7