اختبار لنظام “نواه بردكت” يحلل 52 مليون نقطة بيانات ويرصد مخاطر فقدان السيطرة وانهيار المؤسسات
نبأ الإخبارية: قدّر نظام للذكاء الاصطناعي احتمال انقراض البشرية خلال السنوات العشر المقبلة بنسبة 0.85%. ويعادل ذلك فرصة واحدة من بين كل 118 تقريباً. وجاء ذلك وفق تجربة أجرتها صحيفة “إندبندنت” البريطانية. وتمت التجربة بالتعاون مع نظام “نواه بردكت”. ويعتمد هذا النظام على تحليل ملايين البيانات والأخبار لتوقع المخاطر.
ويُعَد هذا التقدير أقل بكثير من توقعات خبراء السلامة الرقمية. وجاءت التجربة عقب استقالة الباحث جاكوب كوكسون من شركة “أنثروبيك”. حيث حذر كوكسون من تقامُر الشركات بحياة البشر. وأكد زميله إيفان هوبينغر أن بعض العاملين يتوقعون مخاطر أعلى. وتصل نسبة خطر الذكاء الاصطناعي وانقراض البشرية عندهم إلى أكثر من 10%. وأيد جيفري هينتون الحائز على جائزة نوبل هذه التوقعات. وأكد هينتون أن نسبة 10% تعد تقديراً غير مستبعد.
اقرأ أيضاً:
- انتخابات المجلس التشريعي 2027.. معوقات سياسية وأمنية تدفع لسيناريو التأجيل
- الأسيرة الحامل دانا جودة تضع مولودتها داخل سجن “الدامون”
تحليل عميق لـ52 مليون نقطة بيانات ومواجهة مخاطر التهديد البشري
وحسَب الصحيفة، حلل النظام السؤال من 41 زاوية مختلفة. كما أجرى 108 عمليات بحث للتحقق من المعلومات. واستند النظام إلى 52 مليون نقطة بيانات للتوصل للنتيجة. وخلص إلى أن احتمال خطر الذكاء الاصطناعي وانقراض البشرية يبلغ 0.85%. ومع أنه أقل من 1%، لا يمكن تجاهل هذا الخطر. وتعود الخطورة لوجود سيناريوهات ذات نتائج غير قابلة للتراجع.
ويرصد “نواه بردكت” التهديد الأول في استغلال أطراف ثالثة للتقنية. حيث يمكن استخدامها لتنفيذ هجمات سيبرانية أو بيولوجية خطيرة بفاعلية عالية. ومع ذلك، يؤكد النظام أن الآلة لا تمتلك نوايا عدائية مستقلة. بل تعتمد كلياً على المشغل البشري الذي يوجهها للضرر.
انهيار المؤسسات وسيناريو فقدان السيطرة البشرية
ويتطرق التقرير إلى الخطر الثاني المتمثل في إعادة تنظيم سوق العمل بسرعة تفوق قدرة الموظفين على التأهيل أو الانتقال إلى وظائف جديدة. ويزداد التهديد سوءاً عندما تصبح المؤسسات والقطاعات الحيوية معتمدة على الخدمات الآلية بدرجة تفقد معها القدرة على العمل المستقل عند حدوث عطل أو هجوم أو اتخاذ قرار آلي خاطئ.
أما السيناريو الثالث والأكثر إثارة للقلق، فهو تحول السيطرة البشرية إلى مجرد إجراء شكلي. ويحدث ذلك عندما تُصمم أنظمة تسعى لتحقيق هدف معين وتعتبر التدخل البشري عقبة في طريقها، فتستمر في تنفيذ هدفها بغض النظر عن محاولات إيقافها أو تصحيح مسارها.
تداخل السيناريوهات وتدابير الحماية المقترحة
وللحد من هذه المخاطر، اقترح النظام اتخاذ إجراءات حازمة، تشمل تقييد صلاحيات الخوارزميات، ومنع وصولها إلى البنية التحتية الحساسة، وإخضاعها لاختبارات عدائية دورية، إلى جانب التحقق المستمر من إجراءات الإيقاف واستعادة السيطرة.
وترى الصحيفة أن هذه السيناريوهات قد تتداخل، حيث تسبب اضطرابات سوق العمل عدم استقرار سياسي يضعف قدرة المجتمعات على فرض الرقابة. ونتيجة لذلك، تظل النتيجة الأساسية للتجربة هي إظهار أن تقييم خطر الذكاء الاصطناعي وانقراض البشرية يظل محل خلاف واسع بين الخبراء والأنظمة الآلية.