حذّر رؤساء كبرى شركات الذكاء الاصطناعي مجلس الأمن الدولي من التطور الذاتي لهذه التقنيات دون تدخل بشري، معتبرين ذلك خطراً جسيماً يهدد البشرية جمعاء. وأكدوا أن الأنظمة تتقدم بوتيرة متسارعة يصعب التحكم فيها. وصرح سام ألتمان، الرئيس التنفيذي لشركة "OpenAI"، بأن
الذكاء الاصطناعي قد يتطور بشكل أسرع من قدرة البشرية على التفاعل معه. وأوضح خلال جلسة مجلس الأمن المخصصة للموضوع، أن "أنظمة الذكاء الاصطناعي تصبح أكثر قوة واستقلالية، وقد تتطور بوتيرة أسرع من مؤسساتنا". وحذر ألتمان من أن "الخطر يكمن في
سرعة التغيرات، بحيث لم يعد بإمكان الناس مواكبة ما يجري أو التدخل عند الحاجة لوقفه". وأضاف ألتمان أن هذه المخاطر تكتسب أهمية خاصة "مع اقترابنا من إنشاء أنظمة قادرة على تحسين ذاتها ونسخها المستقبلية"، مشيراً إلى أن "أتمتة عملية إنشاء الذكاء
الاصطناعي قد تؤدي إلى تسريع حاد في تطوره". وتأتي هذه التحذيرات في خضم تصاعد الجدل العالمي حول مخاطر الذكاء الاصطناعي غير الخاضع للرقابة. وفي هذا السياق، سبق وأن حذر المفوض السامي للأمم المتحدة لحقوق الإنسان، فولكر تورك، من أن "الذكاء الاصطناعي
المتطور قد يشكل تهديداً وجودياً للبشرية"، داعياً إلى وضع "خطوط حمراء" دولية. كما حذر عالم النفس المعرفي البريطاني-الكندي جيفري هينتون، أحد أبرز رواد الذكاء الاصطناعي والحائز جائزة نوبل في الفيزياء عام 2024، من أن "فقدان السيطرة على الذكاء الاصطناعي، الذي يفوقنا
عبقرية، قد تكون له عواقب كارثية، بل وقد يؤدي إلى انقراض البشرية". ودعا السيناتور الأمريكي بيرني ساندرز سابقاً إلى "وقف مؤقت لتطوير الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي فائق الذكاء"، مؤكداً: "عندما تكون في سباق نحو حافة الهاوية، لا تكتفي بتخفيف
الضغط على دواسة الوقود، بل تضغط على المكابح".
